El potencial de la nueva herramienta de IA demanda un estudio solvente sobre sus efectos indeseados
La inteligencia artificial ha invadido la conversación pública justificadamente: es formidable el potencial que la herramienta ChatGPT (una especie de robot de la empresa OpenAI capaz de conversar con el usuario) ofrece, y son millones y millones de personas quienes han descubierto ya su capacidad de respuesta. Tanto EE UU como China y distintos Estados europeos, incluida España, han activado mecanismos para estudiar posibles efectos indeseados. La sospecha de vulnerar la legislación sobre protección de datos ha sido la causa para abrir una investigación de la Agencia Española de Protección de Datos, como ha anunciado también que hará el organismo que coordina las agencias europeas (mientras Italia ha bloqueado el acceso a ChatGPT). Aducen que la IA generativa podría estar nutriéndose tanto de datos privados como de los de facturación de los usuarios y las empresas, incluidas las conversaciones que mantiene cada ciudadano con el sistema para entrenar los algoritmos. ¿Contesta igual sobre Franco ante la misma pregunta de un votante de Vox o de Podemos? De hecho, hay indicios de que inventa respuestas con trazas de verosimilitud pero infundadas.
Son inquietudes legítimas ante su impacto en múltiples ámbitos humanísticos —de la docencia al periodismo o el saber recreativo. La herramienta se nutre de lo que tiene a su alcance: internet entera, aunque debería excluir (según la normativa europea) bancos de datos de acceso limitado o fuentes protegidas por derechos de autor. La consistencia discursiva del texto generado artificialmente puede bastar para transmitir como veraz lo que solo es verosímil o meramente coherente. Pero en infinidad de asuntos humanos no existe verdad alguna de referencia, no la hay sobre el aborto, sobre el consumo de drogas o sobre la sexualidad. La capacidad de afinar respuestas que resulten persuasivas para el usuario, de acuerdo con su propia expectativa de respuesta entrenada por el algoritmo, forma parte del problema porque no hay respuesta única para la mayoría de preguntas que nos formulamos los humanos. La recomendación del comisario Thierry Breton quizá se queda corta: no solo debe avisarse de que la respuesta está producida por inteligencia artificial sino que nada ni nadie puede garantizar el acierto de la respuesta ofrecida. Será necesario analizar con información fiable su funcionamiento y supervisar de forma independiente los riesgos para rentabilizar un invento prodigioso, sin eludir los efectos nocivos que su manipulación pueda tener.
Fuente:
elpais.com
