¿La inteligencia artificial está alimentando las tesis negacionistas en línea?

La UNESCO ha alertado sobre el uso de plataformas de inteligencia artificial para distorsionar la historia del Holocausto y crear entre los jóvenes un caldo de cultivo del antisemitismo. En un informe, la agencia de la ONU para la educación y la cultura explica que al usar la inteligencia artificial para tareas o búsqueda de información se exponen a contenidos negacionistas.

ChatGPT, Gemini o Copilot: el 90% los jóvenes de hoy en día usan estas plataformas con frecuencia para averiguar datos o ayudarse con las tareas. Pero los expertos de la UNESCO han observado cómo pueden volverse engañosas a la hora de buscar acerca de la historia del Holocausto.

“Su comprensión se puede modificar”, explica Karel Fracapane, responsable de lucha contra los discursos de odio en la agencia de la ONU para la educación y la cultura.

Esto está relacionado con el funcionamiento de los modelos de inteligencia artificial.  “Absorben y amplifican prejuicios porque la herramienta va a recuperar todas las informaciones que están disponibles en línea. Vimos que algunos de ellos fueron entrenados con datos procedentes de páginas online negacionistas”, detalla.

La UNESCO recuerda que ChatGPT “se inventó” un concepto totalmente erróneo: “Para llenar el vacío va a producir informaciones o conceptos inexistentes, como por ejemplo el del exterminio de judíos por ahogamiento”, asegura Karel Fracapane.

“Son fenómenos llamados 'alucinatorios', o sea que las plataformas de inteligencia artificial se inventan hechos cuando carecen de fuentes en internet. Para llenar el vacío va a producir informaciones o conceptos inexistentes. Esos problemas hay que resolverlos y tenerlos en mente", dice.

Chatear con Goebbels

El año pasado, una aplicación llamada Historical Figures causó indignación al proponer chatear con "figuras históricas", como Adolf Hitler o Joseph Goebbels, “y afirmaba erróneamente que individuos como Goebbels no habían participado de forma intencionada en el Holocausto y habían intentado evitar la violencia contra los judíos”, según detalla el informe.

“Ese método de inteligencia artificial llamado aprendizaje profundo permite discutir con individuos que pueden proporcionar informaciones retorcidas”, explica Fracapane.

“También se puede usar la IA para crear deep fakes, o ultrafalsos, usando fotos, audios o videos y luego difundirlos en redes sociales. Ocurrió con un video fabricado que representa a la actriz Emma Watson leyendo Mein Kampf en voz alta. Eso lo han difundido a millones de usuarios".

El asunto, dice la UNESCO, es que hay que supervisar a las empresas de IA, aunque éstas tengan “sus propios sistemas de control”, y capacitar a los maestros sobre estas tecnologías.

“Los profesores deben tener mayor conciencia sobre el impacto de esas herramientas. Se necesita educar sobre las tecnologías informativas", concluye Fracapane.