OpenAI elimina bot que se hacía pasar por candidato presidencial en EE.UU.
OpenAI toma medidas ante uso político de su tecnología
AFP
Open AI, empresa creadora de ChatGPT, eliminó un bot que imitaba la voz de un candidato presidencial en Estados Unidos, una medida que refuerza los límites de las campañas políticas en el uso de la inteligencia artificial (IA).
Un grupo político que respalda al congresista estadounidense Dean Phillips le encargó a una empresa basada en Miami que creara un bot conversacional que permitiera a los usuarios interactuar con el candidato a través de un formato pregunta-respuesta.
"Recientemente eliminamos la cuenta de un desarrollador que estaba violando conscientemente la política de uso de nuestra API (o plataforma), que no permite hacer campañas políticas o imitar a un individuo sin su consentimiento", le dijo el sábado OpenAI al diario Washington Post.
El auge de la IA generativa ha despertado temores de que la gente pueda usar ChatGPT y otras plataformas para provocar caos político a través de desinformación o de clones hechos con IA, en particular por el importante calendario electoral de este año en el mundo.
Como líder en ese campo, OpenAI está bajo especial escrutinio alrededor de estas preocupaciones. La compañía dijo la semana pasada de ofrecerá herramientas a los usuarios para disminuir la posibilidad de daño proveniente de su tecnología.
El "Dean-bot" se creó como una herramienta de información sobre el candidato a las primarias del Partido Demócrata, que enfrenta al presidente Joe Biden.
La herramienta está basada en la tecnología de OpenAI, y fue removida luego de que el Washington Post la promocionara en un artículo.
We Deserve Better, el grupo político detrás del bot, lo codirige un exmiembro del equipo de Sam Altman, director ejecutivo de OpenAI, y es financiado por inversionistas de Sillicon Valley.
"Nos hemos disculpado tanto con OpenAI como con We Deserve Better por nuestro error", dijo Delphi, la startup encargada de desarrollar el bot que fue eliminada de la plataforma de OpenAI.
AFPAFP es una importante agencia de información mundial que ofrece una cobertura rápida, contrastada y completa.
Continuar con Google