Los sesgos y el impacto ambiental como principales debates éticos en el desarrollo de la IA

Si le preguntas a la inteligencia artificial (IA) sobre los principales debates éticos a los que se enfrenta en su desarrollo, te diría que estos incluyen “la responsabilidad por sus decisiones, la privacidad y el manejo de datos, la discriminación algorítmica, el impacto en el empleo y la autonomía de las máquinas en áreas como la guerra y la justicia”.

El director del Centro Nacional de Inteligencia Artificial de Chile (Cenia), Rodrigo Durán, señala que los sesgos -entiéndase por ello como los prejuicios o concepciones de la realidad que pueden influir en los resultados de los sistemas de IA-, son el desarrollo que más cuestiones éticas plantea en el mundo de la inteligencia artificial.

“Si no somos conscientes o no hacemos prácticas concretas para eludir la aparición de sesgos en la programación de algoritmos, probablemente vamos a amplificar ese sesgo que ya estaba en el área”, explica.

Durán asegura que el problema no tiene que ver tanto con cómo fue entrenado, sino con la base de datos que se le entrega para desarrollar.

Otro de los puntos de vista que el director del Cenia advierte a tener en cuenta es el impacto ambiental de la IA: el consumo energético. “República Dominicana y Chile tienen ciertas ventajas comparativas que podrían permitirle desarrollar una industria más fuerte de abastecimiento de datos, aprovechando la producción de energías limpias”, sostiene.

También, detalla la capacidad de la IA para afectar la realidad o alterarla. “Hay cierto grado de preocupación respecto a los usos que nosotros no concebimos cuando se crea la tecnología, pero terminan siendo cuestionables”.

Desarrollos a tener en cuenta

Para él, los modelos generativos de lenguaje y los multimodales han aumentado de forma explosiva los últimos años. “Seguir mirando cómo evolucionan ya no solamente como el modelo de texto sino como modelos multimodales, que no son tanto el ingreso de datos sino también la salida de datos que serán texto, imágenes, video o audio; creo que es algo que vale la pena mirar” desarrolla.

La IA en el Caribe

Desde su perspectiva sobre la situación de la inteligencia artificial en el Caribe, “uno detecta que, salvo República Dominicana, el resto de los países tienen un rezago más bien importante”.

República Dominicana está, según el director del Cenia, en el grupo de países que se llaman adoptantes. “Tienen un cierto grado de madurez frente a otros países de la región. Probablemente tiene que ver con que hay un ecosistema de formación de personas e investigadores; ha evolucionado más rápido que otros países comparables por PIB”, certifica.

Liderato chileno en la IA

La labor de Durán en el Cenia es de coordinación de las distintas actividades en investigación, desarrollo y transferencia de la IA.

Este centro trabaja como laboratorio de inteligencia artificial, operando en toda la región, buscando llevar soluciones a la industria de América Latina y el Caribe.

Se encuentra ubicado en Chile, país que en la actualidad es líder en el desarrollo de la IA en la región, según el Índice Latinoamericano de Inteligencia Artificial (ILIA) 2024.

Durán justifica que esto se debe, principalmente, “con una serie de políticas públicas que no apuntaban hacia la inteligencia artificial, sino que fueron, en el resultado de decisiones de otra índole”.

“Particularmente (Chile) tiene una muy buena conectividad, tiene una velocidad de descarga, acceso y tasas de acceso a internet de alta velocidad que son mejores que las europeas” expresa.