Inteligencia Artificial: debatir los desafíos y oportunidades es una necesidad, no una moda

En el marco del Foro de la Gobernanza del Internet 1 (“IGF”, por sus siglas en inglés) durante el mes de octubre en Kioto, Japón, se confabularon diversos actores -como entes gubernamentales, personajes académicos, organizaciones de la sociedad civil y plataformas digitales, entre otros- con el objetivo de reflexionar y analizar el rol de la inteligencia artificial (IA) desde distintas aristas y aplicaciones. Particularmente, hubo la necesidad de reflexionar sobre las distintas violaciones de derechos humanos relacionadas con la privacidad, la protección de datos personales y la gobernanza de la IA, hasta cuestionar el rol de esta tecnología en aspectos relativos al acceso y uso de la Internet, la ciberseguridad en tiempos de conflictos armados y la desinformación en una época de tensión global ante el estallido de guerras.

Las organizaciones de la sociedad civil enfatizamos en el IGF los desafíos y los impactos que las tecnologías emergentes 2 traen consigo si éstas no son desarrolladas, adaptadas e implementadas adecuadamente desde los sectores privado y público. Por ejemplo: el desarrollo de los grandes modelos lingüísticos 3 (conocidos como LLMs) son elementos vanguardistas para la proliferación del desarrollo de tecnologías para la vigilancia, y si esta herramienta es ingresada en contextos latinoamericanos -donde existe una inestabilidad democrática e historias de abuso y espionaje hacia personas periodistas y activistas-, resulta ser un terreno perfecto para violaciones de los derechos humanos más exponenciales y generalizadas.

Ante este contexto, fue así como en más de 300 sesiones y con alrededor de 1,240 ponentes, el IGF incluyó debates profundos sobre el tema, como el proceso de una política de IA como es el “IA Hiroshima – G7” la cual se estará discutiendo próximamente un modelo de regulación para este tipo de tecnología emergente, los dilemas de la gobernanza de datos y el punto de inflexión en la brecha digital que atiende desde la infraestructura hasta la alfabetización digital en la sociedad.

Una de las preguntas generalizadas de quienes atendieron el evento fue, ‘¿y qué pasa con la gobernanza de la IA?’ 4 Los diferentes sectores presentes en las discusiones consensuaron que la gobernanza de la IA es tanto un tema público como privado. Esto quiere decir que su abordaje debe de hacerse desde el beneficio que brinda a los seres humanos bajo una perspectiva de respecto y garantía a los derechos fundamentales y nunca desde una consideración meramente económica, de eficiencia o a cambio de violaciones a derechos humanos.

Entre las diferentes propuestas de abordar el tema, en la actualidad se han abierto debates en diversos países y regiones sobre si es necesario regular las aplicaciones de IA, sus usos o capacidades. Incluso, existen varios esfuerzos de organismos internacionales -como la OECD y la Unesco- que han publicado principios o recomendaciones sobre el uso ético de la IA. Desafortunadamente, partir desde ‘lo ético’ para analizar este tema es insuficiente, ya que no sustituye ni exime la necesidad de un análisis desde la perspectiva de derechos humanos. Al final, ‘lo ético’ puede llegar a partir desde una cosmovisión particular de grupos dominantes, y terminar por desdibujar la diversidad, pluralidad y necesidades específicas de grupos y poblaciones en situación de mayor vulnerabilidad. No así ocurre con los derechos humanos, que sientan un estándar relacionado con la dignidad, el disfrute y el ejercicio de las libertades de todas y para todas las personas.

Si el reto es proteger y garantizar continua y progresivamente los derechos humanos de las personas, los países deben de estar preparados a la rapidez en la que se genera la tecnología. La pertinencia y eficacia de marcos regulatorios sobre IA, más allá de la perspectiva de derechos, dependerá también de cómo garanticen no ser obsoletos, inaplicables e inviables conforme pasa el tiempo. No obstante, es innegable que lo anterior no puede realizarse sin conocer cómo funcionan los sistemas de IA, así como los procesos de su gobernanza: cuestiones que actualmente permanecen en la opacidad de las empresas desarrolladoras y los gobiernos que utilizan dichas tecnologías.

La gobernabilidad de la IA y su relevancia solo se logrará cuando cualquier propuesta para impulsar marcos regulatorios en torno a la agenda de IA esté basada en datos y evidencia, y cuando sea verdaderamente inclusiva, asegurando un proceso de participación sustantiva donde las voces expertas de distintos sectores sean incluidas, sobre todo de aquellas personas cuyos derechos democráticos pueden verse afectados por el uso de sistemas de IA.

Plantearnos los desafíos y oportunidades de la inteligencia artificial es una necesidad, no una moda, la cual ha emergido a raíz de la transformación y evolución tecnológica en los últimos años. Los debates alrededor de la agenda de la IA son prioritarios para cualquier gobierno responsable, dejando de lado las agendas políticas y los protagonismos, y considerando vincular todas las voces en el tema como parte de la participación ciudadana y el fortalecimiento de la democracia.

* Priscilla Ruiz Guillén es Coordinadora Legal de Derechos Digitales en ARTICLE 19 México y Centroamérica.

1 IGF es una plataforma global donde convergen múltiples partes interesadas que facilita el debate de política pública relacionado con Internet.

2 “Las tecnologías emergentes son aquellas que se encuentran en la fase inicial del ciclo de vida de la tecnología; nacen cuando surgen propuestas innovadoras de desarrollo de procesos, habilidades o aplicaciones diferentes que cambian las concepciones ya establecidas dentro del mercado y son capaces de modificar industrias ya constituidas y técnicas afianzadas”.

3 Los grandes modelos lingüisticos son un tipo de modelo de inteligencia artificial diseñado para tareas de procesamiento del lenguaje natural (NLP). Se entrenan con grandes cantidades de datos de texto para comprender y generar respuestas o salidas similares a las humanas.

4 Se considera que la gobernanza en inteligencia artificial resulta un modelo de relaciones entre las empresas, el gobierno y la comunidad de investigación involucradas en el avance y desarrollo de esta tecnología.