Debate sobre IA generativa no solo es tecnológico, también social: Unesco

Hasta ahora la narrativa sobre lo que debe ser la inteligencia artificial generativa, su implementación y regulación, lo han dominado las grandes compañías tecnológicas multinacionales como Microsoft, Amazon o Google, sin embargo, ataja la subdirectora general de Ciencias Sociales y Humanas de la Unesco, Gabriela Ramos, el debate no solo es tecnológico, sino también social, y desde esa perspectiva, esta agencia de la ONU abordará un diagnóstico sobre el estado de la inteligencia artificial en México.

“La discusión era tecnológica, pero la Unesco pone la conversación en su justa dimensión humana y ética porque al final la inteligencia artificial generativa, que es tan disruptiva y está en todos los ámbitos del quehacer humano, está transformando también nuestra sociedad y eso es lo que tenemos que preguntarnos, si nos está ayudando a construir sociedades más inclusivas, más justas, a reducir las desigualdades o si simplemente las está maximizando”, dice Gabriela Ramos en entrevista desde París para Forbes México.

Luego de un acuerdo con la Asociación Nacional de Inteligencia Artificial (ANIA), impulsada por la senadora Alejandra Lagunes y apoyada por el sector público, privado y académico, la Unesco acordó hacer un escaneo sobre el estado de madurez del ecosistema de inteligencia artificial en México, mismo que Gabriela Ramos adelanta a este medio que estará listo hacia el primer trimestre de 2024 y podrá servir para promoverlo entre las candidatas presidenciales con el objetivo de que sumen el tema en sus proyectos de país.

“Haremos un escaneo del país en términos del nivel de inversiones, de adopción de la tecnología, pero también y sobre todo en términos de la gobernanza de la tecnología; es decir, si contamos con las reglas, legislaciones y capacidades institucionales para direccionar hacia dónde queremos que vaya la tecnología. Lo estamos haciendo con 40 países, entre ellos México”, comparte Ramos, quien añade que a estos ejes se añadirán otros como aspectos culturales, sociales, ambientales y de derechos humanos.

Para la directora de Humanidades de la Unesco, un tema como la inteligencia artificial generativa, al ser de alcance global, requiere un enfoque global, sin embargo, hay matices que pertenecen a cada país o región del mundo. No obstante, el desarrollo de la IA puede tener sesgos de origen no intencionados, ya que mayoritariamente está desarrollada por hombres blancos, y esto podría dar pie a que la aplicación de esta tecnología contenga elementos discriminatorios, lo cual es un punto que reafirma que la conversación no solo es tecnológica, sino social y política también.

Gabriela Ramos reconoce que México no parte de cero. Al final, como el resto de los países, las empresas empiezan a adoptar su uso y los gobiernos empiezan a explorar mecanismos de gobernanza, pero esta ecuación también debe incluir a la academia y los centros de investigación, a las organizaciones no gubernamentales “porque muchas de ellas a nivel internacional están empujando que haya una forma distinta de gobernar estas tecnologías para asegurar que tengan un impacto positivo en la sociedad. La intención es que todos los que tengan algo que decir se sientan representados”.

Otro aspecto importante que considerará el diagnóstico es el talento, ya que una mayor adopción de tecnologías de inteligencia artificial demandará más personas capacitadas para su desarrollo, mantenimiento, entrenamiento, ampliación, algo que también ya preocupa a países como Estados Unidos, Reino Unido o Francia. “Es necesario saber en qué competencias tenemos que invertir, es un elemento fundamental. Países como como el Reino Unido o Francia están con esta preocupación de dónde van a tener las competencias y a las gentes preparadas para avanzar en esta industria. Imagínate en México en donde todavía tenemos retos muy importantes en educación”.

“Esto nos lleva de vuelta al debate social”, se le hace notar a la funcionaria de la Unesco, a lo que responde: “esta tecnología nos puede ayudar a abordar el tema de la salud o de la educación desde otro enfoque, sin duda nos ayuda muchísimo, genera muchos datos que son muy útiles, pero si no te preguntas qué tanto está teniendo un impacto positivo en nuestros niños, qué tanto nos ayuda a ser más conscientes sobre el cambio climático, entonces no estamos teniendo una conversación distinta”.

Y ya existe un antecedente de que el debate debe ser integral, y no solo tecnológico. Hace un par de años la Unesco lanzó su Recomendación sobre la Ética de la Inteligencia Artificial, recuerda Gabriela Ramos, y entonces decenas de países “se pronunciaron porque estas tecnologías nos ayuden a fortalecer los derechos humanos, la dignidad humana, la sustentabilidad, la justicia social. Así se vuelve una conversación mucho más enfocada al humano porque sí, esta tecnología tiene una capacidad maravillosa, pero también se están difundiendo cantidad de informaciones falsas (generadas con IA) que están dividiendo a la sociedad”.

Sobre el papel que puede desempeñar México en la danza de la inteligencia artificial, Gabriela Ramos considera que nuestro país tiene el potencial para “ser un jugador importante”, pero además de la capacidad institucional, la capacitación del talento, las brechas digitales y sociales, el país enfrenta otros rezagos en infraestructura carretera, portuaria, aeroportuaria, ferroviaria, de telecomunicaciones e investigación y desarrollo en la academia.

“Pero no hay que olvidar que México ha tenido un incremento importante de inversiones en este rubro y sobre todo en un contexto en el hay una disminución significativa de los vínculos de Estados Unidos con países como China; evidente que aquellos países que están más cercanos, como México, se estén beneficiando más de estas inversiones. Entonces sí ha habido una inversión importante en términos del mercado, pero me parece que seguramente va a ser una inversión también muy desigual, vamos a tener a las grandes empresas pintando muy bien respecto de la adopción y la utilización, pero vas a tener un mundo de rezago en términos de falta de acceso a la a la economía digital”, abunda la representante de Unesco.

Sobre la regulación de la inteligencia artificial generativa y la posición de las grandes tecnológicas en el sentido de que sí se debe regular, pero sin socavar la innovación, Gabriela Ramos opina que, así como en el sector financiero que hay privacidad y confidencialidad, pero que cuando ocurren algún error se abren los datos para determinar qué pasó, así debe ocurrir con la IA generativa. “Si alguien es dañado en su integridad entonces por supuesto abres el código y lo compartes, se tienen que privilegiar los derechos humanos. Y luego si se comprueba que hubo daño tiene que haber compensación y tiene que haber un sistema de justicia, que no se ha desarrollado de una manera muy precisa en este rubro”.

“No hay que meterse a los laboratorios y ver dónde están los equipos, pero sí podemos decir, por ejemplo, que sea una norma que haya representatividad en los datos y de pronto hacer algunas auditorías, porque si no pasa como aquellos datos que se usaban en el sistema de justicia americano en donde todos los que eran reincidentes eran negros o cuando le pides a internet muéstrame imágenes de hombres exitosos y solo salen hombres blancos. Entonces, por ejemplo, la calidad de los datos se puede regular, la diversidad de los equipos de trabajo se puede regular, el tema de los idiomas también. Yo creo que es como cualquier otra tecnología, y no quiero decir que sea una cosa sencilla, pero sí podemos incidir en la forma de cómo se debería abordar”, cierra su charla con Forbes México la subdirectora general de Ciencias Sociales y Humanas de la Unesco.

Fuente: Agencia ID.