PAOLA RICAURTE QUIJANO
Fotografía de Jesús Guillermo Hernández Ortiz
Con el fin de abordar la reflexión del papel de la Inteligencia Artificial en el eje temático de discriminación, ética y desigualdad, en el marco del foro Perspectiva Multidisciplinaria de la Inteligencia Artificial (IA) desde la Educación Superior, organizado con motivo del 50 aniversario de la UAM y como parte de los Foros Académicos Conmemorativos, se llevó a cabo la ponencia de la doctora en Ciencias del Lenguaje, Paola Ricaurte Quijano, denominada, “Perspectiva multidisciplinaria de la Inteligencia Artificial (IA)”, en la Sala Cuicacalli de la UAM Iztapalapa.
La doctora Ricaurte Quijano investiga diversas dimensiones de la cultura digital, como competencias digitales, tecnopolítica, derechos digitales y producción de conocimiento abierto en el Tecnológico de Monterrey y es cofundadora de la Red Tierra Común, donde activistas y académicos analizan la descolonialidad y los datos, y forma parte de la Red Feminista de Investigación de la IA, proyecto para el desarrollo de tecnologías feministas.
En cuanto al contexto civilizatorio, la doctora Ricaurte Quijano aseveró que su filosofía pedagógica está inspirada en la obra del pedagogo brasileño Paulo Freire. Afirmó que en la crisis civilizatoria actual en la que vivimos, la crisis global nos debe llevar a reflexionar sobre la práctica pedagógica y política. Contexto que puede considerarse como una cuarta revolución industrial caracterizada por los campos físico, biológico y digital.
Unos observan que se está tendiendo a un capitalismo de la vigilancia, al llamado colonialismo de datos o capitalismo digital. Este capitalismo usa a las personas como materia prima, traducida en datos de comportamiento que implica una acumulación de conocimiento, al final resulta en una concentración de poder, controlada por corporaciones de países industrializados que capturan los datos del mundo.
Muchas herramientas tecnológicas que se usan en la educación son herramientas de control, vigilancia y captura de datos. Véase el ejemplo de escuelas en China donde usan unas diademas para medir, mediante sensores, la actividad cerebral de los alumnos y detectan la concentración del estudiante con la intención de mejorar el rendimiento escolar. Esto ocurre a nivel global, incluso en México.
El abordaje del estudio de la IA es complejo, abarca el campo de las tecnologías y el ámbito mercadológico. Para la Organización para la Cooperación y el Desarrollo Económico (OCDE), la IA es “un sistema basado en máquinas que, por objetivos implícitos o explícitos, infiere, a partir de la entrada que recibe (input), cómo generar salidas (outputs) tales como predicciones, que pueden influir en entornos físicos o virtuales. Los distintos sistemas de IA varían en sus niveles de autonomía y capacidad de adaptación tras su despliegue en el mundo”.
Sin embargo, para quienes trabajan este tema desde las humanidades, se deben entender como sistemas sociotécnicos que cargan con las marcas sociales de su producción, estos ensamblajes algorítmicos se articulan también como ensamblajes epistémicos en los cuales se está mediando la producción del conocimiento y la percepción del mundo, de la realidad y del orden social.
La IA se relaciona con la igualdad, la justicia y los derechos humanos o a la desigualdad, la injusticia y afecta a los derechos humanos, partiendo de que la IA se deriva de una relación de poder, donde existen asimetrías profundas. Es un ensamblaje de poder histórico, sistémico y estructural. Se concentra en cinco empresas (Apple, Facebook, Amazon, Microsoft, IBM) que amplían las brechas económicas entre países que producen estas tecnologías, entre las que no las producen.
Hablando de desigualdades de género, se ven usadas por herramientas de IA en el caso de la producción de contenidos, principalmente orientados a la producción de pornografía, utilizando en un 99 % a mujeres. Podemos ver formas en las que se reproduce la injusticia en los sistemas ambientales y las disputas con los grupos sociales que reclaman su derecho al agua. Las empresas de datos consumen enormes cantidades de agua en los lugares donde se instalan, como es el caso de la planta de Google, en Uruguay, usa 7.6 millones de litros de agua al día para enfriar los servidores, equivalente al uso doméstico diario de 55 mil personas. Otras formas de violencia son el uso de sistemas de vigilancia robotizada en las fronteras y el tema de la guerra con el uso de armas automatizadas.
Los desafíos pedagógicos tienen que ver directamente con la afectación a los derechos humanos como la privacidad, la información, el derecho a la verdad, a la educación, a la vida libre de violencia, a la igualdad y a la no discriminación, conjunto de derechos que lleva a reflexionar cuál es la misión desde la academia frente al despliegue de estos sistemas en todos los ámbitos de la vida.
Se habla entonces de una ruptura epistémica, una transformación de los regímenes de verdad, del saber de autoridad y el nuevo contexto en el que las nuevas tecnologías, según se usen, pueden ser armas de destrucción masiva o de distracción masiva.
Las decisiones pedagógicas son también políticas y deben evaluar la pertinencia de las herramientas tecnológicas desde un enfoque pedagógico que promueva la autonomía y el respeto a los derechos humanos de los estudiantes, concluyó la investigadora del Tecnológico de Monterrey.
