5 retos para que la Inteligencia Artificial no perpetue y automatice las desigualdades de la educación %

Uno de los principales riesgos de la inteligencia artificial (IA) es la desigualdad en su acceso, ya que puede suponer una barrera adicional para personas en situación de vulnerabilidad. La IA, al ser una tecnología relativamente nueva y costosa, no está al alcance de todos, y solo puede ser accesible y utilizada por aquellas personas que cuenten con los recursos necesarios (como una buena conexión a internet, un ordenador y un acceso a programas y aplicaciones basados en IA).

Usualmente se repite la primera ley de La tecnología de Kranzberg no es buena ni mala, pero tampoco es neutral, haciendo alusión a que debe evaluarse en cada situación quién la usa y para qué. Pero a esto subyacen otras cuestiones

Decisiones automatizadas: Cuanto mayor es la apropiación de la inteligencia artificial mayor es el riesgo de que las minorías se vean afectadas por decisiones automatizadas que los perjudiquen simplemente por buscar minimizar el error del algoritmo (para el caso de asignar una beca o un crédito es preferible asignarlo minimizando el riesgo que no se culmine y los que usualmente lo logran son personas con condiciones de entrada privilegiadas). Como sucedió en el Reino Unido con el movimiento FuckTheAlgorithm.
Bias In, Bias Out: Los datos de entrada son sesgados porque los humanos lo somos, en muchos casos se traducen en automatizar las desigualdades de las sociedades; pero también se pueden automatizar reivindicaciones sociales e incorporalas en los algoritmos.
La IA enfocada en beneficios económicos, no necesariamente resuelve problemas sociales: Por lo cual puede requerirse reentrenar modelos para balancear los datos, reducir los sesgos en las decisiones de los científicos de datos, cambiar las funciones objetivo de los modelos. Un algoritmo de recomendación para contenido educativo requiere maximizar el aprendizaje de las personas, no el tiempo que están conectados en una plataforma consumiendo publicidad.
Quíen definió que se investigativa en primer lugar: Es sabido que en salud la agenda de investigación persigue los mayores beneficios económicos. Por ejemplo la investigación en cáncer se centra en el estado de metástasis y no en las primeras etapas.
¿Sucede lo mismo con el desarrollo de tecnología para la educación? Es factible suponer que la mayoría de recursos y soluciones educativas se centran en desarrollar tecnología para personas que ya tienen acceso a educación y conectividad pero no es allí donde están los mayores desafíos y logros por alcanzar.
Que sucede con los problemas que no generan Big Data: Si el paradigma se centra en IA que dependa de grandes cantidades de datos, ¿Qué pasa con las minorias (culturales, sociales, con necesidades o enfermedades especiales) que no generarán datos masivos?

Resolver estas cuestiones es crucial para que la IA alcance todo su potencial en la solución y el alcance de los logros educativos planteados en la agenda 2030. Adicionalmente la pandemia puso de manifiesto profundas desigualdades en el acceso a herramientas tecnologícas para el acceso a educación, lo cual lejos de resolverse se agudizan por la cuarta revolución industrial y la disrupción de la IA, la cual supondrá una barrera y un rezago mayor para las personas que no pueden acceder.

Si queremos aprovechar el potencial de la inteligencia artificial para eliminar la brecha educativa y mejorar el futuro de niñas y niños en contextos vulnerables, donde se está jugando nuestro futuro como humanidad, es necesario guiar el debate y la conversación de cara al establecimiento de políticas, inversiones y tecnología centrada en el ser humano enfocandose en los grupos vulnerables, respondiendo a la diversidad de los usuarios y contribuir al empoderamiento de varias culturas, géneros e identidades para reducir las brechas de desigualdad.

Por eso en EducALL trabajamos en que la innovación llegue a las personas más vulnerablespara la base de la pirámide, enfocada en la escalabillidad, la costo efectividad y el acceso es el punto de inflexión para resolver los desafíos educativos globales. Por ello trabajamos en hacer que dispositivos de baja tecnología se conviertan en asistentes de aprendizaje con IA y hacer que SonIA, nuestra asistente educativa incorpore las mejores tecnologias para maximizar sus beneficios, minimizar los riesgos y contribuir al cierre de brechas.

¡Si deseas saber más agenda una reunión!