44 IA individual o colectiva
La pregunta clave de la IA de mañana bien podría ser, ¿para quién está trabajando el IA?
Cuando usas una herramienta que se supone te debe dar un beneficio en el aprendizaje, esperas que así sea. Pero, ¿puede haber una razón por la cual la herramienta en realidad esté buscando optimizar una función más compleja que simplemente satisfacer tus necesidades? ¿Y esto importa, siempre que también obtengas el resultado esperado? Veamos.
Por supuesto, cuando un IA es desarrollado por una empresa privada, tiene sentido entender cuál es su modelo de negocio. Esto te ayudará a entender para quién están trabajando: si es un software de única adquisición para ser comprado por padres, necesitarán una razón para estar interesados. Si son instituciones educativas, profesores o gobiernos, estos argumentos cambiarán, y también lo hará el software.
Deberíamos recordar que cuando hay software de IA basado en AA, el aprendizaje tendrá lugar con respecto a una función objetivo. La red neuronal puede ser entrenada para minimizar el tiempo de aprendizaje del estudiante y maximizar los resultados de las pruebas de cuestionarios, o quizás ambos factores podrían combinarse.
Pero en muchos casos, el aprendizaje tendrá lugar en un entorno social, y la recomendación de la IA puede afectar tanto al individuo como al grupo entero.
Para explorar esta idea, veamos cómo funciona Waze. Es un sistema de navegación de tráfico popular. No se usa mucho en las instituciones educativas, pero a los profesores les gusta aprovecharlo para llegar a tiempo.
Waze
Waze es una aplicación de navegación utilizada por los conductores para encontrar su ruta. Es utilizado por 150 millones de personas cada mes. Tiene varias características de redes sociales pero gran parte de los datos que utiliza para analizar las condiciones del tráfico no provienen de repositorios de datos abiertos oficiales o cámaras, sino de los propios usuarios1.
Para aquellos que no usan Waze, aquí hay un resumen simple de cómo funciona: estás en camino al trabajo, como todos los días. Conoces el camino pero aun así usas Waze.
Así lo harán muchos de los conductores a tu alrededor. En tu mapa, encontrarás la ruta calculada para llevarte a tu destino. Se te informará el tiempo estimado de llegada, que se actualiza cada pocos minutos a medida que cambian las condiciones del transito local. También podrías ser informado de que hay un objeto en la carretera a 260m, un accidente de coche a 1km, un atasco de transito en 3km. Dependiendo de estas actualizaciones, el sistema puede proponer una ruta alternativa que te ahorrará siete minutos…
Para que esto funcione, tú, como Wazer, estarás ingresando información y advirtiendo a tus compañeros Wazers, a través del sistema, de que hay un animal vagando por donde estás o, y esto es importante, de que el animal u objeto ya no está allí.
¿Dónde está la IA?
Hay IA en el cálculo de los tiempos esperados, las rutas, etc. Esto significa tomar en cuenta información estática (distancias) pero también información dinámica (las velocidades de los coches). Waze también usará tu propio historial para tener en cuenta tus patrones de conducción2. Waze incluso sabrá si los semáforos están sincronizados a tu favor.
Pero hay más. Cuando un Wazer ingresa nueva información, ¿cómo toma el sistema en cuenta eso? Supongamos que advierto que la carretera está bloqueada, ¿qué sucede entonces? Un experto humano podría verificar los hechos (¿otros usuarios están diciendo lo mismo?), usar un modelo que les informe cuánto crédito se debe dar a este usuario en particular, verificar si el usuario realmente se ha detenido… La IA hará lo mismo.
Y más. Cuando el sistema detecta un embotellamiento de tránsito en la carretera normal, enviará a los usuarios por una ruta diferente. Pero, ¿cómo puede el sistema saber que el embotellamiento es menos problemático si no envía usuarios al mismo para verificarlo? Los usuarios ya atrapados no pueden dar esa información. Así que el sistema tiene que enviar algo de tránsito al problema para averiguar si el problema se ha resuelto.
¿Algunas consideraciones éticas?
Hay varias consideraciones éticas:
- Waze sabe mucho sobre ti: dónde vives y trabajas, tus paradas habituales, tus hábitos. Te propondrá anuncios a los que puedes o no responder;
- Para satisfacer a tantos clientes como sea posible, Waze tiene que resolver muchos dilemas de exploración/explotación como el mencionado anteriormente. ¿Cómo toma esa decisión? ¿Hay una manera correcta de tomar esa decisión?
- Usar estas herramientas regularmente tiene consecuencias en nuestra capacidad para resolver nuestros propios problemas. Ahora se sabe que nuestras capacidades cognitivas (humanas) están siendo afectadas. Como ejemplo, que seguramente no es aislado, un autor de este libro de texto estaba usando Waze una mañana. El sistema le dijo que saliera de la carretera para evitar el congestionamiento. Después de conducir dos km por una bonita carretera secundaria, Waze cambió de opinión y sugirió que la mejor ruta era volver a la carretera principal. Lo que importa en este ejemplo no es que el sistema cambiara su ruta optimizada, lo cual tiene sentido, sino el hecho de que nuestra dependencia de tales sistemas impulsados por IA nos hace incapaces de hacer nuestros propios juicios3.
Consecuencias para la educación
Hasta donde sabemos, este problema de manejo de grupo aun no ocurre en la educación. Cuando los recursos son ilimitados (acceso a una plataforma web, por ejemplo), esta situación tiene poca consecuencia. Pero supongamos que los recursos son limitados: solo tres estudiantes pueden usar el robot al mismo tiempo. En este caso, un sistema de IA estará proponiendo qué estudiantes deberían tener acceso al robot. Muchos factores podrían guiar la decisión. Si el sistema quiere ser justo, la decisión puede ser aleatoria. Pero a muchos no les gustará eso. Si el sistema quiere obtener los mejores resultados para toda la clase, puede asignar más recursos a los estudiantes desfavorecidos. Pero si al sistema se le da la tarea de asegurar que al menos el 90% de los estudiantes obtenga la calificación XYZ al final del trimestre, esto no significa que cada estudiante ahora tenga un 90% de posibilidades de éxito, sino que el 10% de los estudiantes seguramente fracasarán.
El papel del profesor
Un profesor en la era de la IA debe entender cómo funcionan tales sistemas, cuáles son las advertencias de los algoritmos, y que debe tomar las decisiones. Más fácil decirlo que hacerlo. Un profesor puede usar un sistema de IA porque, como es el caso de la herramienta de navegación descrita anteriormente, esta herramienta puede beneficiar a todos. Pero un profesor puede, y debe, contrastar la decisión propuesta por la IA con su propia experiencia. Perder quince minutos en una ruta no es gran cosa. Pero tomar la decisión equivocada para tus estudiantes sí lo es.
1 Para algunos hechos y cifras sobre Waze: Wikipedia contributors. (s.f.). Waze. Wikipedia, La enciclopedia libre. https://es.wikipedia.org/wiki/Waze
2Petranu, Y. (s.f.). Under the hood: Real-time ETA and how Waze knows you’re on the fastest route. Medium. https://medium.com/waze/under-the-hood-real-time-eta-and-how-waze-knows-youre-on-the-fastest-route-78d63c158b90
3Clemenson, G. D., Maselli, A., Fiannaca, A. J., et al. (2021). Rethinking GPS navigation: Creating cognitive maps through auditory clues. Scientific Reports, 11, 7764. https://doi.org/10.1038/s41598-021-87148-4
