![\"\"](\"http:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/wp-content\/uploads\/sites\/20\/2024\/02\/ch1-Page-5-translate-1024x432.png\"){kind=spacer}
Nota: \"Mec\u00e1nica mujer\" y \"enfermero hombre\" al traducirse al ingl\u00e9s y luego de vuelta al franc\u00e9s se convierten en \"Mec\u00e1nico hombre\" y \"enfermera mujer\". Ejemplo inspirado por Barocas, S., Hardt, M., Narayanan, A., Equidad y aprendizaje autom\u00e1tico Limitaciones y Oportunidades, MIT Press, 2023.[\/caption]\r\nLos problemas surgen en la IA siempre que un caso individual difiere del caso mayoritario (ya sea que esto represente fielmente a la mayor\u00eda en el mundo real o solo a la mayor\u00eda seg\u00fan la representaci\u00f3n de internet). En las aulas el profesor tiene que compensar las fallas del sistema y, cuando es necesario, dirigir la atenci\u00f3n del estudiante al texto alternativo.<\/p>\r\n\r\n
Explora<\/strong><\/p>\r\n\r\n<\/header>\r\n \u00bfPuedes buscar un estereotipo en Google Translate<\/a>? Juega traduciendo de y hacia diferentes idiomas. Al hacer clic en las dos flechas entre las cajas, puedes invertir lo que se est\u00e1 traduciendo (esto es lo que hicimos para el ejemplo mostrado anteriormente).<\/p>\r\n Idiomas como el turco tienen la misma palabra para '\u00e9l' y 'ella'. Muchos estereotipos salen a la luz al traducir del turco y a la inversa. Note que muchos idiomas tienen un sesgo masculino: se asume que una persona desconocida es hombre. Esto no es un sesgo de la aplicaci\u00f3n. Lo impactante en nuestro ejemplo anterior es que el enfermero masculino se cambia a femenino.<\/p>\r\n\r\n<\/div>\r\n Los sistemas de IA hacen predicciones sobre qu\u00e9 deber\u00eda estudiar un estudiante a continuaci\u00f3n, si ha comprendido un tema, qu\u00e9 divisi\u00f3n de grupo es buena para una clase o cu\u00e1ndo un estudiante est\u00e1 en riesgo de abandonar. A menudo, estas predicciones tienen un porcentaje adjunto. Este n\u00famero nos dice cu\u00e1n buena es la estimaci\u00f3n del sistema sobre sus predicciones.<\/p>\r\n Por su naturaleza, las predicciones pueden ser err\u00f3neas. En muchas aplicaciones, es aceptable tener este error. En algunos casos, no lo es. Adem\u00e1s, la forma en que se calcula este error no es fija. Hay diferentes medidas, y el programador elige lo que \u00e9l o ella piensa que es m\u00e1s relevante. A menudo, la precisi\u00f3n cambia seg\u00fan el propio input.<\/p>\r\n Dado que en un aula, estos sistemas hacen predicciones sobre estudiantes, es tarea del profesor juzgar qu\u00e9 es aceptable y actuar cuando una decisi\u00f3n tomada por la IA no es apropiada. Para hacer esto, un poco de conocimiento sobre t\u00e9cnicas de IA y los errores comunes asociados con ellas ser\u00e1 de gran ayuda.<\/p>\r\n\r\n\r\n 1 Barocas, S., Hardt, M., & Narayanan, A.<\/strong> (2023). Fairness and machine learning: Limitations and opportunities<\/em>. MIT Press. https:\/\/fairmlbook.org\/<\/a><\/sup><\/p>","rendered":" La segunda posici\u00f3n extrema cuando se trata de IA es el uso indiscriminado o el mal uso de la tecnolog\u00eda. La IA funciona de manera diferente a la inteligencia humana, ya sea debido a la naturaleza de la situaci\u00f3n, su dise\u00f1o o los datos, los sistemas de IA pueden funcionar de manera diferente a lo esperado.<\/p>\n Por ejemplo, una aplicaci\u00f3n desarrollada usando un conjunto de datos para un prop\u00f3sito no funcionar\u00e1 tan bien con otros datos y otro prop\u00f3sito. Vale la pena conocer las limitaciones de la IA y corregirlas. Es bueno no solo hacer IA sino aprender sobre sus ventajas y limitaciones.<\/p>\n Google Translate aprende c\u00f3mo traducir de internet. Sus ‘mineros de datos’ buscan en la web p\u00fablica datos de los cuales aprender. Junto con el lenguaje, la IA aprende que el n\u00famero de mec\u00e1nicos masculinos es mayor que el de mec\u00e1nicas femeninas, y que el n\u00famero de enfermeras femeninas eclipsa al de enfermeros masculinos. No puede diferenciar entre lo que es ‘verdadero’ y lo que es resultado de estereotipos y otros prejuicios. As\u00ed, Google Translate termina propagando lo que aprende, cimentando aun m\u00e1s los estereotipos1<\/sup>:<\/p>\n Los problemas surgen en la IA siempre que un caso individual difiere del caso mayoritario (ya sea que esto represente fielmente a la mayor\u00eda en el mundo real o solo a la mayor\u00eda seg\u00fan la representaci\u00f3n de internet). En las aulas el profesor tiene que compensar las fallas del sistema y, cuando es necesario, dirigir la atenci\u00f3n del estudiante al texto alternativo.<\/p>\n Explora<\/strong><\/p>\n<\/header>\n \u00bfPuedes buscar un estereotipo en Google Translate<\/a>? Juega traduciendo de y hacia diferentes idiomas. Al hacer clic en las dos flechas entre las cajas, puedes invertir lo que se est\u00e1 traduciendo (esto es lo que hicimos para el ejemplo mostrado anteriormente).<\/p>\n Idiomas como el turco tienen la misma palabra para ‘\u00e9l’ y ‘ella’. Muchos estereotipos salen a la luz al traducir del turco y a la inversa. Note que muchos idiomas tienen un sesgo masculino: se asume que una persona desconocida es hombre. Esto no es un sesgo de la aplicaci\u00f3n. Lo impactante en nuestro ejemplo anterior es que el enfermero masculino se cambia a femenino.<\/p>\n<\/div>\n Adaptado de Resumen del impacto de la IA en educaci\u00f3n<\/em> por de la Higuera e Iyer (2022). Traducci\u00f3n del texto en la imagen por Rodr\u00edguez Enr\u00edquez. Los sistemas de IA hacen predicciones sobre qu\u00e9 deber\u00eda estudiar un estudiante a continuaci\u00f3n, si ha comprendido un tema, qu\u00e9 divisi\u00f3n de grupo es buena para una clase o cu\u00e1ndo un estudiante est\u00e1 en riesgo de abandonar. A menudo, estas predicciones tienen un porcentaje adjunto. Este n\u00famero nos dice cu\u00e1n buena es la estimaci\u00f3n del sistema sobre sus predicciones.<\/p>\n Por su naturaleza, las predicciones pueden ser err\u00f3neas. En muchas aplicaciones, es aceptable tener este error. En algunos casos, no lo es. Adem\u00e1s, la forma en que se calcula este error no es fija. Hay diferentes medidas, y el programador elige lo que \u00e9l o ella piensa que es m\u00e1s relevante. A menudo, la precisi\u00f3n cambia seg\u00fan el propio input.<\/p>\n Dado que en un aula, estos sistemas hacen predicciones sobre estudiantes, es tarea del profesor juzgar qu\u00e9 es aceptable y actuar cuando una decisi\u00f3n tomada por la IA no es apropiada. Para hacer esto, un poco de conocimiento sobre t\u00e9cnicas de IA y los errores comunes asociados con ellas ser\u00e1 de gran ayuda.<\/p>\nM\u00faltiples medidas de precisi\u00f3n<\/h3>\r\n
![\"\"](\"http:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/wp-content\/uploads\/sites\/20\/2024\/02\/Espanol-ES-5.1-1024x724.png\")
<\/p>\r\nAdaptado de Resumen del impacto de la IA en educaci\u00f3n<\/em> por de la Higuera e Iyer (2022). Traducci\u00f3n del texto en la imagen por Rodr\u00edguez Enr\u00edquez.
Fuente: AI for Teachers: An Open Textbook<\/em>, cap\u00edtulo \u201cWhy not just do AI \u2013 Part 1\u201d. Licencia: CC BY 4.0. https:\/\/pressbooks.pub\/aiforteachers\/chapter\/why-not-just-do-ai-part-1\/<\/a>\r\n
\r\nPerpetuaci\u00f3n de estereotipos<\/h3>\n
M\u00faltiples medidas de precisi\u00f3n<\/h3>\n
<\/p>\n
Fuente: AI for Teachers: An Open Textbook<\/em>, cap\u00edtulo \u201cWhy not just do AI \u2013 Part 1\u201d. Licencia: CC BY 4.0. https:\/\/pressbooks.pub\/aiforteachers\/chapter\/why-not-just-do-ai-part-1\/<\/a><\/p>\n
\n