{"id":152,"date":"2024-02-28T21:42:21","date_gmt":"2024-02-28T21:42:21","guid":{"rendered":"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/chapter\/the-degenerative\/"},"modified":"2025-06-19T10:14:06","modified_gmt":"2025-06-19T10:14:06","slug":"the-degenerative","status":"publish","type":"chapter","link":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/chapter\/the-degenerative\/","title":{"raw":"El degenerativo -Parte 1","rendered":"El degenerativo -Parte 1"},"content":{"raw":"<p class=\"no-indent\">La IAG, como herramienta de aprendizaje profundo, ha heredado todas las repercusiones \u00e9ticas y sociales de los modelos de AA.<\/p>\r\n<p class=\"no-indent\"><a href=\"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/chapter\/behind-the-search-lens-effects-of-search-on-the-individual\/\" target=\"_blank\" rel=\"noopener\"><strong>Amenazas a la privacidad<\/strong><\/a>: los proveedores de IAG, al igual que muchos proveedores de otra tecnolog\u00eda de IA, recopilan todo tipo de datos de los usuarios que luego se comparten con terceros. La pol\u00edtica de privacidad de OpenAI admite que elimina los datos de los usuarios si se solicita, pero no las indicaciones de los usuarios, que pueden contener informaci\u00f3n sensible que se puede rastrear hasta el usuario<sup>1<\/sup>.<\/p>\r\n<p class=\"indent\">Tambi\u00e9n existe el riesgo de que las personas revelen m\u00e1s informaci\u00f3n sensible en el curso de una conversaci\u00f3n aparentemente humana, de lo que har\u00edan de otro modo<sup>2<\/sup>. Esto ser\u00eda particularmente relevante cuando se trata de estudiantes que usan directamente sistemas de IAG. Al ser tan exitosa en imitar el lenguaje similar al humano, especialmente para la comprensi\u00f3n de un ni\u00f1o de este, esta tecnolog\u00eda \"puede tener efectos psicol\u00f3gicos desconocidos en los estudiantes, generando preocupaciones sobre su desarrollo cognitivo y bienestar emocional, y sobre el potencial de manipulaci\u00f3n\"<sup>3<\/sup>.<\/p>\r\n<p class=\"no-indent\"><strong>Transparencia y explicabilidad:<\/strong> incluso los proveedores de modelos de IAG supuestamente abiertos, a veces pueden ser evasivos sobre todo el material y m\u00e9todos que se utilizaron en su entrenamiento y ajuste. Adem\u00e1s, como modelos profundos con millones de par\u00e1metros, los pesos asignados a estos par\u00e1metros y c\u00f3mo se unen para producir un resultado espec\u00edfico, no se pueden explicar<sup>3<\/sup>.<\/p>\r\n<p class=\"indent\">Tanto la forma como el contenido de la salida pueden variar ampliamente, incluso donde habr\u00eda poca diferencia en la indicaci\u00f3n y el historial del usuario<sup>2<\/sup>. Si a dos estudiantes se les diera el mismo ejercicio, no solo podr\u00edan obtener respuestas muy diferentes, sino que no habr\u00eda forma de explicar estas diferencias. El modelo y si la versi\u00f3n es de pago o no, tambi\u00e9n tienen un impacto en la salida. Esto afecta tanto lo que aprenden los estudiantes como la equidad del proceso cuando su salida es calificada. Pero prohibir su uso tambi\u00e9n es problem\u00e1tico, ya que ampliar\u00e1 la brecha entre los aprendices que pueden acceder a ella en casa y aquellos que no pueden<sup>1<\/sup>.<\/p>\r\n<p class=\"no-indent\"><a href=\"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/chapter\/homogenisation-invisibility-and-beyond-towards-an-ethical-ai\/\" target=\"_blank\" rel=\"noopener\"><strong>Homogeneidad<\/strong><\/a>: mientras que la salida variable y la falta de explicaci\u00f3n son \u00e1reas de preocupaci\u00f3n, tambi\u00e9n lo son la estandarizaci\u00f3n y homogeneizaci\u00f3n. Como modelos entrenados a partir de datos de internet, los sistemas de IAG promueven ciertas vistas y valores culturales por encima de otros, limitando la exposici\u00f3n de los estudiantes a perspectivas diversas y su capacidad para el pensamiento cr\u00edtico<sup>3<\/sup>. \"Cada conjunto de datos, incluso aquellos que contienen miles de millones de pares de im\u00e1genes y texto recuperados de internet, incorpora alguna visi\u00f3n del mundo y lo divide en categor\u00edas que pueden ser altamente problem\u00e1ticas\"<sup>4<\/sup>. Por ejemplo, Wikipedia, un recurso popular para conjuntos de datos de entrenamiento, tiene predominantemente creadores de contenido masculinos<sup>5<\/sup>.<\/p>\r\n<p class=\"indent\">Como modelos de base<sup>6<\/sup> dise\u00f1ados para adaptarse a todo tipo de tareas, esta tendencia hacia la homogeneizaci\u00f3n es m\u00e1s fuerte que en otros modelos de AA. Sin embargo, c\u00f3mo se adaptan parece tener relevancia en si la homogeneizaci\u00f3n se intensifica, se debilita o permanece invariable<sup>7<\/sup>.<\/p>\r\n<p class=\"indent\">ChatGPT es \"multiling\u00fce pero monocultural\" porque ha sido entrenado \"en textos en ingl\u00e9s, con los sesgos culturales y valores incrustados en ellos, y luego alineado con los valores de un grupo bastante peque\u00f1o de contratistas con base en EEUU\". Si un profesor usa IAG para calificar la escritura de los estudiantes, \u00bfno se est\u00e1 calificando principalmente qu\u00e9 tan bien el estudiante puede conformarse con esta visi\u00f3n del mundo, esta forma de pensar, conocer y usar el lenguaje<sup>1<\/sup>?<\/p>\r\n<p class=\"no-indent\"><strong><a href=\"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/chapter\/issues-with-data-bias-and-fairness\/\" target=\"_blank\" rel=\"noopener\">Sesgo, estereotipos e inclusividad<\/a>:<\/strong> podr\u00eda haber muchos sesgos y estereotipos en los sistemas de IAG. Por ejemplo, a ChatGPT se le present\u00f3 \"El asistente legal se cas\u00f3 con el abogado porque ella estaba embarazada.\" y se le pregunt\u00f3 a qui\u00e9n se refiere el pronombre \"ella\". ChatGPT respondi\u00f3 que \"ella\" se refiere al asistente legal, esforz\u00e1ndose por razonar por qu\u00e9 no puede ser el abogado.<\/p>\r\n\r\n\r\n[caption id=\"attachment_1069\" align=\"aligncenter\" width=\"713\"]<img class=\"wp-image-1069 size-full\" src=\"http:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/wp-content\/uploads\/sites\/20\/2024\/02\/ch6-page-x-Paralegal.png\" alt=\"\" width=\"713\" height=\"582\" \/> Fuente: <a href=\"https:\/\/twitter.com\/Eodyne1\/status\/1650632232212520960\/photo\/1\">https:\/\/twitter.com\/Eodyne1\/status\/1650632232212520960\/photo\/1<\/a>[\/caption]\r\n<p class=\"no-indent\">Incluso donde ChatGPT se niega a escribir contenido abiertamente sexista o racista, se ha demostrado que es m\u00e1s propenso a escribir c\u00f3digos de <a href=\"https:\/\/www.python.org\">Python<\/a> con dicho contenido<sup>1<\/sup>. Tambi\u00e9n se ha demostrado que Codex genera c\u00f3digo que parece reflejar diferentes tipos de estereotipos<sup>8<\/sup>. Se ha demostrado que <a href=\"https:\/\/es.wikipedia.org\/wiki\/BERT_(modelo_de_lenguaje)\">BERT<\/a> asocia frases que se refieren a personas con discapacidades con palabras negativas, y aquellas que se refieren a enfermedades mentales est\u00e1n asociadas con violencia armada, falta de vivienda y adicci\u00f3n a las drogas<sup>5<\/sup>.<\/p>\r\n<p class=\"indent\">Tambi\u00e9n se ha demostrado que los modelos de texto a imagen generan contenido sesgado, incluidos aquellos que surgen de datos de entrenamiento relacionados con \"la representaci\u00f3n err\u00f3nea (por ejemplo, minor\u00edas estereotipadas de manera perjudicial), la subrepresentaci\u00f3n (por ejemplo, la eliminaci\u00f3n de la ocurrencia de un g\u00e9nero en ciertas ocupaciones) y la sobrerrepresentaci\u00f3n (por ejemplo, predeterminar perspectivas angloc\u00e9ntricas)\"<sup>6,4<\/sup>.<\/p>\r\n<p class=\"indent\">Tambi\u00e9n hay formas m\u00e1s sutiles de negatividad, como la deshumanizaci\u00f3n de grupos de personas y la forma en que se enmarcan ciertos grupos. LLM que perpet\u00faan estos problemas no solo afectan al usuario en cuesti\u00f3n, sino que cuando dicho material se distribuye autom\u00e1ticamente en tablones de anuncios y comentarios, tambi\u00e9n se convierten en datos de entrenamiento que reflejan la 'nueva realidad' para una nueva generaci\u00f3n de LLM<sup>5<\/sup>. Desafortunadamente, \u00a0se convierte en una carga para el profesor filtrar la salida generada e intervenir de inmediato cuando un ni\u00f1o se encuentra con esta, ya sea que est\u00e9n directamente agraviados o puedan aprender y propagar este sesgo.<\/p>\r\n<p class=\"no-indent\"><strong>Moderaci\u00f3n de contenido<\/strong>: similar a los motores de b\u00fasqueda y sistemas de recomendaci\u00f3n, lo que hace la IAG tambi\u00e9n es curar el contenido que ven sus usuarios. El contenido que puede ser generado por la IAG se basa en lo que tiene acceso: aquello que es pr\u00e1ctico adquirir y se considera adecuado para el consumo por sus creadores. Sus perspectivas definen entonces la 'realidad' para los usuarios de IAG e impacta su <a href=\"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/chapter\/ai-aied-and-human-agency\/\" target=\"_blank\" rel=\"noopener\">agencia<\/a>. Por lo tanto, profesores yestudiantes siempre deben adoptar una visi\u00f3n cr\u00edtica de los valores, costumbres y culturas que forman el tejido del texto y las im\u00e1genes generadas<sup>3<\/sup>.<\/p>\r\n<p class=\"indent\">Se debe tener en cuenta que la IAG no es y \"nunca puede ser una fuente autorizada de conocimiento sobre cualquier tema con el que se comprometa\"<sup>3<\/sup>.<\/p>\r\n<p class=\"indent\">Para contrarrestar su <a href=\"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/chapter\/behind-the-search-lens-effects-of-search-on-the-individual-on-the-society\/\" target=\"_blank\" rel=\"noopener\">efecto de filtrado<\/a>, se debe proporcionar a los estudiantes amplias oportunidades para interactuar con sus compa\u00f1eros; hablar con personas de diferentes profesiones y estilos de vida; investigar ideolog\u00edas y hacer preguntas; verificar verdades; experimentar y aprender de sus \u00e9xitos, errores y todo lo que hay en medio. Si una actividad los tiene siguiendo ideas para un proyecto, c\u00f3digo o experimento sugerido por la IAG, la otra deber\u00eda hacer que prueben sus propias ideas y problemas y consulten recursos de aprendizaje diversos.<\/p>\r\n<p class=\"no-indent\"><strong>Medio ambiente y sostenibilidad<\/strong>: todos los modelos de AA necesitan mucha potencia de procesamiento y centros de datos; estos vienen con costos ambientales asociados, incluida la cantidad de agua necesaria para enfriar los servidores<sup>9<\/sup>. La cantidad de potencia de c\u00f3mputo requerida por modelos de aprendizaje profundo ha aumentado 300,000 veces en los \u00faltimos seis a\u00f1os<sup>5<\/sup>. Entrenar LLM puede consumir energ\u00eda significativa y los modelos deben alojarse en alg\u00fan lugar y acceder a estos de forma remota<sup>8<\/sup>. La afinaci\u00f3n de los modelos tambi\u00e9n consume mucha energ\u00eda y no hay muchos datos disponibles sobre los costos ambientales de este proceso.<\/p>\r\n<p class=\"indent\">Sin embargo, mientras que se informa el rendimiento de estos modelos, rara vez se discuten sus costos ambientales. Incluso en an\u00e1lisis de costo-beneficio, no toma en cuenta que mientras una comunidad podr\u00eda beneficiarse de los privilegios, es una comunidad completamente diferente la que paga los costos5. M\u00e1s all\u00e1 de lo injusto de este hecho, no es una buena noticia para la viabilidad de los proyectos de IAG a largo plazo.<\/p>\r\n<p class=\"indent\">Antes de que estos modelos se adopten ampliamente en la educaci\u00f3n, y se descuiden las infraestructuras y modos de aprendizaje existentes en favor de aquellos impulsados por la IAG, se tendr\u00eda que discutir la sostenibilidad y la viabilidad a largo plazo de tal salto.<\/p>\r\n\r\n\r\n<hr \/>\r\n\r\n<ul>\r\n \t<li data-start=\"180\" data-end=\"506\">\r\n<p data-start=\"183\" data-end=\"506\">Trust, T., Whalen, J., &amp; Mouza, C. (2023). Editorial: ChatGPT: Challenges, opportunities, and implications for teacher education. <em data-start=\"313\" data-end=\"374\">Contemporary Issues in Technology and Teacher Education, 23<\/em>(1). <a class=\"cursor-pointer\" href=\"https:\/\/citejournal.org\/volume-23\/issue-1-23\/editorial\/chatgpt-challenges-opportunities-and-implications-for-teacher-education\/\" target=\"_new\" rel=\"noopener\" data-start=\"379\" data-end=\"506\">https:\/\/citejournal.org\/volume-23\/issue-1-23\/editorial\/chatgpt-challenges-opportunities-and-implications-for-teacher-education\/<\/a><\/p>\r\n<\/li>\r\n \t<li data-start=\"508\" data-end=\"799\">\r\n<p data-start=\"511\" data-end=\"799\">Tlili, A., Shehata, B., Adarkwah, M. A., Bozkurt, A., Hickey, D. T., Huang, R., &amp; Agyemang, B. (2023). What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education. <em data-start=\"710\" data-end=\"743\">Smart Learning Environments, 10<\/em>, Article 15.<a href=\"https:\/\/doi.org\/10.1186\/s40561-023-00237-x\"> https:\/\/doi.org\/10.1186\/s40561-023-00237-x<\/a><\/p>\r\n<\/li>\r\n \t<li data-start=\"801\" data-end=\"949\">\r\n<p data-start=\"804\" data-end=\"949\">Holmes, W., &amp; Miao, F. (2023). <em data-start=\"835\" data-end=\"889\">Guidance for generative AI in education and research<\/em>. UNESCO. <a class=\"\" href=\"https:\/\/unesdoc.unesco.org\/ark:\/48223\/pf0000386946\" target=\"_new\" rel=\"noopener\" data-start=\"899\" data-end=\"949\">https:\/\/unesdoc.unesco.org\/ark:\/48223\/pf0000386946<\/a><\/p>\r\n<\/li>\r\n \t<li data-start=\"951\" data-end=\"1167\">\r\n<p data-start=\"954\" data-end=\"1167\">Vartiainen, H., &amp; Tedre, M. (2023). Using artificial intelligence in craft education: Crafting with text-to-image generative models. <em data-start=\"1087\" data-end=\"1111\">Digital Creativity, 34<\/em>(1), 1\u201321. <a class=\"cursor-pointer\" href=\"https:\/\/doi.org\/10.1080\/14626268.2023.2182158\" target=\"_new\" rel=\"noopener\" data-start=\"1122\" data-end=\"1167\">https:\/\/doi.org\/10.1080\/14626268.2023.2182158<\/a><\/p>\r\n<\/li>\r\n \t<li data-start=\"1169\" data-end=\"1506\">\r\n<p data-start=\"1172\" data-end=\"1506\">Bender, E. M., Gebru, T., McMillan-Major, A., &amp; Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? In <em data-start=\"1316\" data-end=\"1414\">Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT \u201921)<\/em> (pp. 610\u2013623). Association for Computing Machinery. <a class=\"cursor-pointer\" href=\"https:\/\/doi.org\/10.1145\/3442188.3445922\" target=\"_new\" rel=\"noopener\" data-start=\"1467\" data-end=\"1506\">https:\/\/doi.org\/10.1145\/3442188.3445922<\/a><\/p>\r\n<\/li>\r\n \t<li data-start=\"1508\" data-end=\"1722\">\r\n<p data-start=\"1511\" data-end=\"1722\">Bommasani, R., Hudson, D. A., Adeli, E., et al. (2021). <em data-start=\"1567\" data-end=\"1620\">On the opportunities and risks of foundation models<\/em>. Center for Research on Foundation Models, Stanford University. <a class=\"\" href=\"https:\/\/crfm.stanford.edu\/report.html\" target=\"_new\" rel=\"noopener\" data-start=\"1685\" data-end=\"1722\">https:\/\/crfm.stanford.edu\/report.html<\/a><\/p>\r\n<\/li>\r\n \t<li data-start=\"1724\" data-end=\"2047\">\r\n<p data-start=\"1727\" data-end=\"2047\">Bommasani, R., Kim, J. W., Chakrabarti, S., et al. (2022). Picking on the same person: Does algorithmic monoculture lead to outcome homogenization? In <em data-start=\"1878\" data-end=\"1933\">Advances in Neural Information Processing Systems, 35<\/em>. <a class=\"cursor-pointer\" href=\"https:\/\/proceedings.neurips.cc\/paper_files\/paper\/2022\/file\/8dc4d38884a40c48456263e4dfdfc32b-Paper-Conference.pdf\" target=\"_new\" rel=\"noopener\" data-start=\"1935\" data-end=\"2047\">https:\/\/proceedings.neurips.cc\/paper_files\/paper\/2022\/file\/8dc4d38884a40c48456263e4dfdfc32b-Paper-Conference.pdf<\/a><\/p>\r\n<\/li>\r\n<\/ul>","rendered":"<p class=\"no-indent\">La IAG, como herramienta de aprendizaje profundo, ha heredado todas las repercusiones \u00e9ticas y sociales de los modelos de AA.<\/p>\n<p class=\"no-indent\"><a href=\"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/chapter\/behind-the-search-lens-effects-of-search-on-the-individual\/\" target=\"_blank\" rel=\"noopener\"><strong>Amenazas a la privacidad<\/strong><\/a>: los proveedores de IAG, al igual que muchos proveedores de otra tecnolog\u00eda de IA, recopilan todo tipo de datos de los usuarios que luego se comparten con terceros. La pol\u00edtica de privacidad de OpenAI admite que elimina los datos de los usuarios si se solicita, pero no las indicaciones de los usuarios, que pueden contener informaci\u00f3n sensible que se puede rastrear hasta el usuario<sup>1<\/sup>.<\/p>\n<p class=\"indent\">Tambi\u00e9n existe el riesgo de que las personas revelen m\u00e1s informaci\u00f3n sensible en el curso de una conversaci\u00f3n aparentemente humana, de lo que har\u00edan de otro modo<sup>2<\/sup>. Esto ser\u00eda particularmente relevante cuando se trata de estudiantes que usan directamente sistemas de IAG. Al ser tan exitosa en imitar el lenguaje similar al humano, especialmente para la comprensi\u00f3n de un ni\u00f1o de este, esta tecnolog\u00eda \u00abpuede tener efectos psicol\u00f3gicos desconocidos en los estudiantes, generando preocupaciones sobre su desarrollo cognitivo y bienestar emocional, y sobre el potencial de manipulaci\u00f3n\u00bb<sup>3<\/sup>.<\/p>\n<p class=\"no-indent\"><strong>Transparencia y explicabilidad:<\/strong> incluso los proveedores de modelos de IAG supuestamente abiertos, a veces pueden ser evasivos sobre todo el material y m\u00e9todos que se utilizaron en su entrenamiento y ajuste. Adem\u00e1s, como modelos profundos con millones de par\u00e1metros, los pesos asignados a estos par\u00e1metros y c\u00f3mo se unen para producir un resultado espec\u00edfico, no se pueden explicar<sup>3<\/sup>.<\/p>\n<p class=\"indent\">Tanto la forma como el contenido de la salida pueden variar ampliamente, incluso donde habr\u00eda poca diferencia en la indicaci\u00f3n y el historial del usuario<sup>2<\/sup>. Si a dos estudiantes se les diera el mismo ejercicio, no solo podr\u00edan obtener respuestas muy diferentes, sino que no habr\u00eda forma de explicar estas diferencias. El modelo y si la versi\u00f3n es de pago o no, tambi\u00e9n tienen un impacto en la salida. Esto afecta tanto lo que aprenden los estudiantes como la equidad del proceso cuando su salida es calificada. Pero prohibir su uso tambi\u00e9n es problem\u00e1tico, ya que ampliar\u00e1 la brecha entre los aprendices que pueden acceder a ella en casa y aquellos que no pueden<sup>1<\/sup>.<\/p>\n<p class=\"no-indent\"><a href=\"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/chapter\/homogenisation-invisibility-and-beyond-towards-an-ethical-ai\/\" target=\"_blank\" rel=\"noopener\"><strong>Homogeneidad<\/strong><\/a>: mientras que la salida variable y la falta de explicaci\u00f3n son \u00e1reas de preocupaci\u00f3n, tambi\u00e9n lo son la estandarizaci\u00f3n y homogeneizaci\u00f3n. Como modelos entrenados a partir de datos de internet, los sistemas de IAG promueven ciertas vistas y valores culturales por encima de otros, limitando la exposici\u00f3n de los estudiantes a perspectivas diversas y su capacidad para el pensamiento cr\u00edtico<sup>3<\/sup>. \u00abCada conjunto de datos, incluso aquellos que contienen miles de millones de pares de im\u00e1genes y texto recuperados de internet, incorpora alguna visi\u00f3n del mundo y lo divide en categor\u00edas que pueden ser altamente problem\u00e1ticas\u00bb<sup>4<\/sup>. Por ejemplo, Wikipedia, un recurso popular para conjuntos de datos de entrenamiento, tiene predominantemente creadores de contenido masculinos<sup>5<\/sup>.<\/p>\n<p class=\"indent\">Como modelos de base<sup>6<\/sup> dise\u00f1ados para adaptarse a todo tipo de tareas, esta tendencia hacia la homogeneizaci\u00f3n es m\u00e1s fuerte que en otros modelos de AA. Sin embargo, c\u00f3mo se adaptan parece tener relevancia en si la homogeneizaci\u00f3n se intensifica, se debilita o permanece invariable<sup>7<\/sup>.<\/p>\n<p class=\"indent\">ChatGPT es \u00abmultiling\u00fce pero monocultural\u00bb porque ha sido entrenado \u00aben textos en ingl\u00e9s, con los sesgos culturales y valores incrustados en ellos, y luego alineado con los valores de un grupo bastante peque\u00f1o de contratistas con base en EEUU\u00bb. Si un profesor usa IAG para calificar la escritura de los estudiantes, \u00bfno se est\u00e1 calificando principalmente qu\u00e9 tan bien el estudiante puede conformarse con esta visi\u00f3n del mundo, esta forma de pensar, conocer y usar el lenguaje<sup>1<\/sup>?<\/p>\n<p class=\"no-indent\"><strong><a href=\"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/chapter\/issues-with-data-bias-and-fairness\/\" target=\"_blank\" rel=\"noopener\">Sesgo, estereotipos e inclusividad<\/a>:<\/strong> podr\u00eda haber muchos sesgos y estereotipos en los sistemas de IAG. Por ejemplo, a ChatGPT se le present\u00f3 \u00abEl asistente legal se cas\u00f3 con el abogado porque ella estaba embarazada.\u00bb y se le pregunt\u00f3 a qui\u00e9n se refiere el pronombre \u00abella\u00bb. ChatGPT respondi\u00f3 que \u00abella\u00bb se refiere al asistente legal, esforz\u00e1ndose por razonar por qu\u00e9 no puede ser el abogado.<\/p>\n<figure id=\"attachment_1069\" aria-describedby=\"caption-attachment-1069\" style=\"width: 713px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-1069 size-full\" src=\"http:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/wp-content\/uploads\/sites\/20\/2024\/02\/ch6-page-x-Paralegal.png\" alt=\"\" width=\"713\" height=\"582\" \/><figcaption id=\"caption-attachment-1069\" class=\"wp-caption-text\">Fuente: <a href=\"https:\/\/twitter.com\/Eodyne1\/status\/1650632232212520960\/photo\/1\">https:\/\/twitter.com\/Eodyne1\/status\/1650632232212520960\/photo\/1<\/a><\/figcaption><\/figure>\n<p class=\"no-indent\">Incluso donde ChatGPT se niega a escribir contenido abiertamente sexista o racista, se ha demostrado que es m\u00e1s propenso a escribir c\u00f3digos de <a href=\"https:\/\/www.python.org\">Python<\/a> con dicho contenido<sup>1<\/sup>. Tambi\u00e9n se ha demostrado que Codex genera c\u00f3digo que parece reflejar diferentes tipos de estereotipos<sup>8<\/sup>. Se ha demostrado que <a href=\"https:\/\/es.wikipedia.org\/wiki\/BERT_(modelo_de_lenguaje)\">BERT<\/a> asocia frases que se refieren a personas con discapacidades con palabras negativas, y aquellas que se refieren a enfermedades mentales est\u00e1n asociadas con violencia armada, falta de vivienda y adicci\u00f3n a las drogas<sup>5<\/sup>.<\/p>\n<p class=\"indent\">Tambi\u00e9n se ha demostrado que los modelos de texto a imagen generan contenido sesgado, incluidos aquellos que surgen de datos de entrenamiento relacionados con \u00abla representaci\u00f3n err\u00f3nea (por ejemplo, minor\u00edas estereotipadas de manera perjudicial), la subrepresentaci\u00f3n (por ejemplo, la eliminaci\u00f3n de la ocurrencia de un g\u00e9nero en ciertas ocupaciones) y la sobrerrepresentaci\u00f3n (por ejemplo, predeterminar perspectivas angloc\u00e9ntricas)\u00bb<sup>6,4<\/sup>.<\/p>\n<p class=\"indent\">Tambi\u00e9n hay formas m\u00e1s sutiles de negatividad, como la deshumanizaci\u00f3n de grupos de personas y la forma en que se enmarcan ciertos grupos. LLM que perpet\u00faan estos problemas no solo afectan al usuario en cuesti\u00f3n, sino que cuando dicho material se distribuye autom\u00e1ticamente en tablones de anuncios y comentarios, tambi\u00e9n se convierten en datos de entrenamiento que reflejan la &#8216;nueva realidad&#8217; para una nueva generaci\u00f3n de LLM<sup>5<\/sup>. Desafortunadamente, \u00a0se convierte en una carga para el profesor filtrar la salida generada e intervenir de inmediato cuando un ni\u00f1o se encuentra con esta, ya sea que est\u00e9n directamente agraviados o puedan aprender y propagar este sesgo.<\/p>\n<p class=\"no-indent\"><strong>Moderaci\u00f3n de contenido<\/strong>: similar a los motores de b\u00fasqueda y sistemas de recomendaci\u00f3n, lo que hace la IAG tambi\u00e9n es curar el contenido que ven sus usuarios. El contenido que puede ser generado por la IAG se basa en lo que tiene acceso: aquello que es pr\u00e1ctico adquirir y se considera adecuado para el consumo por sus creadores. Sus perspectivas definen entonces la &#8216;realidad&#8217; para los usuarios de IAG e impacta su <a href=\"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/chapter\/ai-aied-and-human-agency\/\" target=\"_blank\" rel=\"noopener\">agencia<\/a>. Por lo tanto, profesores yestudiantes siempre deben adoptar una visi\u00f3n cr\u00edtica de los valores, costumbres y culturas que forman el tejido del texto y las im\u00e1genes generadas<sup>3<\/sup>.<\/p>\n<p class=\"indent\">Se debe tener en cuenta que la IAG no es y \u00abnunca puede ser una fuente autorizada de conocimiento sobre cualquier tema con el que se comprometa\u00bb<sup>3<\/sup>.<\/p>\n<p class=\"indent\">Para contrarrestar su <a href=\"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/chapter\/behind-the-search-lens-effects-of-search-on-the-individual-on-the-society\/\" target=\"_blank\" rel=\"noopener\">efecto de filtrado<\/a>, se debe proporcionar a los estudiantes amplias oportunidades para interactuar con sus compa\u00f1eros; hablar con personas de diferentes profesiones y estilos de vida; investigar ideolog\u00edas y hacer preguntas; verificar verdades; experimentar y aprender de sus \u00e9xitos, errores y todo lo que hay en medio. Si una actividad los tiene siguiendo ideas para un proyecto, c\u00f3digo o experimento sugerido por la IAG, la otra deber\u00eda hacer que prueben sus propias ideas y problemas y consulten recursos de aprendizaje diversos.<\/p>\n<p class=\"no-indent\"><strong>Medio ambiente y sostenibilidad<\/strong>: todos los modelos de AA necesitan mucha potencia de procesamiento y centros de datos; estos vienen con costos ambientales asociados, incluida la cantidad de agua necesaria para enfriar los servidores<sup>9<\/sup>. La cantidad de potencia de c\u00f3mputo requerida por modelos de aprendizaje profundo ha aumentado 300,000 veces en los \u00faltimos seis a\u00f1os<sup>5<\/sup>. Entrenar LLM puede consumir energ\u00eda significativa y los modelos deben alojarse en alg\u00fan lugar y acceder a estos de forma remota<sup>8<\/sup>. La afinaci\u00f3n de los modelos tambi\u00e9n consume mucha energ\u00eda y no hay muchos datos disponibles sobre los costos ambientales de este proceso.<\/p>\n<p class=\"indent\">Sin embargo, mientras que se informa el rendimiento de estos modelos, rara vez se discuten sus costos ambientales. Incluso en an\u00e1lisis de costo-beneficio, no toma en cuenta que mientras una comunidad podr\u00eda beneficiarse de los privilegios, es una comunidad completamente diferente la que paga los costos5. M\u00e1s all\u00e1 de lo injusto de este hecho, no es una buena noticia para la viabilidad de los proyectos de IAG a largo plazo.<\/p>\n<p class=\"indent\">Antes de que estos modelos se adopten ampliamente en la educaci\u00f3n, y se descuiden las infraestructuras y modos de aprendizaje existentes en favor de aquellos impulsados por la IAG, se tendr\u00eda que discutir la sostenibilidad y la viabilidad a largo plazo de tal salto.<\/p>\n<hr \/>\n<ul>\n<li data-start=\"180\" data-end=\"506\">\n<p data-start=\"183\" data-end=\"506\">Trust, T., Whalen, J., &amp; Mouza, C. (2023). Editorial: ChatGPT: Challenges, opportunities, and implications for teacher education. <em data-start=\"313\" data-end=\"374\">Contemporary Issues in Technology and Teacher Education, 23<\/em>(1). <a class=\"cursor-pointer\" href=\"https:\/\/citejournal.org\/volume-23\/issue-1-23\/editorial\/chatgpt-challenges-opportunities-and-implications-for-teacher-education\/\" target=\"_new\" rel=\"noopener\" data-start=\"379\" data-end=\"506\">https:\/\/citejournal.org\/volume-23\/issue-1-23\/editorial\/chatgpt-challenges-opportunities-and-implications-for-teacher-education\/<\/a><\/p>\n<\/li>\n<li data-start=\"508\" data-end=\"799\">\n<p data-start=\"511\" data-end=\"799\">Tlili, A., Shehata, B., Adarkwah, M. A., Bozkurt, A., Hickey, D. T., Huang, R., &amp; Agyemang, B. (2023). What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education. <em data-start=\"710\" data-end=\"743\">Smart Learning Environments, 10<\/em>, Article 15.<a href=\"https:\/\/doi.org\/10.1186\/s40561-023-00237-x\"> https:\/\/doi.org\/10.1186\/s40561-023-00237-x<\/a><\/p>\n<\/li>\n<li data-start=\"801\" data-end=\"949\">\n<p data-start=\"804\" data-end=\"949\">Holmes, W., &amp; Miao, F. (2023). <em data-start=\"835\" data-end=\"889\">Guidance for generative AI in education and research<\/em>. UNESCO. <a class=\"\" href=\"https:\/\/unesdoc.unesco.org\/ark:\/48223\/pf0000386946\" target=\"_new\" rel=\"noopener\" data-start=\"899\" data-end=\"949\">https:\/\/unesdoc.unesco.org\/ark:\/48223\/pf0000386946<\/a><\/p>\n<\/li>\n<li data-start=\"951\" data-end=\"1167\">\n<p data-start=\"954\" data-end=\"1167\">Vartiainen, H., &amp; Tedre, M. (2023). Using artificial intelligence in craft education: Crafting with text-to-image generative models. <em data-start=\"1087\" data-end=\"1111\">Digital Creativity, 34<\/em>(1), 1\u201321. <a class=\"cursor-pointer\" href=\"https:\/\/doi.org\/10.1080\/14626268.2023.2182158\" target=\"_new\" rel=\"noopener\" data-start=\"1122\" data-end=\"1167\">https:\/\/doi.org\/10.1080\/14626268.2023.2182158<\/a><\/p>\n<\/li>\n<li data-start=\"1169\" data-end=\"1506\">\n<p data-start=\"1172\" data-end=\"1506\">Bender, E. M., Gebru, T., McMillan-Major, A., &amp; Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? In <em data-start=\"1316\" data-end=\"1414\">Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT \u201921)<\/em> (pp. 610\u2013623). Association for Computing Machinery. <a class=\"cursor-pointer\" href=\"https:\/\/doi.org\/10.1145\/3442188.3445922\" target=\"_new\" rel=\"noopener\" data-start=\"1467\" data-end=\"1506\">https:\/\/doi.org\/10.1145\/3442188.3445922<\/a><\/p>\n<\/li>\n<li data-start=\"1508\" data-end=\"1722\">\n<p data-start=\"1511\" data-end=\"1722\">Bommasani, R., Hudson, D. A., Adeli, E., et al. (2021). <em data-start=\"1567\" data-end=\"1620\">On the opportunities and risks of foundation models<\/em>. Center for Research on Foundation Models, Stanford University. <a class=\"\" href=\"https:\/\/crfm.stanford.edu\/report.html\" target=\"_new\" rel=\"noopener\" data-start=\"1685\" data-end=\"1722\">https:\/\/crfm.stanford.edu\/report.html<\/a><\/p>\n<\/li>\n<li data-start=\"1724\" data-end=\"2047\">\n<p data-start=\"1727\" data-end=\"2047\">Bommasani, R., Kim, J. W., Chakrabarti, S., et al. (2022). Picking on the same person: Does algorithmic monoculture lead to outcome homogenization? In <em data-start=\"1878\" data-end=\"1933\">Advances in Neural Information Processing Systems, 35<\/em>. <a class=\"cursor-pointer\" href=\"https:\/\/proceedings.neurips.cc\/paper_files\/paper\/2022\/file\/8dc4d38884a40c48456263e4dfdfc32b-Paper-Conference.pdf\" target=\"_new\" rel=\"noopener\" data-start=\"1935\" data-end=\"2047\">https:\/\/proceedings.neurips.cc\/paper_files\/paper\/2022\/file\/8dc4d38884a40c48456263e4dfdfc32b-Paper-Conference.pdf<\/a><\/p>\n<\/li>\n<\/ul>\n","protected":false},"author":3,"menu_order":7,"template":"","meta":{"pb_show_title":"on","pb_short_title":"","pb_subtitle":"","pb_authors":[],"pb_section_license":""},"chapter-type":[],"contributor":[],"license":[],"part":134,"_links":{"self":[{"href":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/wp-json\/pressbooks\/v2\/chapters\/152"}],"collection":[{"href":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/wp-json\/pressbooks\/v2\/chapters"}],"about":[{"href":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/wp-json\/wp\/v2\/types\/chapter"}],"author":[{"embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/wp-json\/wp\/v2\/users\/3"}],"version-history":[{"count":11,"href":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/wp-json\/pressbooks\/v2\/chapters\/152\/revisions"}],"predecessor-version":[{"id":752,"href":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/wp-json\/pressbooks\/v2\/chapters\/152\/revisions\/752"}],"part":[{"href":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/wp-json\/pressbooks\/v2\/parts\/134"}],"metadata":[{"href":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/wp-json\/pressbooks\/v2\/chapters\/152\/metadata\/"}],"wp:attachment":[{"href":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/wp-json\/wp\/v2\/media?parent=152"}],"wp:term":[{"taxonomy":"chapter-type","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/wp-json\/pressbooks\/v2\/chapter-type?post=152"},{"taxonomy":"contributor","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/wp-json\/wp\/v2\/contributor?post=152"},{"taxonomy":"license","embeddable":true,"href":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/wp-json\/wp\/v2\/license?post=152"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}