{"id":153,"date":"2024-02-28T21:42:21","date_gmt":"2024-02-28T21:42:21","guid":{"rendered":"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/chapter\/the-degenerative-part-2\/"},"modified":"2025-06-19T10:16:37","modified_gmt":"2025-06-19T10:16:37","slug":"the-degenerative-part-2","status":"publish","type":"chapter","link":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/chapter\/the-degenerative-part-2\/","title":{"raw":"El degenerativo -Parte 2","rendered":"El degenerativo -Parte 2"},"content":{"raw":"

Los peligros particulares de la IAG incluyen:<\/p>\r\n

Inexactitudes y alucinaciones<\/strong>: los modelos generativos son una maravilla al producir lenguaje coherente, fluido y similar al humano. En toda esa elocuencia se esconden errores factuales, verdades limitadas, referencias fabricadas y pura ficci\u00f3n, a lo que se refiere como \"alucinaciones\"1,2<\/sup>. En la parte inferior de la interfaz de ChatGPT, subrayando todas las conversaciones, est\u00e1 la nota de que 'ChatGPT puede producir informaci\u00f3n inexacta sobre personas, lugares o hechos1. La precisi\u00f3n de ChatGPT podr\u00eda ser alrededor del 60% o peor, dependiendo del tema2,3<\/sup>.<\/p>\r\n

Para empeorar las cosas, ChatGPT tiene la tendencia a presentar verdades sin evidencia o calificaci\u00f3n. Cuando se le pide espec\u00edficamente por referencias, puede conjurar fuentes que no existen o no respaldan tal verdad como se presenta en el texto4,2<\/sup>. Sin embargo, muchos usuarios tienden a usarlo como un \"motor de b\u00fasqueda en internet, bibliotecario de referencia, o incluso Wikipedia\"5<\/sup>. Cuando un profesor o estudiante lo usa para obtener informaci\u00f3n sobre la cual no tienen conocimiento previo, corren el riesgo de aprender lo incorrecto o presentar conocimiento falso a otros1,5<\/sup>.<\/p>\r\n

El \u00e9xito de los LLM hoy en d\u00eda yace en el enorme n\u00famero de par\u00e1metros y cantidad de datos de entrenamiento que utilizan para modelar c\u00f3mo se unen las palabras en la comunicaci\u00f3n humana. Los profesores y estudiantes siempre deben tener en mente que el texto generado por modelos conversacionales no est\u00e1 conectado con la comprensi\u00f3n de este texto, o incluso con una noci\u00f3n de realidad1<\/sup>. Mientras que pueden manipular la forma ling\u00fc\u00edstica con diversos grados de \u00e9xito, no tienen acceso al significado detr\u00e1s de esta forma6<\/sup>. \"El pensamiento al estilo humano se basa en posibles explicaciones y correcci\u00f3n de errores, un proceso que limita gradualmente qu\u00e9 posibilidades pueden ser consideradas racionalmente... Mientras que los humanos estamos limitados en los tipos de explicaciones que podemos conjeturar racionalmente, los SAA pueden aprender tanto que la tierra es plana como que la tierra es redonda\"7<\/sup>.<\/p>\r\n

Cambio o empeoramiento del poder y control<\/strong>: la IAG depende de enormes cantidades de datos, poder de c\u00f3mputo y m\u00e9todos de computaci\u00f3n avanzados. Solo unas pocas compa\u00f1\u00edas, pa\u00edses e idiomas tienen acceso a todo esto. Sin embargo, a medida que m\u00e1s personas adoptan estas tecnolog\u00edas, gran parte de la humanidad se ve obligada a seguir su l\u00ednea, y por lo tanto es alienada y forzada a perder su poder expresivo1<\/sup>.<\/p>\r\n

Mientras los creadores mantienen el poder, externalizan la responsabilidad. La tarea de sanear la salida de ChatGPT, por ejemplo, se puso en manos de trabajadores kenianos \"que ten\u00edan que filtrar contenido violento y perturbador como abuso sexual, discurso de odio y violencia\"4<\/sup>.<\/p>\r\n

Infracci\u00f3n de derechos de autor y propiedad intelectual<\/strong>: gran parte del conocimiento tecnol\u00f3gico de los sistemas generativos est\u00e1 protegido detr\u00e1s de muros corporativos. Sin embargo, los datos se toman del p\u00fablico general1. \u00bfEst\u00e1 bien tomar im\u00e1genes que se hicieron p\u00fablicas en alguna plataforma y usarlas sin el conocimiento o consentimiento del sujeto? \u00bfQu\u00e9 pasa si la cara de alguien se usa para propaganda racista, por ejemplo8<\/sup>? \u00bfEs la \u00fanica manera de bloquear la IAG hacer el contenido privado?<\/p>\r\n

M\u00e1s all\u00e1 de los datos p\u00fablicos, los modelos de lenguaje pueden tomar contenido detr\u00e1s de muros de pago y resumirlos para el usuario. Se sabe que los modelos de im\u00e1genes han reunido im\u00e1genes donde las piezas mostraban claramente marcas de agua. Tambi\u00e9n est\u00e1 el tema de las licencias de uso com\u00fan creativo donde un autor hace su trabajo abierto al p\u00fablico pero debe ser citado cada vez que se usa, lo cual los modelos pueden hacer o no.<\/p>\r\n

Para los profesores, esto plantea cuestiones morales, \u00e9ticas y legales. Si toman contenido generado por modelos, \u00bfson libres de usarlo y publicarlo como deseen? \u00bfQui\u00e9n es responsable si est\u00e1 protegido por derechos de autor o licenciado bajo el uso com\u00fan creativo9<\/sup>? \u00bfC\u00f3mo sabe el usuario siquiera que est\u00e1 usando la propiedad de otras personas1<\/sup>? Desafortunadamente, no hay pautas claras sobre el tema. Tenemos que esperar y observar y proceder con cuidado hasta que se emita una directiva.<\/p>\r\n

Efectos a largo plazo de usar la IAG en la educaci\u00f3n<\/strong>: de todas las modalidades en que la IAG podr\u00eda usarse en la educaci\u00f3n, no est\u00e1 claro cu\u00e1les ser\u00edan los efectos a largo plazo de tal uso:<\/p>\r\n\r\n