{"id":254,"date":"2024-12-23T16:20:58","date_gmt":"2024-12-23T16:20:58","guid":{"rendered":"https:\/\/aiopentext.itd.cnr.it\/spanishwithchatgpt\/?post_type=chapter&p=254"},"modified":"2025-06-19T10:01:33","modified_gmt":"2025-06-19T10:01:33","slug":"entender-los-debates-sobre-los-posibles-peligros-de-la-ia","status":"publish","type":"chapter","link":"https:\/\/aiopentext.itd.cnr.it\/IAparaprofesores\/chapter\/entender-los-debates-sobre-los-posibles-peligros-de-la-ia\/","title":{"raw":"Comprender los debates sobre los posibles peligros de la IA","rendered":"Comprender los debates sobre los posibles peligros de la IA"},"content":{"raw":"

En marzo de 2023 1<\/sup>, y luego en mayo de 20232<\/sup>, se publicaron dos peticiones\/ cartas abiertas, advirtiendo sobre algunos de los peligros de la IA. En ambos casos fueron firmadas por cientos de prestigiosos cient\u00edficos y especialistas en IA de la industria. \u00bfQu\u00e9 debemos saber al respecto?<\/p>\r\n\r\n

\u00bfEs una pregunta interesante para los profesores?<\/h3>\r\n

Con los estudiantes m\u00e1s avanzados surgir\u00e1n cuestiones referidas a los riesgos de la IA para la sociedad. Aunque ning\u00fan profesor est\u00e1 obligado a dar respuestas definitivas a todas las preguntas, es justo comprender los m\u00e1rgenes de la controversia.<\/p>\r\n\r\n

Como profesor, \u00bfno deber\u00eda uno limitarse a hablar de los aspectos t\u00e9cnicos de un tema y dejar las cuestiones humanas, econ\u00f3micas, filos\u00f3ficas a los especialistas?<\/h3>\r\n

Esta es una cuesti\u00f3n interesante sobre la que opiniones divididas.<\/p>\r\n

\u00bfDebe un profesor de f\u00edsica saber sobre Hiroshima o Chernobil? Deben tener lugar conversaciones sobre estos temas en clase? O, en el caso de la IA, \u00bfDeber\u00eda un profesor solo ser capaz de utilizar alg\u00fan software con seguridad y entender en general c\u00f3mo funciona? \u00bfO tambi\u00e9n deber\u00eda ser capaz de entender los debates en curso sobre las cuestiones que se plantean a la sociedad en relaci\u00f3n con la IA?<\/p>\r\n

La posici\u00f3n de la Unesco y otros expertos es que la IA no es solo tecnolog\u00eda y que un profesor debe comprender las cuestiones \u00e9ticas que implica. Entre ellas, el impacto de la IA en la sociedad, la civilizaci\u00f3n y la humanidad.<\/p>\r\n\r\n

\u00bfSon preguntas nuevas?<\/h3>\r\nAlgunas de las preguntas sobre los peligros de la IA existen desde hace tiempo. La pregunta sobre qu\u00e9 ocurre cuando la IA es \"superior a la inteligencia humana\" se debate hace mucho tiempo. Irving Good4<\/sup>, antiguo colega de Alan Turing, introdujo la noci\u00f3n de Singularidad Tecnol\u00f3gica<\/em> ya en 1965. Sugiri\u00f3 que, una vez que se considerara que la IA era m\u00e1s inteligente que los humanos, o superinteligente, la IA ser\u00eda imparable. Good lleg\u00f3 a asesorar a Alan Kubrick para 2001: Una odisea del espacio, \"una pel\u00edcula en la que la IA se vuelve rebelde\".\r\n

Las posiciones<\/h3>\r\nEl texto de la carta abierta de marzo de 20231<\/sup> advert\u00eda que la IA pod\u00eda hacer cosas buenas y malas, que el impacto en la sociedad y en el empleo pod\u00eda ser considerable. Tambi\u00e9n introduc\u00eda la noci\u00f3n de que la IA no solo sustituir\u00eda a los humanos en trabajos tediosos e indeseables, sino tambi\u00e9n en \"trabajos buenos que la gente quisiera hacer\". Adem\u00e1s, los desarrollos de la IA provocar\u00edan desarrollos de la sociedad y que no se utilizar\u00edan los mecanismos democr\u00e1ticos habituales de cambio.\r\n\r\nEn el segundo texto2<\/sup>, el riesgo a\u00f1adido del que se hablaba refiere a que la IA se volviera rebelde (o una variaci\u00f3n de este escenario) y ser\u00eda el posible fin de la civilizaci\u00f3n humana.\r\n\r\nDe este debate surgi\u00f3 una tercera postura3 <\/sup>\"que la IA era efectivamente motivo de preocupaci\u00f3n, pero no por razones existenciales que enmascararan los problemas m\u00e1s urgentes\".\r\n

\u00bfHa terminado el debate?<\/h3>\r\n

No, el debate no ha terminado. Algunos cient\u00edficos siguen afirmando que existen muchos riesgos, que estas tecnolog\u00edas est\u00e1n creciendo demasiado r\u00e1pido y que es necesaria una regulaci\u00f3n. Otros creen, que por el momento, la IA solo aporta beneficios, y que debemos tener cuidado, pero no miedo.<\/p>\r\n

No se ha acabado el debate.<\/p>\r\n

Es dif\u00edcil decir qui\u00e9n va ganando o perdiendo, qui\u00e9n tiene raz\u00f3n o no. El debate recuerda el que se produjo despu\u00e9s de 1945 sobre f\u00edsica.<\/p>\r\n

Una postura com\u00fan es la de pedir regulaci\u00f3n, aunque todav\u00eda no haya una regulaci\u00f3n con la que todo el mundo est\u00e9 de acuerdo.<\/p>\r\n\r\n

\u00bfPuede haber una posici\u00f3n s\u00f3lida?<\/h3>\r\n

En realidad, ambas posturas son probablemente s\u00f3lidas. Los hechos actuales parecen estar a favor de los entusiastas (la IA est\u00e1 permitiendo avances en medicina, agricultura, an\u00e1lisis del clima, idiomas y comunicaci\u00f3n), pero el argumento de que nosotros, como humanos, siempre hemos encontrado respuestas, tiene serias limitaciones.<\/p>\r\n

En realidad, ambas posturas son probablemente s\u00f3lidas.<\/p>\r\n\r\n

\u00bfD\u00f3nde puedo encontrar m\u00e1s informaci\u00f3n sobre este debate?<\/h3>\r\n

Para una persona (o profesor) de mente abierta existen numerosas fuentes potenciales de informaci\u00f3n: blogs, sitios fidedignos, como tambi\u00e9n documentos de posici\u00f3n y v\u00eddeos de cient\u00edficos destacados, incluidos historiadores y fil\u00f3sofos.<\/p>\r\n\r\n\r\n

\r\n\r\n