La gran popularidad alcanzada en un corto per\u00edodo de tiempo por los recientes sistemas de di\u00e1logo en lenguaje natural (como ChatGPT, Bard y LLAMa2-chat), en su utilizaci\u00f3n de modelos de lenguaje extensos, ha llevado a la aparici\u00f3n de acalorados debates que aun abiertos en varios aspectos. Es indudablemente fascinante cuestionar c\u00f3mo un sistema computacional, gobernado por ecuaciones matem\u00e1ticas relativamente simples, es capaz de generar comportamiento que muchos llaman 'inteligente'.<\/p>\r\n
Sin embargo, este cap\u00edtulo no intentar\u00e1 proporcionar respuestas a preguntas como, \"\u00bfLos modelos LLM tienen un comportamiento que podemos definir como inteligente?<\/em>\", \"\u00bfCu\u00e1l es la verdadera naturaleza de la inteligencia humana?<\/em>\", \"\u00bfC\u00f3mo podemos definir la creatividad?<\/em>\". Aunque interesantes, para que estas preguntas sean respondidas correctamente, requerir\u00edan una investigaci\u00f3n mucho m\u00e1s profunda.<\/p>\r\n En su lugar, intentaremos ofrecer una visi\u00f3n general accesible para los no expertos con el fin de fomentar la comprensi\u00f3n de los mecanismos subyacentes al funcionamiento de los modelos de lenguaje a gran escala. Solo a trav\u00e9s de una mayor conciencia de estos mecanismos es posible entender su potencial as\u00ed como los riesgos, y promover su uso correcto, especialmente en la educaci\u00f3n.<\/p>\r\n Un concepto err\u00f3neo, muy extendido que necesita ser aclarado, es que tales sistemas son b\u00e1sicamente grandes bases de datos que consisten en pares de preguntas y respuestas. Esta falsedad deriva de las pr\u00e1cticas comunes, establecidas a lo largo de los a\u00f1os, para la construcci\u00f3n de sistemas de chatbot (le invitamos a leer el cap\u00edtulo al respecto). Al mismo tiempo, esta idea no hace justicia al car\u00e1cter generativo de LLM.<\/p>\r\n Los modelos de lenguaje son modelos estad\u00edsticos capaces de asignar una probabilidad de ocurrencia a una porci\u00f3n de texto (generalmente una palabra), en funci\u00f3n de un contexto dado, que generalmente est\u00e1 definido por el conjunto de palabras que preceden a la palabra esperada.<\/p>\r\n Los modelos construidos usando un enfoque puramente estad\u00edstico (por ejemplo, cadenas de Markov, tambi\u00e9n llamados modelos n-gram) se han unido con el tiempo a modelos de lenguaje construidos a partir de redes neuronales1<\/sup>. Estos han evolucionado con respecto tanto a la estructura de las redes como al tama\u00f1o de dichas redes.<\/p>\r\n Los modelos de lenguaje extensos (LLM) se denominan as\u00ed porque se basan en grandes redes neuronales entrenadas con enormes cantidades de datos.<\/p>\r\nhttps:\/\/youtu.be\/9y3YvOhxDuQ\r\n Como resultado, comenzamos nuestra investigaci\u00f3n con la afirmaci\u00f3n de que los modelos de lenguaje generan textos en lugar de simplemente recuperarlos de una base de conocimientos preconstituida.<\/p>\r\n El aspecto generativo y su naturaleza esencialmente experto-intuitiva hacen dif\u00edcil predecir c\u00f3mo un sistema LLM podr\u00eda responder a la entrada de un usuario. Esta caracter\u00edstica refleja una desconfianza com\u00fan hacia tales sistemas en relaci\u00f3n con su capacidad potencial para generar texto falso o inexacto.<\/p>\r\n Por lo tanto, esta caracter\u00edstica es tanto un gran logro tecnol\u00f3gico en t\u00e9rminos de la capacidad de una m\u00e1quina para entender y producir texto y, al mismo tiempo, uno de los principales peligros de tales tecnolog\u00edas.<\/p>\r\n Sin embargo, intentemos descubrir tales sistemas.<\/p>\r\n Como cualquier revoluci\u00f3n tecnol\u00f3gica, los factores detr\u00e1s de este avance son muchos. En un ejercicio de simplificaci\u00f3n, mencionamos los principales mientras ofrecemos al lector referencias que pueden guiarlo en un estudio m\u00e1s profundo:<\/p>\r\n\r\n En este punto, conscientes de los diferentes factores que caracterizan a LLM, solo nos queda explorar el potencial de tales sistemas poni\u00e9ndolos a prueba en nuestro contexto educativo. As\u00ed que, intenta hablar con ChatGPT o Bard para ayudar a crear nuevos ejercicios y adaptarlos a las necesidades espec\u00edficas de nuestros estudiantes, crear nuevos planes de lecci\u00f3n con contenido relacionado y mucho m\u00e1s. Depende de tu creatividad y de c\u00f3mo aprendas a dialogar con tales sistemas.<\/p>\r\n Nota<\/strong>: cada uno de estos factores requerir\u00eda una elaboraci\u00f3n particular. Para aquellos interesados, proporcionamos una lista de referencias.<\/p>\r\n\r\n\r\n Bengio, Y., Ducharme, R., & Vincent, P. (2000). A neural probabilistic language model. Advances in Neural Information Processing Systems, 13<\/em>. https:\/\/papers.nips.cc\/paper_files\/paper\/2000\/file\/728f206c2a01bf572b5940d7d9a8fa4c-Paper.pdf<\/a><\/p>\r\n<\/li>\r\n \t\r\n \t
\r\n\r\n\r\n \t