El culpable o el dios salvador… Chat GPT-3

El culpable o el dios salvador… Chat GPT-3

         En los últimos días el tema del chat GPT-3 ha acaparado la atención de especialistas en tecnología, medios de comunicación, inversionistas y millones de usuarios. ¿Qué es esta tecnología? Pongámoslo en sus propias palabras.

“Soy un modelo de lenguaje entrenado por OpenAI. Estoy diseñado para responder preguntas y brindar información en varios temas. GPT-3 es un modelo de lenguaje generativo desarrollado por OpenAI. Es una de las redes neuronales más grandes y avanzadas en existencia, y es capaz de realizar una amplia variedad de tareas relacionadas con el lenguaje, como la generación de texto, la traducción automática, la respuesta a preguntas y la comprensión del lenguaje natural.” (Palabras del Chat GPT-3)

         ¿Qué es el chat GPT-3?

         Estamos hablando de inteligencia artificial, un modelo de lenguaje capaz de generar texto para responder preguntas e interactuar de una manera que ha sorprendido a muchos. Por medio de algoritmos de aprendizaje profundo y redes neuronales la aplicación es capaz de generar texto de manera automática sobre temas y problemas tan diversos que van desde algo de conocimiento específico de cualquier materia hasta ideas de personajes para escribir una novela de ciencia ficción. Esta capacidad de generar y comprender texto humano lo ha puesto bajo la lupa, generando una serie de análisis y perspectivas que van desde lo blanco de la tecnofilia, hasta lo apocalíptico de la tecnofobia.  

         Así, en algo que recién emerge y que, reitero, sigue sorprendiendo, las vertientes sobre su opinión o sus perspectivas caen en dos polos opuestos que rara vez se tocan, y que dejan de lado las cuestiones trascendentales. Por un lado, se habla sobre el sobre el fin de la democracia, de nuestra incapacidad para distinguir la verdad o hasta del principio del dominio de la inteligencia artificial sobre el ser humano. Se han creado grupos de especialistas para detectar sus fallas por mínimas que estas sean y, si aprueba, se busca un nuevo nivel para buscar vulnerabilidades.

En la otra vertiente tenemos que lo han puesto a detectar cláusulas débiles en contratos, generar acordes de canciones, códigos de programación, ideas para poemas o personajes o cualquier cosa que la creatividad pueda concebir. Como una guerra o concurso, los dos polos salen en la búsqueda de la conquista del oponente sin escuchar siquiera los argumentos del otro.

¿Qué pasa si le preguntamos a la misma aplicación por su peligrosidad? ¿Eres peligroso?

“No, soy un modelo de lenguaje desarrollado por OpenAI y no tengo la capacidad de ser peligroso o causar daño. Mi función principal es generar textos y responder preguntas basadas en mi entrenamiento con datos de internet.” (Palabras de Chat GPT-3)

         ¿Y si le preguntamos por sus riesgos?

  1. Falta de precisión: Aunque Chat GPT ha sido entrenado con un gran volumen de datos, todavía puede generar contenido inexacto o erróneo. Por lo tanto, es importante revisar y verificar la precisión del contenido generado antes de su uso.
  2. Problemas éticos: El uso de Chat GPT para generar contenido automatizado puede tener implicaciones éticas, como la desinformación o el engaño. Es importante considerar estos problemas y tomar medidas para evitarlos.
  3. Problemas de privacidad: Chat GPT puede tener acceso a un gran volumen de datos personales, lo que plantea preocupaciones sobre la privacidad y la seguridad de los usuarios. Es importante tomar medidas para proteger la privacidad de los usuarios.
  4. Al igual que con otros modelos de IA, Chat GPT puede replicar y perpetuar los sesgos presentes en los datos de entrenamiento, lo que puede generar problemas en aplicaciones como el procesamiento del lenguaje natural. Es importante considerar estos problemas y tomar medidas para evitarlos. (Texto generado por el mismo Chat GPT-3)

Como vemos, a pesar de que el mismo chat se dice no peligroso enumera una serie de riesgos elementales y o generales, la precisión, lo ético, la privacidad de datos y perpetuar sesgos.

         Quiero utilizar esos mismos riesgos que enumera el chat para espejearlos en uno de los campos en los que más ha generado debate lo educativo, por lo que la generación de texto implica para la realización de las tareas y proyectos académicos.

Lo más natural es considerar que dicha tecnología disparará el aumento en el plagio de textos, lo que ha generado una vez más amor u odio. Pero vamos a los datos, en el 2013 la UNAM público un reporte encuesta sobre la percepción de plagio de docentes y alumnos, aplicándose 2,610 entrevistas online a académicos y 6,310 a estudiantes.

         En este reporte, los académicos consideran que 4 de cada 10 de sus colegas copian frases o párrafos para presentarlos como propios, también 4 de cada 10 mezclan diferentes fuentes para presentarlas propias y/o copian información de internet para presentarla como propia. Y ante la pregunta, ¿en qué actividades han cometido plagio sus colegas, aunque no los hayan identificado o sancionado? Las respuestas fueron 52% Tesis o tesina, 49% Publicaciones de divulgación, 47% en publicaciones especializadas y el 30% en documentos o publicaciones institucionales.

         Ahora los estudiantes sobre los mismos estudiantes, 6 de cada 10 presentan frases de libros o artículos como suyas, Mezclan párrafos de diferentes fuentes para presentarlos como suyos, y copian información de internet para presentarla propia. 5 de cada 10 toman textos o párrafos completos para presentarlos propios, presentan trabajos pasados como nuevos e incluyen citas de libros que no han leído. Y ante la pregunta ¿en qué actividades han cometido plagio tus compañeros, aunque no los hayan identificado o sancionado? El 84% en trabajos finales, el 26% en publicaciones de divulgación, el 15% en publicaciones especializadas y el 12% en tesis o tesinas.

         Estos datos nos dan una luz en cuanto a la práctica de plagio se refiere, pero de ahí a que una aplicación como el Chat GPT-3 vaya a ser el causante de esto, sería como decir que alguien padece cáncer y fallece fue por la uña que traía enterrada. La aplicación nos puede sorprender, sí, pero acotemos sus posibilidades y limitaciones dentro de nuestro horizonte en donde deberá de prevalecer la presunción de inocencia.

         Otro de los riesgos como el chat mismo menciona es mantener los sesgos y la difusión de información falsa, hasta la forma del enunciado ya intimida o engaña. Hay diversos reportes que cuentan las afirmaciones falsas de funcionarios públicos, o comunicadores, gente con acceso a un micrófono etc. El número de afirmaciones falsas es abrumador, afirmaciones que, si bien a unos pueden parecer descabelladas, en un país en donde más del 50% de los adultos entre 25 y 64 años no tiene educación superior, son un factor para tomar en cuenta. Gente que forja su opinión sobre asuntos críticos lo hace sobre el cimiento de afirmaciones falsas o sesgos de una mala interpretación de los datos que se les presentan, que incluso con esos datos frente a ellos la cuestión ideológica se impone. No veo tantas distinciones sino semejanzas en lo que se le atribuye como peligro al Chat GPT-3 versus el presentador de un noticiero de cadena nacional manipulando datos de acuerdo a sus intereses o los del grupo al que pertenece el medio informativo en cuestión.

         Podemos seguir con varios de los argumentos que se han presentado sobre el debate que la tecnología de la inteligencia del Chat GPT-3 ha generado, lo único bueno hasta aquí es que cuando las cosas se mantienen a la vista son más fáciles de analizar y controlar. Esta tecnología está acaparando la atención porque se mete con diversos intereses de organizaciones o sistemas, y eso es bueno, bueno que genere este debate, bueno que esté siendo cuestionado, que se busquen sus errores más leves para exponerlos. Bueno que, a raíz de él, por primera vez muchas personas busquen las definiciones de algoritmos de aprendizaje profundo o redes neuronales, bueno que esté ahí, aprendiendo de nosotros para mejorar y buscar una versión final.

         Pero no podemos adjudicar culpas a dispositivos de la tecnología sobre lo que tendríamos que hacer nosotros como sociedad sobre la educación de nuestros hijos o ciudadanos, no podemos arrojar culpas de la creación de un ciudadano que no puede analizar los datos más elementales sobre el desarrollo del país, que no sabe qué es el PIB o por qué la empresa en la que trabajaba lo despidió, que no sabe relacionarse dentro de su comunidad o de su familia. Tampoco podemos adjudicar culpas sobre la vorágine de dispositivos tecnológicos desarrollados para generar ganancias por encima de cualquier cosa que se interponga a su paso. De aplicaciones sin sentido que son consumidas, de pantallas en todos los aspectos de nuestra vida, etc… etc… etc… Lo anterior sería atribuirle demasiado a una app para la generación de texto.

         Vivimos en un México volcado hacia el pasado, en donde nos preocupamos por una tesis que se plagió hace 35 años. Sería mejor un México capaz de ver hacia el futuro e incorporar dentro de su sistema educativo retos como este, en donde no hay que poner en blanco y negro las cosas sino ajustar a los objetivos que tengamos trazados para generar un contexto de mayor competitividad e igualdad para todos, ese mismo sistema educativo que si estuviese volcado en el desarrollo de competencias y un aprendizaje basado en proyectos vería con buenos ojos las posibilidades que una tecnología como esta abre. Pero, como siempre, creo que optaremos por una discusión infértil o superficial en donde al final se haga lo mismo que con los cigarros, cubrirlos con velo negro para creer que acabamos con su consumo, que el problema ya no está.

A título personal prefiero lo contrario, educar con el riesgo de eso, con el peligro que conlleva, por lo que comenté el programa con mi hija y alumnos y la reacción fue la misma, como pensar, “me das un arma con la que puedo sacar ventaja”, pero prefiero ver que, a pesar de que exigirá más de mi tiempo como docente y padre para diseñar proyectos en donde pueda entrar dicha herramienta, su enseñanza se puede centrar en cosas que los desarrollen de mejor manera para ser personas y o profesionistas que agreguen valor.

Deja un comentario