Especial BBC Mundo
Este nuevo sistema puede generar contenidos escritos de forma altamente coherente, y muy parecidos a los creados por los humanos.
A pesar de los errores y carencias que aún existen, la capacidad ya demostrada por el programa, y su potencial para mejorar a largo plazo, despierta no sólo admiración, sino también temores.
Basta con mirar la cantidad de reseñas que asocian ChatGPT con la palabra «amenaza». Muchos sienten que el programa parece demasiado convincente al imitar el habla de un ser humano y prevén la aparición de problemas.
Son interrogantes sobre la posibilidad de una fuerte ruptura en áreas como la creatividad, el aprendizaje y la educación, el trabajo, la seguridad digital y la democracia misma, como se afirma en un artículo reciente de The New York Times.
¿Qué es el programa?
ChatGPT es, básicamente, un robot virtual (chatbot) que responde una variedad de preguntas, realiza tareas por escrito, conversa con fluidez e incluso da consejos sobre problemas personales (aunque se advierte que no tiene este objetivo). Puede, por ejemplo, dar consejos para conseguir un trabajo, escribir poesía, trabajos académicos y también redactar una carta para diversos fines.
Según las pruebas de SEO.ai, ChatGPT está disponible en casi 100 idiomas. El sistema fue desarrollado por OpenAI, empresa fundada en 2015 en EE.UU. por Sam Altman (hoy su principal figura) y por el omnipresente Elon Musk (quien la abandonó en 2018 por considerar que había un conflicto de intereses con su principal empresa, Tesla).
Lanzamiento
Cinco días después de su lanzamiento, ChatGPT llegó a más de 1 millón de usuarios (quienes, irónicamente, tienen que ser humanos; tienes que demostrar que no eres un robot al iniciar sesión). Estas interacciones se están utilizando para entrenar y desarrollar el modelo. OpenAI dice que el uso será gratuito y abierto a todos durante esta etapa de «prueba e investigación», lo que lleva a los expertos a especular sobre los futuros tipos de monetización de la herramienta. La compañía también advierte que, en ese período, el software «puede generar ocasionalmente información incorrecta o engañosa» y que su historial de datos se limita a 2021.
¿Por qué ChatGPT se considera un gran avance para la IA?
Los potentes programas de inteligencia artificial basados en texto funcionan almacenando cantidades gigantescas de datos (con énfasis en palabras y conversaciones en este caso) y con algoritmos para predecir la mejor formulación de una oración. Estos se denominan modelos de lenguaje grande (LLM, por sus siglas en inglés).
El profesor de la Unifesp Álvaro Machado Dias, neurocientífico, explica que durante la capacitación del software, al chatbot se le hacen preguntas como «¿qué es un cilindro?» y los técnicos elaboran sus propias respuestas. «Si la respuesta del chatbot no es válida, las correctas se insertan en el sistema para enseñarle. Esto se pasa a otras situaciones automáticamente». A pesar de ya utilizar una modalidad que logra entender el contexto del uso de las palabras, permitiendo concatenar mejor los textos, los programas anteriores no respondían tan bien al usuario o aún sonaban muy artificiales. ChatGPT aprendió a hablar de una manera más cercana a un humano.
Machado Dias dice que lo que diferencia a este programa es el uso de una técnica que entiende cómo funciona el lenguaje: el refuerzo del aprendizaje a través de la retroalimentación humana (RLHF). Los ingenieros aplican métodos de «recompensa» y «castigo» para enseñar al sistema las formas de interacción más deseables. Es un proceso de ajuste fino. «En la práctica, los ingenieros ordenan las respuestas dadas por el algoritmo según su relevancia y animan al programa a aprender las preferencias enumeradas en el ordenamiento para aumentar la relevancia de las producciones textuales. El resultado se da en forma de textos que parecen más profundos y más significativos que los de las alternativas», dice el profesor de la Unifesp.
ChatGPT también ha sido capacitado para admitir errores, desafiar suposiciones incorrectas y rechazar solicitudes inapropiadas. OpenAI afirma que, aunque se ha esforzado en este sentido, el programa «a veces responderá a instrucciones problemáticas o exhibirá un comportamiento sesgado». Según la empresa, los datos recopilados en esta etapa de prueba servirán para mejorar el sistema.
¿Es una amenaza para el aprendizaje y la creatividad?
La amenaza de cambios o alteraciones ya se cierne sobre el trabajo y el empleo. Los campos que dependen del texto, como el periodismo, podrían modificarse mucho y las vacantes podrían desaparecer para siempre. La competencia de ChatGPT en la generación de códigos también está planteando preguntas en un sector relativamente nuevo: la programación.
Pero una de las áreas que se ha ido dando cuenta de los posibles problemas de ChatGPT es precisamente una de las más afectadas por la llegada de las nuevas tecnologías: la educación.
Prohibido en las escuelas
Hay expertos preocupados por cómo la nueva tecnología puede incidir en la manera en que nuestro cerebro aprende. La tentación entre los estudiantes de usar el programa para encontrar respuestas listas para sus tareas llevó a Nueva York a tomar una decisión rápida: solo un mes después de su debut, el sistema fue prohibido en las escuelas y dispositivos públicos de la ciudad estadounidense.
OpenAI ha estado trabajando en una especie de marca para identificar que el contenido se originó en ChatGPT. Ya existen algoritmos que calculan con bastante precisión la probabilidad de que un chatbot haya realizado un texto.
Cambio de mentalidad
Además de «copiar y pegar», existe el miedo a los impactos estructurales en el aprendizaje humano. Por ejemplo, ¿se verá afectado el ejercicio cognitivo de escribir un ensayo con principio, medio y final, concatenando ideas de manera coherente? «Me preocupa mucho la algoritmización del pensamiento, que es la alteración de nuestra comprensión y relación con el mundo debido a la interacción con la IA», dice Machado Dias, de la Unifesp.
«Creo que este será el cambio de mentalidad más grande en toda la historia moderna. Vale la pena señalar que el cerebro humano se ha ido reduciendo de tamaño lentamente, como resultado del desarrollo tecnológico, durante más de mil años, desde el punto de vista técnico-cultural, pero también más limitado desde un punto de vista neurocognitivo».
Martha Gabriel, autora del libro «Inteligencia Artificial: del cero al metaverso» y docente de la Pontificia Universidad Católica de Rio Grande do Sul, afirma que será necesario adaptarse a los nuevos tiempos.
«Lo que marca la diferencia en este contexto ya no son las respuestas, sino las preguntas. Hay que saber preguntar. Para saber preguntar hay que saber pensar críticamente», dice.
Docentes en aprendizaje
Para Yuri Lima, investigador del Laboratorio del Futuro de la Universidad Federal de Río de Janeiro, «la propia enseñanza necesita adaptarse para estimular un aprendizaje que reconozca a los estudiantes como cyborgs cada vez más integrados con las nuevas tecnologías».
«Esto exige que los docentes también sepan utilizar estas mismas tecnologías e integrarlas en sus actividades. Desde el momento en que los proyectos, actividades y tareas se vuelven más complejos e integrados al universo actual en el que viven los estudiantes, la motivación deja de verse afectada por esta cuestión tecnológica».
Creatividad limitada
Otro tema gira en torno al futuro de la creatividad humana y la producción de contenidos que no estén basados en inteligencia artificial.
Machado Dias señala que «la creatividad surge de combinaciones que son a la vez inusuales y relevantes. Como los algoritmos son dispositivos para generar combinaciones, se espera que el impulso creativo se reduzca».
Martha Gabriel va en una línea similar: «La tecnología puede ser una herramienta increíble para ampliar nuestro pensamiento, ya que podemos probar en poco tiempo innumerables hipótesis, formatos, soluciones para refinar nuestras hipótesis y mejorar nuestras preguntas».
«Sin embargo, esto también puede ser una amenaza muy grande para quienes usan estos sistemas a ciegas, sin críticas ni cuestionamientos a la moral y la ética. Esto no es solo un riesgo individual, sino para toda la humanidad».
.