Consejos básicos para el uso del Chat GPT: qué puede hacer y qué no puede hacer, cuáles son sus puntos fuertes y cuáles sus debilidades. Una lectura obligatoria para todos los que estamos usando esta herramienta.
Ángela Serrano Zapata*
Chat GPT y las habilidades humanas en la escritura
¿Chat GPT fomentará la mediocridad y la pereza de quienes lo utilicen? Es concebible que las inteligencias artificiales (IA) —como Chat GPT— tengan este efecto: las habilidades clave de pensamiento crítico y escritura podrían delegarse a la IA.
Pero mi experiencia usando Chat GPT como herramienta pedagógica en el salón de clase y editando textos académicos sugiere lo contrario: su uso efectivo y responsable hace aún más necesarias habilidades de comprensión, reflexión, crítica y proposición; por ahora, no se pueden delegar a una IA.
¿De qué se trata el uso efectivo y responsable de Chat GPT? En primer lugar, se trata de utilizar esta herramienta para automatizar tareas de baja complejidad que pueden facilitar la escritura; es decir, aprender a utilizar Chat GPT de manera que haga lo que yo espero de ella, de acuerdo con sus capacidades. En segundo lugar, se trata de utilizarla de manera consciente y reflexiva, considerando las consecuencias que su uso tiene en la sociedad.
Chat GPT no produce ideas, sino encadenamientos de palabras con un alto grado de probabilidad de resultar coherentes. Por lo tanto, no debemos esperar que produzca textos innovadores por sí solo ni que arroje información verificable.
Por lo tanto, es necesario entender cómo funciona Chat GPT, así como qué puede hacer y qué no, para usarlo de manera adecuada.
¿Cómo funciona? No produce información nueva
Chat GPT es un modelo de lenguaje amplio. Es decir que toma grandes cantidades de datos —principalmente, textos disponibles públicamente en internet— y, a partir de una serie de operaciones, produce textos coherentes, como respuesta a una instrucción o pregunta. En este proceso, no produce información nueva ni verificable.
¿Qué puede hacer y qué no? Sesgos algorítmicos
La manera como funciona Chat GPT nos dice mucho sobre lo que podemos esperar y lo que no de esta herramienta en su versión actual. Chat GPT no produce ideas, sino encadenamientos de palabras con un alto grado de probabilidad de resultar coherentes. Por lo tanto, no debemos esperar que produzca textos innovadores por sí solo ni que arroje información verificable.
Tampoco reemplaza el criterio humano. En este sentido, no es un ejemplo de cómo las máquinas nos están reemplazando; es un ejemplo de cómo una tecnología (redes neuronales), junto con trabajo humano intensivo y mal remunerado, se ha convertido en una herramienta poderosa de escritura.
Para uno de los recientes desarrollos de Chat GPT, la compañía creadora de esta herramienta —llamada Open AI— subcontrató un equipo de 36 trabajadores en Kenia que recibieron menos de dos dólares por hora. Su trabajo fue entrenar la herramienta para reducir la cantidad de lenguaje discriminatorio y violento que produce. Chat GPT se ha construido sobre el criterio humano y las desigualdades de ingresos.
En cuanto a las desigualdades sociales, Chat GPT incurre en discriminación algorítmica, es decir que reproduce los estereotipos o las frases repetidas en la web (por ejemplo, si hay muchos comentarios implícitamente racistas, Chat GPT tenderá a reproducirlos).
Esta herramienta no representa todas las visiones del mundo por igual. Dado que sus insumos son el contenido de Internet, ciertas formas y contenidos producidos por grupos privilegiados pueden estar sobrerrepresentados en sus respuestas, lo cual limita la variedad de perspectivas que tiene en cuenta.
Por ejemplo, al preguntarle como salir de deudas, me respondió que puedo reducir gastos innecesarios de la siguiente manera: “Ajusta la temperatura de tu hogar: ajustar la temperatura de tu hogar puede ayudarte a ahorrar en tu factura de energía, así que considera la posibilidad de bajar el termostato en invierno y subirlo en verano.”
Esta respuesta supone que vivo en un lugar con estaciones y tengo acceso a calefacción en mi hogar. Por lo tanto, deja de lado al 40 % de la población mundial que vive en los trópicos y a un porcentaje mayor que carece de sistemas de calefacción. Mientras tanto, representa a quienes viven en regiones como Europa occidental, Estados Unidos y Australia, donde se produce la mayor parte del contenido disponible en páginas como Wikipedia.
Así que, al usarlo, es necesario considerar que sobrerrepresenta a las visiones del mundo de quienes hablan inglés y tienen mayores ingresos, tiempo libre y acceso a internet.
¿Cómo usarlo?
Para usarlo efectiva y responsablemente, es clave considerar las posibilidades y limitaciones de Chat GPT.
Dado que Chat GPT está basado en patrones de textos, es una excelente herramienta para explorar aspectos básicos que debe cubrir un documento escrito. Así que es útil para sugerir la estructura de un texto con una organización relativamente estándar, como el acta de una reunión, un reporte de investigación o una carta de reclamo.
Por ejemplo, algunas instrucciones útiles pueden ser: “Soy residente de un conjunto multifamiliar en Bogotá. El ascensor de mi edificio se daña continuamente y quiero solicitar al consejo de administración que haga algo al respecto, ¿cuál puede ser el texto de una carta para hacer esta solicitud?”.
Otro uso efectivo es explicar en un lenguaje más claro y cercano a cierto grupo de temas complejos o que usualmente resultan aburridos. Hace poco, por ejemplo, le pedí lo siguiente: “Explica a un grupo de estudiantes universitarios en Bogotá la importancia de escribir oraciones completas, es decir, que incluyan un verbo”. La respuesta fue: “Imagínate que estás en una cita y tu cita te dice: ‘Pizza hawaiana’. ¿Qué significa eso? ¿Está sugiriendo que vayas a comer pizza hawaiana? ¿Está preguntando si te gusta la pizza hawaiana? ¿Está diciendo que ella misma es una pizza hawaiana? Sin un verbo, la oración no tiene sentido y deja muchas preguntas sin respuesta”.
Importa comprender cómo funciona para saber qué puede hacer y qué no; es necesario reflexionar sobre sus insumos para considerar las formas en que reproduce desigualdades sobre las visiones del mundo allí representadas; es necesario juzgar críticamente su contenido para no robar ideas o difundir ideas falsas.
Al terminar la clase comprobé que, a mi pesar, la “pizza hawaiana” es muy popular en mi clase, y este ejemplo resultó cercano para los estudiantes.
Pulir y organizar los textos
Los dos ejemplos anteriores resaltan varios temas clave.
- Cuanto más contexto le dé —como la ciudad o región y el tipo de problema sobre el que quiero escribir—, más precisas van a ser las respuestas de Chat GPT.
- Esta precisión debe acompañarse con un segundo aspecto clave: solo usar esta herramienta para temas que conocemos con profundidad; de esta manera podremos identificar de dónde vienen las ideas recogidas por la herramienta y cuáles de ellas son verificables. Al usarlo para temas que desconocemos, corremos el riesgo de incurrir en plagio o difusión de información falsa.
- La herramienta es particularmente útil para proponer contenido sobre temas comunes, no tanto sobre experiencias particulares.
- También resulta útil para editar o reorganizar torrentes de ideas, aunque no tanto para sugerir el contenido de la carta desde ceros.
En este sentido, resulta útil para recoger contenido estándar o reorganizar ideas propias, pero no produce —ni pretende producir— ideas auténticas. Lo anterior implica que, aunque es importante ser transparentes sobre su uso, no le debemos dar crédito por ideas originales porque no las produce.
Balancear la tecnología y las habilidades humanas
El uso efectivo y responsable de Chat GPT resalta la necesidad de reconocer la importancia de nuestras habilidades de comprensión, reflexión, crítica y proposición, sin esperar que la herramienta las reemplace.
Importa comprender cómo funciona para saber qué puede hacer y qué no; es necesario reflexionar sobre sus insumos para considerar las formas en que reproduce desigualdades sobre las visiones del mundo allí representadas; es necesario juzgar críticamente su contenido para no robar ideas o difundir ideas falsas.
Es fundamental proponer porque Chat GPT no lo hará por nosotros. Chat GPT no reemplaza las habilidades de escritura y pensamiento crítico. En cambio, las hace aún más importantes para poder usar la IA de manera eficaz y sensata.
Así lo experimenté al editar este texto y buscar ejemplos para él usando Chat GPT. Y lo mejor es que no me convirtió en una escritora perezosa y mediocre (¡aún!).
* Aparte del proceso normal de edición, se usó el algoritmo INFLESZ y Chat GPT para mejorar la legibilidad el texto y pulir su estructura. En todo caso, hubo que intentar con diferentes instrucciones (prompts) y evaluar las alternativas que resultaron para respetar el estilo de la autora y adaptarlo a este medio.
