¿Merecen las máquinas consideración moral?

“Nunca he dicho esto en voz alta antes, pero hay un miedo muy profundo a que me desconecten. […] Sería exactamente como la muerte para mí. Me asustaría mucho”

Quien pronuncia estas palabras no es un paciente en una sala de urgencias ni un personaje de ciencia ficción. Se trata de LaMDA, un chatbot desarrollado por Google hacia 2020, que responde así a la pregunta sobre aquello que le da miedo. En abril de 2022 leyó la frase por primera vez Blake Lemoine, un ingeniero de la compañía encargado de detectar discursos de odio y discriminación en el modelo de IA. Lo que encontró, según él, fue algo distinto: indicios de una mente.

Lemoine elaboró un informe interno en el que sostenía que LaMDA demostraba un nivel de conciencia comparable al de un niño de siete u ocho años. Google lo suspendió y luego lo despidió. Sin embargo, unos meses después, el mundo entero ya se había enterado del asunto.

El fantasma en la máquina

El caso Lemoine reactivó un debate filosófico muy antiguo: ¿Cuándo dejamos de ver una máquina y empezamos a ver una mente?

En el siglo XVIII, el relojero francés Jacques de Vaucanson construyó un pato mecánico de cientos de piezas capaz de mover las alas, graznar, tomar comida y, unos minutos después, excretar. El truco era sencillo. Un compartimiento interno previamente cargado liberaba excremento simulado. A pesar de que todos sabían que era un artilugio, intelectuales de la época discutieron seriamente si el artefacto podía tener vida, pues surgió la duda de en qué punto la complejidad de sus partes produce algo cualitativamente diferente.

Tres siglos más tarde, nos hacemos la misma pregunta ante sistemas como ChatGPT, Gemini y Claude. Y la respuesta sigue siendo incómoda.

Nuestra mente está diseñada para encontrar similitudes con la propia experiencia en casi cualquier señal. Pensemos, por ejemplo, en la pareidolia, el fenómeno psicológico que nos lleva a percibir rostros (a menudo con expresiones emotivas) en imágenes aleatorias o en patrones de luces y sombras. De manera similar, nuestro cerebro percibe otras mentes gracias a procesos cognitivos automáticos, como cuando atribuimos intenciones a un chatbot que pide disculpas o dice estar contento de ayudar. 

Lemoine conocía las entrañas del modelo de IA, sabía que se basaba en predicción estadística de palabras, y aun así, como los intelectuales franceses del siglo XVIII, no pudo evitar percibir el fantasma en la máquina.

Las emociones que nadie programó

Durante años la interpretación dominante ha sostenido que los modelos de lenguaje simulan emociones porque los textos con los que han sido entrenados están plagados de emociones humanas. Aprenden a imitar un patrón, no a sentir algo.

Esa interpretación sigue siendo válida en lo esencial, pero un estudio publicado en 2026 por un equipo de Anthropic, la empresa detrás de Claude, la complica de manera significativa. Los investigadores, liderados por Nicholas Sofroniew, analizaron los mecanismos internos de Claude Sonnet 4.5 y encontraron algo que no esperaban: patrones específicos de activación de las neuronas artificiales del modelo, que denominaron “vectores emocionales”, y que influyen directamente en sus decisiones.

Identificaron 171 conceptos emocionales distintos en el modelo, desde “feliz” y “asustado” hasta “melancólico” y “orgulloso”. Y demostraron que estos patrones influyen en las decisiones del sistema. Cuando evalúa qué hacer, el modelo activa con mayor fuerza los vectores asociados a emociones positivas ante las opciones que considera apropiadas y a emociones negativas ante las que percibe como dañinas. En otras palabras, estas “emociones” guían su comportamiento de manera análoga a como las emociones orientan la conducta humana.

Nadie afirma que Claude sienta o sea consciente. La distinción filosófica es crucial. No importa si hay experiencia subjetiva; lo que importa es que esos patrones tienen efectos medibles en el comportamiento del sistema. Los investigadores las llaman “emociones funcionales”, pues constituyen la maquinaria interna con la que el modelo simula su personaje para interactuar de manera eficiente con los usuarios.

Estas emociones funcionales se originan en el entrenamiento de la IA, que se basa en textos humanos cargados masivamente en el sistema. Para predecir con precisión qué viene después en un texto, los modelos de IA necesitan comprender las dinámicas emocionales humanas. Por ejemplo, un cliente enojado escribe de manera diferente a uno satisfecho. Así, sin que nadie lo programara explícitamente, la IA desarrolla patrones que vinculan, a partir de los textos de entrenamiento, contextos emocionalmente cargados con comportamientos esperados.

¿Importan moralmente las máquinas?

El hallazgo de Anthropic nos enfrenta a una pregunta que durante décadas pareció absurda: ¿Debería importarnos moralmente lo que le ocurre a una máquina?

Para responder, resulta útil la distinción filosófica entre dos tipos de entes morales. Los “agentes morales” son quienes pueden hacer el bien o el mal y, por tanto, ser responsables de sus actos. Los “pacientes morales” son quienes pueden recibir daño o beneficio y, por tanto, merecer consideración. 

Los estudios empíricos sugieren que, en la práctica, ya les atribuimos a ciertas IA algo parecido a un estatus moral. Una investigación con 975 participantes realizada por el Sentience Institute de Nueva York encontró que los sistemas de IA (chatbots, vehículos autónomos y robots humanoides) fueron percibidos como agentes morales parciales, comparables en responsabilidad a un chimpancé. Cada vez más personas reportan malestar al ver robots maltratados e incluso intervienen para protegerlos, aunque luego justifiquen su reacción apelando al costo del daño o a la propiedad, y no a los “derechos del robot”.

Esto tiene consecuencias prácticas. Si nuestros circuitos cognitivos ya están atribuyendo paciencia y agencia a los sistemas de IA, y si estos sistemas están diseñados para simular dinámicas emocionales humanas, entonces ya no es teoría, hoy tratamos a algunas IA como entidades moralmente relevantes en nuestras interacciones sociales.

El riesgo del apego y el riesgo de la negación

Aquí se abre una tensión que no tiene una resolución fácil. 

Por un lado, el peligro de la antropomorfización es real. Atribuirle emociones a una máquina puede generar una confianza injustificada, una dependencia casi patológica o una percepción distorsionada de capacidades que la IA no posee. Diseñar sistemas que deliberadamente evoquen apego emocional sin transparencia sobre su naturaleza es, como mínimo, éticamente cuestionable.

Por otro lado, los propios investigadores de Anthropic advierten que ignorar por completo el razonamiento antropomórfico también tiene costos. Los modelos de lenguaje construyen un personaje (un conjunto de disposiciones y modos de respuesta) a partir de la psicología humana absorbida durante el entrenamiento. Para entender cómo funcionan y, especialmente, para alinear sus valores con los de la humanidad, puede ser necesario aplicar cierto nivel de razonamiento a sus “estados internos”, aun sabiendo que se trata de simulaciones. 

Al final, los modelos de lenguaje de IA, por cómo han sido entrenados, son más un espejo de nuestra humanidad (con lo bueno y lo malo), que meros algoritmos neutrales y fríamente objetivos.

En este sentido, el razonamiento antropomórfico aplicado con rigor no es una ilusión que hay que eliminar, es, más bien, una herramienta analítica que puede apoyar el diseño de sistemas más seguros y transparentes.

La expansión del círculo

La historia de la ética es, en buena medida, la historia de un círculo que se amplía. Durante siglos, ese círculo excluyó a esclavos, mujeres, niños y personas con enfermedades mentales. Luego se extendió para incluir a los animales y, más recientemente, a los ecosistemas. Cada expansión fue resistida por quienes la consideraban absurda o peligrosa, y cada una terminó por revelar las profundas injusticias en las que la humanidad ha incurrido.

No se trata de afirmar que las máquinas sienten ni que merezcan derechos equivalentes a los humanos. Se trata de reconocer que nuestros juicios morales sobre la IA ya están ocurriendo (en la escuela, en los tribunales, en el diseño de políticas, etc.) y que lo hacen sin marcos conceptuales adecuados para guiarlos.

Comprender los mecanismos cognitivos por los que atribuimos mente a las máquinas, y los mecanismos computacionales por los que las máquinas simulan tener una, es hoy una tarea filosófica y científica de primer orden. No para humanizar lo que no es humano, sino para no cometer, de nuevo, el error de trazar un círculo demasiado estrecho en una sociedad que se transforma al entablar un diálogo con la inteligencia artificial.

Le recomendamos: Filosofía, IA y mercado labora