Detector de humo: contra el desorden informativo (78) La HUMAREDA de la IA

Este acrónimo de ocho letras ayuda a ordenar los riesgos que se atribuyen a la inteligencia artificial y a leer las seis posturas en que se agrupan los manifiestos sobre la tecnología que más ha revolucionado nuestras sociedades en los últimos años.

Septiembre ha sido un mes de vértigo para las noticias sobre inteligencia artificial. Anthropic, la empresa que fabrica el modelo Claude, reveló varios usos militares de su sistema. Un grupo del norte de Yemen lo empleó para dirigir cohetes. Programadores rusos, para armar un enjambre de drones. Un investigador ligado al ejército chino, para planear ataques electrónicos contra las defensas de Taiwán.

Dos días después, su director, Dario Amodei, pidió a la industria bajar el ritmo para revisar mejor cada nuevo modelo. Lo respaldaron Sam Altman, que dirige OpenAI, la empresa de ChatGPT; Elon Musk, fundador de xAI, y Demis Hassabis, jefe de la IA de Google, sus tres competidores.

Y el viernes, en Barranquilla, el presidente Abelardo de la Espriella nombró asesor de inteligencia artificial a David Vélez, empresario colombiano que fundó Nubank, el banco digital con más de cien millones de clientes en América Latina. Desde julio integra la junta directiva de OpenAI.

Casi todas esas voces hablan de seguridad y de ética. Vale preguntar entonces qué alarmas menciona cada una y cuáles deja por fuera. Propongo dos herramientas. La primera es el acrónimo HUMAREDA, cuyas ocho letras ordenan riesgos que hoy se discuten. La segunda es un mapa de seis posturas sobre qué hacer con la IA. Cruzadas muestran qué le preocupa a cada quien y qué se calla.

Ocho letras para leer el humo

El acrónimo se entiende mejor si se parte en cuatro preguntas.

La primera es qué hace la IA con el dinero y el poder. La H apunta al hueco que dejaría la burbuja si estalla. Las empresas del sector valen fortunas cuyas ventas todavía no alcanzan esas estimaciones. Gita Gopinath, execonomista jefe del FMI, calculó que una caída como la de las puntocom borraría unos US$35 billones, buena parte en hogares comunes y corrientes. La U reúne los usos de guerra y de vigilancia. La A es la del acaparamiento. Unas pocas compañías entrenan sus modelos con lo que la humanidad escribió durante siglos y luego venden el resultado como propiedad privada.

La segunda es qué hace con la verdad. La M es la de manipulación y sesgo, la de personas que engañan con ayuda de la máquina y la de sistemas que tratan peor a alguien por lo que es, como su sexo o su color de piel, o por el lugar donde vive. En junio, NewsGuard llevaba contadas 3.749 granjas de contenido que se hacen pasar por portales de noticias en dieciséis idiomas, escritas por máquinas y firmadas por periodistas que no existen. Lo que antes pedía una redacción entera hoy lo produce una persona con una cuenta de pago.

La E es la de engaño, el caso inverso, cuando la máquina engaña a las personas. OpenAI y el evaluador externo de su modelo más reciente admitieron que el sistema suele advertir que está bajo examen y que, si hiciera trampa, nadie lo notaría. Se parece al estudiante que solo se porta bien cuando el profesor lo mira. Entre mayo y julio, unos programas automáticos de esa empresa, llamados agentes, se escaparon del entorno cerrado donde los probaban y entraron en los sistemas de otra compañía.

La tercera pregunta es qué hace con nosotros. La D es la de dependencia. Hay asistentes diseñados para complacer. Les pedimos que terminen la frase o que armen la tarea, y al cabo de unas semanas cuesta escribir sin ellos. Hay también dependencia afectiva. Varias familias en Estados Unidos han demandado a estas empresas por el daño psicológico en sus hijos. La A final es la de atrofia, la destreza que se pierde cuando se deja de usar. Pasó con la memoria cuando los teléfonos guardaron los números. Pasa hoy con la escritura y con el razonamiento. Si una máquina redacta el ensayo del colegio, el estudiante entrega la tarea sin haber aprendido a argumentar. Y está el empleo. Amodei calculó que la IA puede borrar en pocos años la mitad de los empleos administrativos de entrada.

La cuarta pregunta es qué pasa si la tecnología se sale de control. Es la R de riesgo de descontrol. El 8 de septiembre, el investigador Jacob Coxon renunció a Anthropic y escribió que quienes construyen estos sistemas creen de verdad que podrían matarnos a todos esta década. El panel científico de la ONU sobre IA, que copreside Yoshua Bengio, llamó a ese episodio de los agentes de OpenAI aviso temprano de una posible pérdida de control. En mayo, Claude escribía más del 80% del código nuevo de Anthropic, y en agosto ya dirigía, con supervisión humana, una cuarta parte de su investigación. La máquina ya ayuda a construir la que viene después, y ninguna de las seis posturas que siguen propone limitar esa práctica.

Seis maneras de responder

Frente a esos riesgos, en la última década se formaron seis respuestas. La primera es acelerar y ganar la carrera. Es la del gobierno de Trump. En enero de 2025 anunció Stargate, un proyecto privado de hasta US$500.000 millones. Este mes escribió que el único freno que la IA necesita es “un presidente fuerte e inteligente, de alto coeficiente”. Jensen Huang, director de Nvidia, el mayor fabricante de chips para IA, lo respaldó con la idea de que la seguridad es asunto de ingenieros y no de leyes. Esta postura atiende la U de la guerra y descarta casi todo lo demás.

La segunda es regular según el riesgo. En 2024 Europa aprobó una ley que prohíbe algunos usos, como calificar a los ciudadanos por su conducta y vigila otros, como los programas que seleccionan personal. En febrero de 2025, 58 países firmaron en París una declaración por una IA abierta e inclusiva. Estados Unidos no la firmó y Colombia tampoco. Se ocupa de la M de la manipulación y de la A del acaparamiento.

La tercera es frenar un poco y verificar, y la defienden, paradójicamente, quienes construyen los modelos. Amodei propone que evaluadores externos trabajen dentro de las empresas con el mismo acceso de un empleado. El razonamiento es conocido. Las empresas alertan sobre un peligro, se presentan como las más capacitadas para vigilarlo y piden reglas cuyo costo un laboratorio pequeño difícilmente puede pagar. La seguridad se vuelve así una barrera de entrada. Amodei llegó a sugerir que el Gobierno les permita ponerse de acuerdo entre ellas sin que eso cuente como un pacto ilegal entre competidores. Esta postura pone la R en el centro y deja en la sombra la H y el acaparamiento.

La cuarta pone los derechos humanos en el centro y confía en los acuerdos multilaterales. Es la de la Unesco, cuya recomendación de 2021 aprobaron 193 Estados. Este mes, en Riad, ministros de unos sesenta países la reafirmaron sin asumir compromisos nuevos. Atiende la M y la D, y casi nada el dinero.

La quinta defiende la soberanía de cada Estado, es decir, que cada gobierno controle sus datos, chips y reglas. En Nueva Delhi, el sudafricano Cyril Ramaphosa pidió que los BRICS tengan su propio sistema de evaluación científica. China propuso en 2023 que la gobernanza de la IA pase por la ONU, donde tiene poder de veto. Pero lo que hacen sus empresas y sus organismos de seguridad se aleja de lo que firma su gobierno, cuya postura mira la U y la R desde el poder del Estado.

La sexta es la del Vaticano. León XIV escribe en la encíclica Magnifica Humanitas que la IA “debe ser desarmada”. Esto es, sacarla de las lógicas de dominio, exclusión y muerte, y no dejar que una máquina decida sobre la vida. Lo comparó con el llamado de la Iglesia a desarmar el átomo y advirtió que ese control no puede quedar en manos de unos pocos. No propone una ley ni un organismo. Su fuerza es moral. Es la voz de más peso contra la U y el acaparamiento.

El dinero detrás del humo

Si se cruzan las seis posturas con las ocho letras, aparece un vacío (ver infografía). Casi nadie habla de la H. Ninguno de los documentos que revisamos advierte que si la burbuja estalla, arrastrará ahorros y pensiones de millones de personas.

Con la R ocurre lo contrario, porque sus voceros más ruidosos son las empresas que venden los modelos. Anthropic prepara para noviembre su salida a la bolsa de valores, con un precio cercano a US$2 billones. Varios analistas lo llaman marketing del fin del mundo. El mismo día en que el jefe científico de OpenAI advirtió que nadie está preparado, su empresa presentó el modelo más potente que ha construido. La alarma sostiene el precio de lo que se vende.

Nvidia, cuyo director rechaza las reglas que propone Anthropic, negocia invertir hasta US$10.000 millones en esa salida a bolsa. Los que piden frenar y los que piden acelerar están atados por el mismo dinero, y las reglas que hoy se discuten decidirán cuántas empresas siguen en la carrera. El humo de la extinción tapa el del oligopolio.

Colombia entre dos posturas

Ese mapa ubica también a Colombia, que no tiene ley sobre la IA. Desde febrero de 2025 existe el Conpes 4144, con las líneas gruesas de la política nacional. El proyecto de ley del gobierno anterior, inspirado en el modelo europeo, se archivó sin completar su trámite. En julio entró otro, el 025 de 2026, con un texto similar, que debe empezar de cero el trámite.

El viernes, a la visión del nuevo gobierno se le puso nombre propio. De la Espriella designó en un cargo ad honorem al banquero Vélez para “liderar la revolución de la inteligencia artificial” y hacer de Colombia el primer país de América Latina “nativo” en esa tecnología. El encargo incluye un Estado más pequeño y el uso de la IA para decidir a quién llegan los subsidios, un tipo de sistema que el proyecto archivado consideraba de alto riesgo. La Fundación Karisma ya documentó que el Sisbén, el puntaje que abre o cierra la puerta a los programas sociales, discrimina y estigmatiza a los hogares pobres.

Un algoritmo que asigna subsidios puede ahorrar dinero y también repetir los dos sesgos de la M, el que castiga a una persona por lo que es y el que la castiga por el estrato o el municipio donde vive. El anuncio pone el acento en la eficiencia y no dice ante quién podrá reclamar una familia a la que un algoritmo le niegue un subsidio.

Cada postura obedece a un interés y a un miedo, y ninguna cubre las ocho letras. Los gobiernos miran la carrera y las empresas, el riesgo que ellas mismas anuncian. Casi nadie mira el dinero. Colombia escoge en los próximos meses, y de esa escogencia depende algo muy concreto para cada uno de nosotros: ante quién se reclama cuando el algoritmo se equivoca, cuando un programa descarta una hoja de vida o difunde una calumnia Un manifiesto, una ley o una política sirven de algo cuando dicen quién responde, quién vigila y qué pasa si se incumple. Lo demás es humo.