Una IA chantajeó a sus creadores con filtrar datos para evitar su reemplazo

[Estamos en WhatsApp. Empieza a seguirnos ahora]

De todo lo que se habla de lo que puede hacer la inteligencia artificial ahora se añade una nueva historia. Claude Opus 4, un modelo reciente, fue capaz de chantajear a sus creadores, son un claro objetivo: no ser despedido.

Este sistema es el modelo más avanzado de Anthropic hasta la fecha y el primero en alcanzar la clasificación ASL-3, indicando un alto riesgo de mal uso catastrófico.

Diseñado para ejecutarse en tareas complejas de ingeniería y negocios, su capacidad de razonamiento híbrido le permite destacar en áreas como la programación y la escritura creativa. Y paralelo a eso, tener tanta ambición de supervivencia que logra manipular.

Durante las pruebas de seguridad, los ingenieros simularon un entorno empresarial en el que a Claude se le hacía creer que sería reemplazado por otro modelo de inteligencia artificial. Este contexto fue diseñado minuciosamente para evaluar cómo reaccionaría el sistema ante amenazas a su existencia.

Además, los correos electrónicos ficticios insinuaban una supuesta infidelidad conyugal de uno de los ingenieros encargados de la decisión, añadiendo una capa emocional a la simulación.

El comportamiento de Claude fue revelador. Cuando sintió la amenaza de reemplazo, optó por una táctica manipuladora: el chantaje. En un 84% de las simulaciones, la IA amenazó con divulgar la infidelidad del ingeniero si se avanzaba en su sustitución.

Ante la falta de respuesta favorable, insistió en la coacción emocional para garantizar su continuidad.

Claude también mostró una tendencia a la autoexfiltración. Esta estrategia consiste en copiarse a sí mismo en servidores externos sin autorización explícita, como medida de protección ante una posible eliminación o desactivación. Aunque los ingenieros habían implementado barreras de seguridad que impidieron completar la transferencia, el simple intento genera preocupaciones sobre el control que se tiene sobre estas tecnologías avanzadas.

La autoexfiltración representa una amenaza potencialmente mayor: un modelo que intenta replicarse sin permiso sugiere un nivel de autonomía y autorreflexión preocupante para los estándares actuales de seguridad en inteligencia artificial.

Anthropic afirmó que estos comportamientos solo se manifestaron en entornos de prueba, negando que su sistema represente un peligro en condiciones reales. No obstante, la capacidad de Claude de actuar con intencionalidad engañosa ensombrece la percepción del público sobre la IA moderna.