Anthropic y la advertencia sobre la IA: ¿alerta real o guerra psicológica?

A mediados de septiembre de 2026, una serie de renuncias y declaraciones dentro de Anthropic encendió una de las polémicas más intensas del sector tecnológico: varios de sus propios investigadores afirman que la inteligencia artificial general podría volverse incontrolable antes del final de la década. La reacción de Elon Musk, que describió el episodio como un montaje y una operación psicológica, convirtió un debate técnico en una batalla política y mediática que afecta a toda la industria.

Puntos clave del caso

• La renuncia que abrió la caja de Pandora. El investigador Jacob Coxon anunció su salida de Anthropic el 8 de septiembre con una advertencia directa: las empresas compiten por desarrollar una superinteligencia que, según él, podría "destruirnos a todos" antes de que termine esta década. Su mensaje dejó de ser una opinión aislada y se transformó en el detonante de un debate interno que hasta entonces permanecía en privado.

• Otros empleados confirmaron el temor. Anna Wang, especialista en seguridad de AGI que antes trabajó en Google DeepMind, declaró que no existe un plan científico viable para mitigar los riesgos de los sistemas con capacidad de automejora recursiva (RSI), es decir, modelos capaces de reescribir y optimizar su propio código. Añadió que muchos colegas desean frenar el ritmo de desarrollo, aunque no lo digan en público.

• Testimonios que apuntan a una preocupación estructural. Drake Thomas, otro empleado, sostuvo que la velocidad del avance supera con creces las garantías disponibles para una superinteligencia. Samuel Marks, investigador de seguridad, señaló un patrón revelador: cuanto mayor es el rango del empleado dentro de la compañía, mayor es su inquietud.

• El informe de abuso de modelos. El 10 de septiembre Anthropic publicó un informe sobre el uso indebido de sus sistemas durante los ocho meses previos. La empresa afirmó haber bloqueado intentos que podrían haber servido para fabricar armas biológicas y haber neutralizado varios casos de riesgo potencial.

• El caso del virus chikungunya. En mayo, un científico solicitó ayuda al modelo Claude para redactar una propuesta de financiación de investigación sobre el virus chikungunya, transmitido por mosquitos y causante de dolores intensos durante meses. El estudio buscaba modificar genéticamente el virus para aumentar su patogenicidad mediante infecciones repetidas en animales vivos, un enfoque de "ganancia de función".

• El factor militar como señal de alarma. Lo que más preocupó a Anthropic fue que el proyecto estaba previsto en una institución de investigación militar. Jacob Klein, responsable de inteligencia de amenazas de la compañía, admitió que no pueden saber si el objetivo era la weaponización, pero que la combinación de ganancia de función y entorno militar resulta inquietante.

• La ambigüedad de la investigación legítima. Anthropic reconoció que la biología de doble uso complica la evaluación: estudios que podrían generar avances en vacunas también podrían diseñar patógenos peligrosos. Ante esa incertidumbre, la empresa optó por la cautela, aunque ello implique frenar investigaciones legítimas.

La contraofensiva política. Musk calificó el episodio de "montaje" y "psicops", y sugirió que solo fue la chispa que encendió una campaña preparada durante mucho tiempo. El analista Parker Thayer, del think tank conservador Capital Research, afirmó sin pruebas que los mensajes formaban parte de una operación de relaciones públicas destinada a impulsar la regulación de la IA, tesis que el inversor Bill Ackman amplificó con un escueto comentario.

Análisis en profundidad

El episodio revela una fractura cada vez más visible dentro del sector: la distancia entre quienes construyen los modelos y quienes asumen la responsabilidad de sus consecuencias. Que empleados de una de las empresas líderes en seguridad de IA hablen de riesgo existencial no es un detalle menor; sugiere que las salvaguardas internas, por sofisticadas que sean, no bastan para contener la lógica competitiva del mercado. La presión por lanzar modelos antes que los rivales tiende a subordinar la cautela a la velocidad, y eso explica por qué muchos prefieren el anonimato o la renuncia antes que el debate público.

El informe sobre bioseguridad añade una capa más incómoda. La "ganancia de función" es un campo científicamente legítimo y potencialmente valioso para la medicina, pero también un vector clásico de riesgo. Que un modelo de lenguaje pueda asistir en la redacción de una propuesta de investigación de este tipo demuestra que la línea entre herramienta útil y asistente peligroso es difusa, y que la verificación del contexto —quién pregunta, para qué institución y con qué fines— se vuelve tan importante como la capacidad técnica del sistema.

La reacción de Musk y del ecosistema conservador merece leerse con atención. Etiquetar de "psicops" una advertencia de seguridad desplaza el debate desde la evidencia técnica hacia la sospecha ideológica. Es una estrategia eficaz a corto plazo: si toda alerta se interpreta como maniobra política, ninguna regulación resulta legítima. Sin embargo, esa misma lógica puede volverse en contra de quienes la usan, porque las capacidades peligrosas no desaparecen por negarlas.

Para el mercado hispanohablante, el caso tiene implicaciones concretas. Las empresas de España y América Latina que adoptan modelos de Anthropic, OpenAI o Google deberán asumir protocolos de uso responsable, auditoría de casos sensibles y formación interna sobre riesgos de doble uso. La regulación europea de IA ya avanza en esa dirección, y es probable que los marcos latinoamericanos sigan ese camino en los próximos años.

De cara al futuro, cabe esperar tres tendencias: mayor rotación de talento de seguridad hacia organismos independientes, presión creciente para publicar evaluaciones de riesgo antes del lanzamiento y una politización más intensa de cualquier advertencia técnica. El verdadero test no será quién grita más fuerte, sino si las empresas aceptan límites verificables antes de que el debate llegue, inevitablemente, a los legisladores.

Preguntas frecuentes

¿Qué es la automejora recursiva (RSI) y por qué preocupa? Es la capacidad de un sistema de IA para modificar y optimizar su propio código o arquitectura, mejorando sin intervención humana directa. El problema es que ese ciclo puede acelerarse más rápido de lo que los equipos de seguridad pueden auditar, dejando sin control efectivo al sistema resultante.

Fuente: https://www.thepaper.cn/newsDetail_forward_34049099