Un extrabajador de OpenAI y Anthropic advierte: la IA ‘podría matarnos a todos’

Jacob Coxon, ingeniero de software británico de 27 años que ha trabajado tanto en OpenAI como en Anthropic, ha anunciado su marcha de la industria de la inteligencia artificial con un mensaje contundente en X: las empresas que están construyendo esta tecnología «no están actuando de forma responsable» y «están jugando con nuestras vidas».

«Podría matarnos a todos antes de que acabe la década»

Coxon trabajó tres años en OpenAI, donde participó en el desarrollo de GPT-4o y GPT-4.5 sin ocupar puestos ejecutivos, antes de incorporarse a Anthropic. En su mensaje de despedida asegura que buena parte de las personas que desarrollan estos sistemas «cree que podría matarnos a todos antes de que acabe esta década», porque, según él, «ninguna otra actividad humana plantea este nivel de amenaza».

Según Coxon, los modelos actuales están a las puertas de convertirse en «sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar todos los campos y hacerse con poder y recursos reales».

Diferencias entre OpenAI y Anthropic, según el propio Coxon

El ingeniero traza una distinción entre las dos compañías en las que ha trabajado. Sostiene que OpenAI no ha interiorizado del todo los riesgos a escala civilizatoria que él atribuye a esta tecnología, mientras que Anthropic sí los comprende, pero está «atrapada en una carrera por llegar primero», aunque la empresa lo presente como «llegar primero para actuar con responsabilidad».

Como propuesta, Coxon reclama coordinación real entre los distintos laboratorios de IA y «acciones costosas», como prohibiciones temporales a la mejora de las capacidades de los modelos, además de una reflexión profunda por parte de quienes investigan en este campo.

No es una voz aislada

El propio Evan Hubinger, investigador de Anthropic, respaldó públicamente parte de las preocupaciones de Coxon. Hubinger cifra en «más de un 10 % de probabilidad» el riesgo de que la IA provoque la extinción de la humanidad en la próxima década, aunque matiza que el riesgo de los modelos actuales sigue siendo bajo.

Coxon no es el primero en dar este paso. Geoffrey Hinton, considerado uno de los padres de la inteligencia artificial moderna y premio Nobel, dejó Google en 2023 para poder criticar libremente los riesgos de esta tecnología. En 2024, un grupo de extrabajadores de OpenAI firmó una carta abierta denunciando el desarrollo acelerado de la IA y la falta de protección para quienes alertan internamente de estos riesgos.

El aviso de Coxon llega en un momento en el que la carrera por desarrollar modelos cada vez más potentes se ha acelerado entre OpenAI, Anthropic, Google DeepMind y otros laboratorios, sin un marco regulatorio internacional consolidado que fije límites comunes.