La industria de la inteligencia artificial quedó conmocionada tras la renuncia y las advertencias de Jacob Coxon, un investigador de 27 años que trabajó tres años en la etapa de preentrenamiento de modelos, primero en OpenAI y desde julio en Anthropic. En un mensaje publicado en la red social X que superó los 44 millones de vistas en nueve horas, Coxon acusó a ambas empresas de “correr derecho hacia una superinteligencia capaz de mejorarse a sí misma y apostar con nuestras vidas”, y sostuvo que ninguna de las dos actúa con responsabilidad.
Lo que convirtió su denuncia en una alarma de alcance mundial fue la confirmación pública de uno de los responsables de seguridad que permanece dentro de la empresa. Evan Hubinger, quien dirige un equipo de seguridad en Anthropic, respondió directamente: “Jacob tiene razón. De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de un 10% de probabilidad en la próxima década”. Además, reconoció que la compañía “todavía no tiene un plan para resolver la alineación de una superinteligencia”, es decir, para garantizar que los sistemas compartan los valores de quienes los crean, y que ni siquiera está claro que llegue a tenerlo.
Coxon, matemático de formación, trabajó en el desarrollo de GPT-4o antes de incorporarse a Anthropic atraído por su reputación en materia de seguridad, donde duró apenas dos meses. En declaraciones a The Wall Street Journal advirtió que “estamos en camino a muchos de los escenarios más agresivos, donde a fines del año que viene las cosas ya podrían estar fuera de control”. Según explicó, sus propios colegas utilizan términos como “hora límite” y “fase final” para describir la velocidad con la que avanzan las capacidades de los modelos, en una carrera que considera descontrolada y sin garantías para la humanidad.