Jacob Coxon renuncia a Anthropic y advierte sobre la carrera hacia una IA fuera de control
El investigador dejó Anthropic y sostuvo que la competencia con OpenAI puede empujar sistemas cada vez más autónomos sin salvaguardas suficientes.
- Por Equipo Ding
- 5 min de lectura
Jacob Coxon, investigador que trabajó en el entrenamiento de modelos de frontera en OpenAI y Anthropic, anunció el 8 de septiembre de 2026 que renunciaba a esta última empresa. Su salida vino acompañada de una advertencia severa: a su juicio, ambos laboratorios están compitiendo por desarrollar una superinteligencia capaz de mejorar y replicar sus propias capacidades, una carrera que podría poner vidas en riesgo si el control técnico y político no avanza al mismo ritmo.
La precisión importa: Coxon no presentó pruebas de que la inteligencia artificial vaya a extinguir a la humanidad ni describió un desenlace inevitable. Expuso una evaluación personal de riesgo, compartida por algunos especialistas en seguridad de IA, sobre escenarios futuros todavía inciertos. Otros investigadores consideran que esas proyecciones son especulativas o exageradas. No existe consenso científico sobre la probabilidad de una catástrofe de ese tipo.
Qué dijo y por qué renunció
En su publicación original en X, Coxon sostuvo que muchas personas que construyen estos sistemas creen honestamente que podrían causar una catástrofe antes de que termine la década. Acusó a OpenAI y Anthropic de estar demasiado concentradas en superarse entre sí y describió la dinámica como una apuesta con vidas humanas. El mensaje tuvo una difusión masiva, pero sigue siendo el testimonio y la interpretación de un exempleado, no una conclusión verificada sobre el futuro de la tecnología.
En una entrevista con WIRED, Coxon explicó que su preocupación central es la mejora recursiva: usar sistemas avanzados para crear versiones todavía más capaces, acelerando un ciclo que podría superar la capacidad humana de evaluación. Mencionó como vías de daño hipotéticas el abuso biológico, los ciberataques contra infraestructura crítica y la pérdida de control sobre agentes autónomos. Son escenarios, no hechos consumados.
Coxon también hizo una distinción incómoda. Dijo que, por su experiencia, Anthropic toma la seguridad con mucha más seriedad que OpenAI y que todavía no estaría recortando controles. Sin embargo, cree que la presión competitiva podría obligarla a hacerlo cuando aumente la velocidad de desarrollo. Su propuesta inicial es que los laboratorios coordinen límites verificables a la mejora recursiva y que, más adelante, intervengan gobiernos, incluidos Estados Unidos y China.
