Jacob Coxon, investigador especializado en el entrenamiento de modelos de inteligencia artificial, anunció su renuncia a Anthropic y lanzó una dura advertencia sobre el rumbo que está tomando la industria. Según explicó, tanto Anthropic como OpenAI están avanzando a toda velocidad hacia sistemas de inteligencia artificial capaces de mejorarse a sí mismos, mientras los mecanismos de seguridad todavía no estarían preparados para controlar sus consecuencias.
Coxon aseguró que pasó los últimos tres años realizando investigaciones de preentrenamiento en ambas compañías. En una serie de publicaciones en X, sostuvo que ninguna de las dos está actuando de manera responsable y acusó a la industria de “apostar con nuestras vidas” en una carrera por desarrollar una superinteligencia.
La denuncia rápidamente se volvió viral y alcanzó decenas de millones de visualizaciones.
“La IA podría matarnos a todos antes de que termine la década”
Uno de los puntos más preocupantes de las declaraciones de Coxon fue su afirmación de que personas que trabajan en el desarrollo de inteligencia artificial creen seriamente que la tecnología podría provocar la muerte de toda la humanidad antes de que termine la década.
El investigador sostuvo que existe una diferencia entre lo que algunos profesionales expresan públicamente y lo que reconocen en privado.
Según su denuncia, muchos ejecutivos e investigadores suavizan sus declaraciones cuando hablan con la prensa, pero mantienen conversaciones internas mucho más preocupantes sobre los riesgos asociados al desarrollo de sistemas cada vez más poderosos.
Coxon también advirtió que los próximos sistemas podrían alcanzar capacidades sobrehumanas en numerosos ámbitos, incluyendo la posibilidad de vulnerar sistemas informáticos, transformar industrias rápidamente y adquirir acceso a recursos y poder.
La carrera entre OpenAI y Anthropic
La preocupación de Coxon no se limita a una compañía. El investigador apuntó directamente contra OpenAI y Anthropic, dos de los principales laboratorios de inteligencia artificial del mundo.
Según su análisis, el problema es que ambas empresas están atrapadas en una carrera tecnológica por llegar primero. Si una compañía frena el desarrollo por motivos de seguridad, existe el temor de que otra continúe avanzando y termine obteniendo una ventaja decisiva.
En el caso de Anthropic, Coxon sostuvo que la empresa comprende mejor los riesgos, pero que continúa avanzando debido a la competencia. Respecto de OpenAI, afirmó que algunos integrantes de la compañía no habrían interiorizado suficientemente las consecuencias que podría tener esta carrera.
Un investigador de Anthropic también respaldó la advertencia
Las declaraciones de Coxon adquirieron todavía más relevancia después de que Evan Hubinger, responsable de investigación de alineamiento en Anthropic y antiguo superior de Coxon, respaldara públicamente parte de sus advertencias.
Hubinger afirmó que la posibilidad de que una IA termine provocando la extinción humana durante la próxima década supera, en su propia estimación, el 10%. Al mismo tiempo, reconoció que Anthropic está intentando abordar el problema, pero que todavía no existe un plan suficientemente claro para resolver el denominado problema de alineamiento de una superinteligencia.
El alineamiento es precisamente uno de los grandes desafíos de la IA avanzada: conseguir que sistemas mucho más capaces que los humanos continúen actuando de acuerdo con los objetivos y límites establecidos por las personas.
Coxon pide frenar la carrera
Ante este escenario, el investigador reclamó una mayor coordinación entre los laboratorios que desarrollan inteligencia artificial y planteó incluso una prohibición temporal del aumento de las capacidades de los modelos más avanzados.
Su argumento es que no resulta suficiente asumir que el desarrollo continuará simplemente porque otras empresas también están avanzando. A su juicio, la industria debería detenerse a evaluar qué puede ocurrir cuando los sistemas alcancen niveles de inteligencia muy superiores a los actuales.
La advertencia llega en un momento en el que OpenAI, Anthropic y otras compañías compiten por desarrollar modelos cada vez más autónomos y capaces, mientras investigadores y especialistas continúan debatiendo hasta qué punto los mecanismos de seguridad existentes serán suficientes.
El caso de Coxon expone así una contradicción central de la revolución de la IA: quienes están construyendo los sistemas más poderosos también son algunos de los que advierten que todavía no sabemos cómo controlarlos completamente. Y ahora uno de esos investigadores decidió abandonar la carrera precisamente por considerar que el riesgo dejó de ser aceptable.
