‘IA Podría Matarnos a Todos al Final de la Década’: Ingeniero que Renunció a Anthropic

El ingeniero de software Jacob Coxon presentó su renuncia a la empresa Anthropic al considerar que ésta, así como OpenAI, “juegan con nuestras vidas” y “no están actuando con responsabilidad”.

En un hilo en su cuenta de X, el joven británico de 27 años de edad incluso señaló que las personas que están detrás del desarrollo exponencial de la inteligencia artificial creen que la IA “podría matarnos a todos al final de esta década”, porque “no hay otra actividad humana que suponga este nivel de amenaza”.

Coxon trabajó también en los últimos años para OpenAI, la creadora del popular ChatGPT, y es identificado por medios como uno de los desarrolladores de GPT-4o y GPT-4.5, aunque sin responsabilidades ejecutivas.

El ingeniero consideró que se está subestimando el poder de la tecnología y que los proyectos de IA “serán pronto sistemas sobrehumanos que podrán hackear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos”.

En su publicación en redes sociales, Coxon opinó que en OpenAI “tal vez no han internalizado en profundidad los retos civilizacionales”, mientras que en Anthropic los comprenden bien pero “están atrapados en la carrera por llegar primero”, aun cuando en el caso más optimista se trate de llegar primero “para actuar con responsabilidad”.

Ante este panorama, el experto vio como una salida la coordinación entre los distintos proyectos de IA y las empresas involucradas en ellos, aunque consideró que esto no está ocurriendo.

Por eso, abogó por “acciones costosas, como una prohibición temporal de mejorar las capacidades del modelo (‘model capabilities’)” y pidió a los investigadores de la IA que reflexionen profundamente sobre la cuestión.

“¿Quieren potenciar un ‘aprendizaje por refuerzo’ (RL en la jerga técnica) superinteligente sin un entendimiento riguroso de su mente?”, preguntó a sus colegas en IA.

“¿Van a bajar la cabeza porque ‘total, ya está ocurriendo’, o aprovechar este momento para abogar por condiciones diferentes?”, añadió.

Por su parte, Evan Hubinger, investigador de Anthropic, replicó los comentarios a Coxon en X y matizó el discurso del ingeniero:

“Jacob tiene razón aquí; realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es más del 10% dentro de la próxima década”.

El especialista consideró que el riesgo de los modelos actuales es bajo, pero advirtió que lo preocupante es “la superinteligencia que surge del automejoramiento recursivo (…) que está ocurriendo más rápido de lo que pensábamos”.

En 2024, exempleados de OpenAI mostraron en una carta abierta su preocupación por el rápido desarrollo de la IA y la ausencia de leyes que protejan a los denunciantes. Información N+