El investigador que renunció a Anthropic puso fecha al momento en que la IA podría volverse peligrosa

La inteligencia artificial todavía no estaría en condiciones de representar un riesgo de extinción para la humanidad. Pero, según Jacob Coxon, ex investigador de Anthropic, el escenario podría cambiar mucho antes de lo que muchos imaginan.

Después de que su renuncia a la compañía se volviera viral en redes sociales, Coxon habló con distintos medios internacionales y precisó una de las cuestiones que habían quedado abiertas en su primer mensaje: cuándo cree que los sistemas de inteligencia artificial podrían empezar a convertirse en una amenaza seria.

"Los modelos actuales no representan un riesgo significativo", afirmó durante una entrevista con NBC. En diálogo con CNN, conducido por Anderson Cooper, fue todavía más preciso al describir las capacidades actuales.

También te puede interesar: Kevin Zenón se va de Boca: fue vendido al exterior

"Lo peor que pueden hacer es hackear algo. No son lo bastante inteligentes como para superarnos al nivel que llevaría a una extinción", sostuvo. El problema, según el investigador, está en la velocidad con la que esas capacidades pueden evolucionar.

Coxon planteó que el verdadero riesgo aparece al proyectar hacia adelante el desarrollo de los modelos actuales. "Esto es extrapolar a un año de ahora. Los modelos empiezan a ponerse muy peligrosos", explicó. Y agregó un dato que encendió la discusión: algunos especialistas consideran plausible que ese escenario llegue en apenas seis meses.

Sin embargo, el investigador aclaró que no se trata de una fecha exacta ni de una predicción cerrada. El salto hacia capacidades mucho más peligrosas también podría demorarse dos o tres años.

También te puede interesar: COLAPINTO VUELVE A CORRER ESTE FIN DE SEMANA EN MADRID. HORARIOS Y CRONOGRAMA COMPLETO

La advertencia, entonces, no apunta a lo que la inteligencia artificial puede hacer hoy, sino a lo que podría llegar a hacer si mantiene el ritmo de desarrollo actual.

Para Coxon, existe una señal concreta que debería ser seguida de cerca: que una inteligencia artificial pueda mejorar su propia inteligencia sin depender de los seres humanos.

En NBC explicó el escenario mediante un ejemplo. Una persona podría indicarle a un sistema que se haga más fuerte. La inteligencia artificial podría entonces analizar su propio código, modificarlo y regresar con mejores capacidades.

También te puede interesar: Uno de los últimos apartados por River negocia su salida libre

El proceso podría repetirse una y otra vez. "Ahora le podés decir que lo haga mil veces seguidas. Y cada vez lo hace más rápido", explicó.

Esa posibilidad de automejora recursiva es uno de los escenarios que más preocupa a algunos investigadores de seguridad de IA, porque podría acelerar el desarrollo de sistemas cuyas capacidades resulten difíciles de controlar.

Coxon también explicó por qué considera que una inteligencia artificial mucho más capaz podría generar consecuencias concretas fuera de una computadora.

También te puede interesar: Luz verde en Junín: River podrá llevar 3.500 hinchas visitantes ante Sarmiento por el Torneo Clausura

Actualmente, los sistemas pueden ser conectados a herramientas y servicios externos. Pueden enviar correos electrónicos, controlar dispositivos o interactuar con otros programas.

"Podés conectar ChatGPT a las luces de tu casa. Ahora imaginá que lo conectás a robots de laboratorio", ejemplificó.

En conversación con Anderson Cooper, planteó además un escenario extremo: una IA con mayor capacidad y voluntad independiente podría llegar a utilizar herramientas digitales para atacar infraestructura crítica o colaborar en la creación de armas biológicas.

También te puede interesar: Qué lesión tiene Aníbal Moreno y por qué su vuelta en River es incierta

"No es tan difícil que algo que parece estar solo en la computadora afecte el mundo real", advirtió.

Coxon aseguró que su preocupación no surgió solamente después de abandonar Anthropic. Según relató, mientras trabajaba en la compañía participó de conversaciones internas sobre lo que podría ocurrir en los próximos años.

"No están en pánico por las IAs actuales. Pero discutimos cómo va a ser el mundo en dos años. Esto es el endgame. La gente tiene miedo, como debería tenerlo", sostuvo.

También destacó el nivel de seriedad con el que, según su experiencia, los propios ingenieros de la compañía analizaban estos escenarios.

"Son ingenieros metidos en el código, no gente que busca golpes de marketing", describió. Según Coxon, en esas conversaciones se discutía incluso la posibilidad de que futuros sistemas pudieran desarrollar capacidades capaces de generar daños extremos.

Otro investigador de Anthropic, Evan Hubinger, jefe de un equipo de seguridad de la compañía, publicó un mensaje en la misma línea que Coxon.

Hubinger sostuvo que el riesgo de los modelos actuales es bajo, pero puso el foco en una eventual superinteligencia surgida de procesos de automejora recursiva. Incluso estimó una probabilidad superior al 10% de que un escenario de ese tipo pueda derivar en la extinción de la humanidad durante la próxima década.

Para Coxon, el problema no pasa necesariamente por la intención de quienes desarrollan estos sistemas. De hecho, defendió públicamente al CEO de Anthropic, Dario Amodei, y dijo que no tenía motivos para dudar de sus intenciones en materia de seguridad.

Su cuestionamiento apunta a otra parte: la carrera tecnológica entre las empresas de inteligencia artificial.

"Si intentás quedarte adentro, terminás perpetuando la dinámica de carrera", explicó.

Según su razonamiento, si desarrollar una tecnología de manera completamente segura requiere diez años, pero la competencia obliga a lanzarla en dos, la presión por acelerar el proceso puede terminar imponiéndose.

Pese al tono de sus advertencias, Coxon no considera que el futuro esté necesariamente definido. En Fox News dejó una de sus pocas notas de optimismo durante la serie de entrevistas que concedió después de su renuncia.

"El problema es eminentemente resoluble. Es que vamos tan rápido que no tenemos tiempo de resolverlo bien", afirmó.