Sam Altman, CEO de OpenAI, advirtió que la IA podría "salir muy mal" y pidió reforzar los controles

Resumen para apurados

El CEO de OpenAI, Sam Altman, advirtió que el avance de la inteligencia artificial podría derivar en dos escenarios extremos: que la humanidad pierda el control sobre su propio futuro y que el poder quede concentrado en manos de quienes dominen las tecnologías más avanzadas.

Frente a esos riesgos, reclamó reforzar las medidas de seguridad y establecer reglas comunes para las empresas que desarrollan los modelos de IA de frontera.

También te puede interesar: Caponio, sobre el acueducto de El Cadillal: "Esta obra se debió haber hecho hace 35 años"

"Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar", planteó Altman en una serie de publicaciones en X, difundidas después de que anunciara que OpenAI no saldrá a bolsa este año.

El empresario ubicó como primera amenaza la posibilidad de que los seres humanos pierdan el control sobre sistemas de inteligencia artificial cada vez más capaces. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", afirmó.

Para evitar ese escenario, Altman sostuvo que las técnicas destinadas a garantizar la alineación y la seguridad de los sistemas deberían avanzar al mismo ritmo o incluso por delante de las capacidades de los modelos. "Necesitamos formas de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso en las capacidades de los modelos", sostuvo.

También te puede interesar: Líderes de Escocia, Irlanda del Norte y Gales avanzan con su plan para independizarse del Reino Unido

El segundo peligro, según el CEO de OpenAI, es una excesiva concentración de poder entre quienes controlen las tecnologías más avanzadas. Una inteligencia artificial extraordinariamente poderosa, advirtió, podría convertirse en una herramienta para que una persona, una empresa o incluso un país imponga sus intereses sobre el resto, consignó el diario "La Nación".

"Podríamos terminar en un mundo con demasiada concentración de poder. Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", dijo.

Altman reconoció que evitar ambas amenazas al mismo tiempo supone un desafío y planteó la necesidad de encontrar un equilibrio. "Evitar estas dos amenazas requiere caminar por un angosto camino intermedio; por ejemplo, un país podría ganar demasiado poder. Otro ejemplo es un laboratorio terminando con demasiado poder", agregó.

También te puede interesar: Importaciones más simples: ARCA eliminó un trámite clave para el ingreso de un producto

En otra publicación, Altman profundizó sobre las medidas que considera necesarias para reducir los riesgos asociados con los modelos de IA más avanzados. Sostuvo que las compañías estadounidenses que desarrollan estas tecnologías deben garantizar que actuarán de manera responsable, especialmente frente a la aceleración del progreso en el sector.

"El mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado", afirmó.

En ese sentido, se mostró a favor de un marco regulatorio federal que establezca requisitos de seguridad comunes para la denominada IA de frontera, es decir, los modelos que se encuentran en el límite de las capacidades actuales. También respaldó la incorporación de auditores independientes para supervisar los sistemas.

También te puede interesar: EEUU y China aceleran su "Guerra Fría" por el dominio de la inteligencia artificial

"Damos la bienvenida a un marco federal que establezca requisitos de seguridad consistentes para la IA de frontera", señaló. Sin embargo, consideró que las compañías no deberían esperar la aprobación de nuevas leyes para comenzar a implementar esas medidas.

Altman sostuvo además que el gobierno estadounidense tendrá un papel especialmente importante en la coordinación internacional de las políticas de seguridad. Al mismo tiempo, insistió en que las empresas deben comenzar a actuar por su cuenta.

"Donde necesitaremos la ayuda de nuestro gobierno es para la coordinación internacional. Pero primero debemos hacer lo que podamos nosotros mismos", concluyó.