El CEO de OpenAI también admitió el riesgo de la IA sobre la humanidad

Este lunes, el CEO de OpenAI, Sam Altman, alertó sobre dos posibles escenarios en los que el desarrollo de la inteligencia artificial (IA) podría “salir muy mal”. En ese sentido, señaló como uno de los principales riesgos la posibilidad de que la humanidad termine perdiendo el control sobre su propio futuro. También pidió establecer reglas de seguridad comunes entre las compañías que desarrollan los modelos más avanzados y advirtió que “ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”.

“Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar”, planteó Altman en una serie de publicaciones en X, difundidas después de anunciar que OpenAI no saldrá a bolsa este año.

El empresario señaló como primer riesgo la posibilidad de que los seres humanos pierdan el control sobre el desarrollo y las decisiones de sistemas cada vez más capaces. “Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas”, afirmó.

Para evitar ese escenario, Altman consideró necesario que las técnicas destinadas a garantizar la alineación y la seguridad de los sistemas avancen al mismo ritmo o incluso por delante de las capacidades de los modelos. “Necesitamos formas de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso en las capacidades de los modelos”, sostuvo.

El segundo peligro señalado por el CEO de OpenAI es una excesiva concentración de poder en manos de quienes controlen las tecnologías más avanzadas. Según advirtió, una inteligencia artificial extraordinariamente poderosa podría convertirse en una herramienta para que una persona, una empresa o incluso un país impongan sus intereses sobre el resto.

“El mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado”, afirmó.