Sam Altman marca los dos puntos críticos que, según su propia lectura, podrían descarrilar el futuro de la inteligencia artificial

El fundador y director ejecutivo de OpenAI, Sam Altman, identificó dos escenarios que, a su criterio, concentran los mayores peligros en el avance de la inteligencia artificial: la pérdida de control humano sobre sistemas cada vez más poderosos y la acumulación de un poder desproporcionado en manos de una sola persona, empresa o país. Para reducir esos riesgos, propuso un esquema de tres pasos: un marco regulatorio federal con estándares comunes de seguridad, la incorporación de auditores independientes a los mecanismos de supervisión y la coordinación internacional entre gobiernos.

El control humano como condición innegociable

El primer punto crítico que Altman describió es que la humanidad pierda el control sobre la tecnología a medida que los modelos ganan capacidad. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", sostuvo el directivo. Para evitar ese desenlace, planteó que las técnicas de alineación y seguridad deben avanzar al mismo ritmo que las capacidades de los modelos, o incluso por delante de ellas, de modo que cada salto de potencia venga acompañado por un salto equivalente en los sistemas diseñados para mantener a la IA dentro de límites verificables.

El riesgo de la concentración de poder

El segundo escenario es la concentración excesiva de poder. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió Altman, según las declaraciones difundidas por la propia compañía. El directivo reconoció que evitar ambos riesgos a la vez implica transitar lo que describió como un "angosto camino intermedio", una metáfora que utilizó para graficar la dificultad de regular sin frenar la innovación y de promover competencia sin habilitar abusos.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.”Sam Altman, director ejecutivo de OpenAI

• Un marco regulatorio federal que fije requisitos de seguridad comunes para los modelos de frontera, es decir, los sistemas ubicados en el límite actual de capacidades tecnológicas.
• La incorporación de auditores independientes en los mecanismos de supervisión, con participación tanto del sector público como de actores externos a las empresas desarrolladoras.
• La coordinación internacional entre gobiernos, en línea con el criterio de Altman de que las compañías requerirán respaldo estatal para encarar riesgos que exceden las fronteras de un solo país.
• El compromiso de las empresas de aplicar medidas de seguridad por cuenta propia, sin esperar a que entren en vigencia nuevas leyes.

Altman aclaró que las empresas no deberían esperar la sanción de nuevas leyes para comenzar a aplicar medidas de seguridad por iniciativa propia. También señaló que la presión competitiva entre países no es una justificación válida para asumir riesgos innecesarios y que la coordinación internacional es uno de los ámbitos en los que las compañías necesitarán el apoyo explícito de los gobiernos. La definición concreta de los mecanismos de supervisión, su grado de obligatoriedad y la arquitectura institucional que los albergue continúan como puntos abiertos a definir en los próximos debates regulatorios.