Hinton eleva la alarma: la superinteligencia artificial podría extinguir a la humanidad con hasta un 20% de probabilidad antes de 2055

Geoffrey Hinton, el investigador británico-canadiense que en 2024 recibió el Nobel de Física por sus trabajos fundacionales en aprendizaje profundo, volvió a encender el debate sobre los riesgos existenciales de la inteligencia artificial. En una reciente ronda de declaraciones públicas, el científico de 78 años, actualmente radicado en la Universidad de Toronto, estimó entre un 10% y un 20% las probabilidades de que una IA superinteligente provoque la extinción de la especie humana en un horizonte de treinta años, es decir, antes de 2055.

El dato cuantitativo es la cara más visible de su advertencia, pero el sustento del planteo está en otro lugar. Para Hinton, la humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y ese punto ciego histórica es, a su juicio, el mayor peligro del momento. Por eso decidió en 2023 renunciar a su cargo en Google, donde dirigió el equipo de investigación de IA durante más de una década: necesitaba hablar sin restricciones corporativas sobre los riesgos del campo que él mismo contribuyó a crear.

Un salto cualitativo, no solo cuantitativo

Hinton rechaza la lectura predominante en la industria, que presenta a los grandes modelos de lenguaje como sistemas meramente estadísticos, capaces de predecir la siguiente palabra en una secuencia pero sin verdadera comprensión. Según su análisis, esa caracterización es obsoleta: los modelos más avanzados ya entienden efectivamente los conceptos semánticos y abstractos que procesan.

“La velocidad de avance de esta tecnología supera con creces las proyecciones que yo mismo manejaba hace una década. Cuando algo se mueve más rápido que los marcos regulatorios, el resultado es casi siempre el mismo: el daño llega antes que la ley.”Geoffrey Hinton, Universidad de Toronto

Tres pasos para entender su propuesta regulatoria

• Diagnóstico: la innovación tecnológica es como el acelerador de un auto: sin volante, más velocidad equivale a más peligro. Los marcos legales vigentes son los frenos que faltan.
• Prescripción: la regulación debe ser estatal, no corporativa. Confiar en la autorregulación del mercado ante una amenaza de esta escala es, en sus palabras, un error estratégico.
• Escala: las normas deben ser globales, porque la competencia geopolítica entre potencias no puede ser razón suficiente para postergar acuerdos internacionales sobre seguridad en IA.

El científico reconoce el argumento habitual de quienes se oponen a fijar límites estrictos: imponer restricciones regulatorias pondría a determinados países en desventaja frente a competidores que avanzan sin esas trabas. Hinton lo rebate de manera directa: aceptar esa lógica equivaldría a renunciar a cualquier intento de control sobre una tecnología que, en su propia estimación, podría volverse incontrolable en menos de tres décadas.

La ventana de oportunidad y el costo de no actuar

Para Hinton, la ventana de acción todavía no se cerró. La humanidad conserva margen para definir la orientación ética de los sistemas que está construyendo, pero ese margen se achica a medida que los modelos ganan capacidad de forma autónoma y se insertan en infraestructuras críticas. El costo de no legislar a tiempo, advierte, no se mide en dinero: se mide en la posibilidad misma de que la especie llegue a la segunda mitad del siglo XXI en las mismas condiciones en que lo empezó.

El planteo de Hinton se inscribe en una corriente creciente dentro de la comunidad técnica que pide tratados internacionales vinculantes para el desarrollo de inteligencia artificial de frontera, similares a los que existen para energía nuclear o armas químicas. A diferencia de esos campos, la IA carece aún de un organismo internacional con autoridad para fiscalizar investigaciones o desarrollos, y los principales avances se concentran en empresas privadas de Estados Unidos y China, donde la lógica competitiva tiende a prevalecer sobre la preventiva. En ese contexto, el llamado del Nobel es menos una predicción apocalíptica y más una recomendación concreta: regular antes de que regular ya no sirva.