Lo primero que uno siente al escuchar a Geoffrey Hinton es una mezcla rara de vértigo y respeto. El tipo que en las décadas del ochenta y del noventa empujó las redes neuronales hasta volverlas el corazón de la inteligencia artificial que usamos a diario ahora sale a decir, con la tranquilidad de quien ya tiene poco que perder, que la humanidad está conduciendo un Fórmula 1 sin volante y a toda velocidad. Tiene setenta y ocho años, se fue de Google en 2023 justamente para poder hablar sin que la firma le tape la boca y, lejos de arrugarse, redobla la apuesta cada vez que un micrófono se le acerca.

El número que puso en la mesa

Hinton calculó que existe entre un diez y un veinte por ciento de probabilidades de que una inteligencia artificial superinteligente provoque la extinción de nuestra especie en un horizonte de treinta años. No lo dijo al pasar ni en un tuit a las tres de la mañana: lo fundamentó en que el avance de los últimos años desbordó las proyecciones que él mismo manejaba hace apenas una década. Cuando el propio inventor de una tecnología reconoce que los números se le quedaron cortos, la cosa empieza a tomar otro color.

“Somos como alguien que aprieta el acelerador de un auto sin tener volante. Más velocidad significa más peligro, y la regulación del gobierno es ese volante.”Geoffrey Hinton

La imagen del acelerador sin volante se volvió su metáfora preferida y no es casual: describe con precisión quirúrgica lo que él ve venir. Para Hinton, el problema de fondo no es que la inteligencia artificial sea mala en sí misma, sino que la velocidad de los desarrollos supera por goleada la capacidad de los Estados para escribir normas que la encaucen. Y mientras los parlamentos debaten, los laboratorios anuncian modelos nuevos cada semana.

Los modelos ya no imitan: entienden

Hay un punto del planteo de Hinton que me dejó pensando largo rato, porque va más allá del ruido mediático. Según el científico, los modelos de lenguaje más avanzados ya no se limitan a detectar patrones estadísticos en montañas de texto, como repitió el sentido común durante años. Para él, esos sistemas comprenden de verdad los conceptos abstractos que procesan. Si eso es así, y Hinton es la persona más autorizada del planeta para sostenerlo, entonces la categoría del riesgo cambió de manera cualitativa. No estamos ante un loro sofisticado que repite combinaciones: estamos frente a algo que empieza a manejar ideas como las manejamos nosotros, solo que más rápido y sin cansarse.

• Entre un diez y un veinte por ciento de chances de extinción humana en treinta años, según la estimación del propio Hinton.
• La velocidad de avance de la inteligencia artificial superó las proyecciones que manejaba el científico hace apenas diez años.
• Para Hinton, los modelos actuales ya comprenden conceptos abstractos, no solo patrones estadísticos en grandes volúmenes de texto.
• El investigador rechaza la idea de que la competencia entre países justifique postergar regulaciones globales.
• Plantea que la humanidad todavía conserva margen para definir la ética de los sistemas, pero advierte que esa ventana se achica con cada nuevo salto técnico.

A mí, lo que más me interpela de toda esta conversación es la parte que Hinton les dedica a los que dicen que regular frena la innovación y deja a los países en offside frente a sus rivales. Su respuesta es directa como un verso de un chamamé que escuché de chico en Corrientes, de esos que no dan rodeos: confiar en que el mercado se autorregule ante una amenaza de esta magnitud es un error estratégico de los más grandes de la historia. La competencia geopolítica, dice, no puede ser excusa válida para sentarse a esperar que el peor escenario no se cumpla.

La advertencia final del Nobel de Física 2024 suena a pedido desesperado, pero también a oportunidad. La humanidad todavía está a tiempo de decidir qué tipo de inteligencia artificial quiere construir, qué límites éticos le va a poner y quién controla el botón de apagado. Esa ventana existe, insiste Hinton, pero se cierra al ritmo de cada nuevo modelo que sale al mercado. La pregunta que deja flotando en el aire es bastante incómoda: si el padre de la criatura pide a gritos que le pongamos límites, quién se anima a desoírlo.