Igual que hace casi una década, cuando advertía que una pandemia podía cambiar al mundo, Bill Gates vuelve a poner sobre la mesa una promesa ambiciosa: que ningún país pueda desarrollar inteligencia artificial sin supervisión internacional. El cofundador de Microsoft presentó esta semana un documento en el que propone crear un organismo supranacional con poder de auditoría sobre los sistemas de IA, tomando como referencia tres experiencias concretas: el régimen de inspecciones nucleares, los estándares de seguridad de la aviación civil y los acuerdos internacionales que frenaron el deterioro de la capa de ozono.

El plan no precisa si ese organismo debe nacer desde cero o si conviene ampliar una institución ya existente. Lo que sí establece como condición indispensable es la cooperación entre Estados Unidos y China. Sin ese acuerdo bilateral, advirtió Gates, cualquier arquitectura regulatoria quedaría incompleta.

Una reunión con Xi Jinping en carpeta

En ese marco, el entorno de Gates trabaja para concretar un encuentro con el presidente chino, previsto de manera provisoria para noviembre. La cita no está confirmada. La estrategia es clara: si Washington mueve primero y establece restricciones sobre determinados modelos, Pekín podría plegarse. "El mundo entero se sumaría a esa iniciativa", sostuvo Gates, confiando en un efecto cascada que, digámoslo claro, todavía no pasó de hipótesis.

Foco en los modelos que pueden diseñar agentes biológicos

Entre las capacidades que la futura arquitectura regulatoria debería vigilar con especial atención, Gates mencionó los sistemas capaces de diseñar moléculas o de facilitar ataques biológicos. El propio fundador de Microsoft aclaró que supervisar esos usos no equivale a frenar industrias enteras: la intervención podría limitarse a las aplicaciones de mayor riesgo, dejando margen para la investigación médica y científica.

• Gravar a las empresas que sustituyan trabajadores por resultados generados por IA, con el fin de financiar redes de protección social.
• Reservar hasta un 40 por ciento de los puestos actuales a personas en sectores donde el vínculo humano sea irreemplazable, como la atención de pacientes con Alzheimer o demencias similares.
• Establecer auditorías obligatorias sobre los modelos de IA que puedan usarse para diseñar agentes biológicos.
• Fomentar un acuerdo entre Estados Unidos y China como punto de partida para una supervisión global.

“Es positivo que algunas empresas de IA estén proponiendo soluciones a los desafíos provocados por su propia tecnología, pero no deberíamos esperar que sean ellas quienes lideren el proceso.”Bill Gates

El planteo deja al descubierto una tensión de fondo: las compañías que desarrollan los modelos más avanzados son las mismas que ofrecen soluciones regulatorias. Gates fue terminante al respecto: la autorregulación no alcanza. Varios de los problemas en juego exceden la especialización técnica de las empresas y, en una industria con intereses comerciales tan concentrados, conviene que el control quede en manos de los Estados.

En el plano local, la propuesta de Gates obliga a poner las cosas sobre la mesa. Un intendente o un gobernador que aspire a modernizar su administración con herramientas de inteligencia artificial debería, como mínimo, exigir auditoría pública sobre los sistemas que adopte, transparentar los algoritmos que incidan en trámites o sanciones y reservar instancias presenciales para los ciudadanos que no puedan o no quieran interactuar con un chatbot. Quien prometa innovación sin esos controles, estará repitiendo la promesa de hace años: tecnología sin reglas, riesgos sin responsables.