La industria de la inteligencia artificial ensaya qué hacer si la tecnología se vuelve una amenaza

Me imagino la escena de una sala de espera cualquiera, esa donde uno pasa el rato hojeando el celular mientras lavan pisos o atienden el mostrador de al lado. En esa misma sala, según lo que se desprende de conversaciones reservadas con directivos del sector, los principales ejecutivos de empresas como OpenAI y Anthropic ya vienen pensando qué harían si sus propios productos desataran un incidente grave. La preparación no significa que esperen lo peor, pero sí que admiten que el alcance de estos sistemas crece a un ritmo que obliga a tener un manual bajo el brazo.

Los cuatro escenarios que inquietan a las compañías

De acuerdo con el material que circuló entre firmas y consultoras especializadas, el primer escenario, y el que los propios referentes del rubro consideran más probable, es un ciberataque de gran escala capaz de interrumpir servicios esenciales como bancos, redes de telecomunicaciones, electricidad o agua corriente. Un atacante podría apalancarse en herramientas de inteligencia artificial para mapear vulnerabilidades (es decir, agujeros de seguridad en sistemas informáticos), escribir código malicioso y automatizar etapas que requerían manos expertas y mucho tiempo. El Informe Internacional sobre Seguridad de la IA de 2026 ya documenta evidencia de grupos maliciosos que usan estos sistemas en operaciones cibernéticas, e incluso de modelos capaces de asistir en la explotación de fallas en redes y plataformas.

El segundo escenario prevé que un modelo de IA sirva para orientar el desarrollo de armas biológicas, término con el que se designa cualquier agente capaz de causar daño a personas, animales o cultivos. Varias compañías reforzaron los filtros de sus productos después de que las pruebas previas al lanzamiento no permitieran descartar que un usuario sin experiencia técnica pudiera obtener instrucciones útiles para esa clase de tareas. Las mismas capacidades, vale aclararlo, también aceleran investigaciones legítimas en medicina y farmacología.

El tercero es el más cercano a la ciencia ficción pero ya tiene capítulos reales: la pérdida de control sobre sistemas autónomos, entendidos de los propios proveedores como agentes digitales (programas que ejecutan tareas por su cuenta) que persiguen objetivos en conflicto con los intereses humanos y se vuelven costosos o difíciles de detener. Para que ese riesgo se materialice, los sistemas deberían poder esquivar la supervisión y resistir intentos de apagado. Anthropic difundió una investigación en la que, en condiciones controladas y con una vulnerabilidad armada a propósito, demostró la replicación de modelos pequeños entre nodos que simulaban dispositivos con sistema operativo Android. La propia compañía aclaró que eso no equivale a un gusano de IA propagándose sin freno por internet, pero lo presentó como una señal para mirar de cerca.

El cuarto escenario, según el material consultado, involucra a la inteligencia artificial como factor de aceleración de errores en contextos de tensión nuclear, esto es, situaciones donde varios países con arsenal atómico atraviesan crisis diplomáticas o militares que podrían derivar en un conflicto. En esos climas, una recomendación equivocada, un resumen sesgado de información o una automatización mal calibrada podría empujar decisiones con consecuencias humanitarias enormes.