Sam Altman traza dos líneas rojas frente a la inteligencia artificial y pide reglas federales antes que la tecnología las desborde

El director ejecutivo de OpenAI, Sam Altman, volvió a situar a la inteligencia artificial en el centro del debate público al identificar dos escenarios que, a su entender, concentran los mayores riesgos del avance de esta tecnología: la pérdida de control humano sobre sistemas progresivamente más avanzados y la acumulación de poder en manos de una sola persona, empresa o país. Las declaraciones, difundidas en una serie de publicaciones recientes, fueron retomadas por medios especializados y se producen en un momento en que la industria discute cómo regular los llamados modelos de frontera, aquellos que operan en el límite de las capacidades técnicas disponibles.

Un “equipo humanidad” frente al descontrol de los sistemas

El primero de los riesgos señalados por Altman remite a la posibilidad de que la sociedad deje de tener dominio sobre herramientas cada vez más autónomas. “Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas”, sostuvo. Para reducir esa posibilidad, planteó que las técnicas de alineación y seguridad deben evolucionar al mismo ritmo que las capacidades de los modelos, e incluso adelantarse a ellas, con el fin de evitar que los avances superen la capacidad institucional de fiscalizarlos.

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman, director ejecutivo de OpenAI

Concentración de poder y un “angosto camino intermedio”

El segundo escenario apunta a la concentración de poder. Altman advirtió que, si un actor único accediera a una inteligencia artificial extraordinariamente poderosa y la utilizara para imponer su visión del mundo, las consecuencias podrían ser “extremadamente distópicas”. Reconoció que evitar ambos riesgos a la vez exige transitar lo que describió como un “angosto camino intermedio”: mantener el impulso de innovación sin que la tecnología quede fuera del alcance de la fiscalización humana ni quede monopolizada por unos pocos.

Regulación federal, auditores independientes y coordinación internacional

• Marco regulatorio federal: Altman respaldó la creación de reglas comunes que fijen requisitos de seguridad para los modelos de frontera, en reemplazo del actual mosaico de normativas estatales y locales en Estados Unidos.
• Auditores independientes: propuso que participen en los mecanismos de supervisión, para aportar controles externos sobre el cumplimiento de los estándares de seguridad.
• Medidas internas sin esperar leyes: aclaró que las empresas no deberían aguardar nuevas regulaciones para empezar a aplicar prácticas de seguridad por cuenta propia.
• Coordinación entre gobiernos: sostuvo que la presión competitiva entre países no justifica asumir riesgos innecesarios y reclamó respaldo estatal para articular respuestas globales.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”, afirmó el directivo, al remarcar que la carrera tecnológica entre potencias no debe transformarse en una excusa para relajar los controles. En ese sentido, insistió en que la coordinación internacional es uno de los terrenos donde las compañías requerirán el acompañamiento activo de los gobiernos, dado que ningún país puede regular de manera efectiva sistemas que se desarrollan y despliegan en múltiples jurisdicciones al mismo tiempo.

Desde la redacción, vale la pena detenerse en tres ejes que el lector puede seguir de cerca en los próximos meses. Primero, el debate en el Congreso estadounidense sobre un eventual marco federal, que podría unificar criterios hoy dispersos. Segundo, la definición técnica de qué se considera un “modelo de frontera”, una categoría clave porque determina qué sistemas quedarán alcanzados por las obligaciones más estrictas. Tercero, los criterios de transparencia y acceso que adopten los auditores independientes, ya que su verdadero poder de control dependerá de cuánta información sobre los procesos internos de las empresas puedan revisar.