Anthropic abre las puertas de su laboratorio a un grupo selecto de auditores externos con rango de empleado

Seis investigadores de METR, una organización sin fines de lucro dedicada a evaluar sistemas de inteligencia artificial, se instalaron en las últimas semanas dentro de las oficinas de Anthropic con computadoras, espacio físico y herramientas internas de la empresa. Desde esa posición, con un nivel de acceso equivalente al de cualquier empleado del área de evaluación de riesgos, pueden conversar con el personal como un colega más y revisar de manera independiente los modelos que la compañía desarrolla.

El esquema funciona en la práctica como una pirámide de tres niveles. En la base se ubican organizaciones como SecureBio, que realizan revisiones acotadas y necesitan pedir autorización a Anthropic antes de difundir sus conclusiones. En el escalón intermedio, los evaluadores reciben más información y pueden publicar sin pedir permiso previo. En la cúspide aparece hoy, en forma exclusiva, METR, que además de ese acceso puede difundir evaluaciones, reportes de incidentes y análisis de prácticas de la empresa sin que la compañía pueda bloquear la publicación.

Qué puede hacer METR y qué no

Qué puede hacer METR y qué no

El acuerdo incluye tres excepciones cerradas. Quedan fuera del alcance de los auditores los datos de clientes, la información cubierta por el secreto profesional entre abogado y cliente y los detalles sobre la arquitectura de los modelos. Sobre el resto, METR tiene la potestad de publicar lo que considere pertinente. La compañía sí puede pedir que se redacten fragmentos puntuales cuando caen en categorías estrechas y previamente definidas, pero los investigadores conservan la facultad de señalar públicamente si esa solicitud les parece o no justificada, un punto clave para preservar la independencia del ejercicio.

Por qué Anthropic eligió este esquema

Por qué Anthropic eligió este esquema

La compañía justificó la profundidad del acceso en un documento interno con cuatro condiciones que, a su entender, debe reunir una auditoría externa para resultar útil. La primera es contar con experiencia técnica suficiente para detectar cuándo un modelo aparenta estar alineado con criterios de seguridad sin estarlo realmente. La segunda es la independencia económica y operativa respecto de la empresa auditada. La tercera exige que el acceso vaya más allá de probar los modelos e incluya información sobre cómo se entrenaron y cómo funcionan sus mecanismos de seguridad. La cuarta es la libertad para publicar hallazgos sin restricciones previas.

Al mismo tiempo, Anthropic reconoció que no puede hacer pública toda su información de seguridad. Parte de esos datos, argumentó, podría ser aprovechada por actores maliciosos o resulta sensible desde el punto de vista comercial. Para resolver esa tensión, la empresa concibió un acceso profundo para un grupo muy acotado, operando bajo acuerdos exigibles, y mantuvo al resto del personal de METR aislado del trabajo reservado, una lógica similar a la de las cámaras de datos limpios que se utilizan en investigaciones periodísticas.

Qué puede hacer el lector con esta información

Qué puede hacer el lector con esta información

El esquema de Anthropic todavía es un experimento de gobernanza corporativa y no se translatea automáticamente a otros desarrolladores. Quien quiera seguir el tema de cerca puede consultar el sitio de METR y estar atento a sus próximas publicaciones, ya que, si el acuerdo se respeta, allí aparecerán evaluaciones, reportes de incidentes y análisis de prácticas que hasta ahora permanecían dentro del perímetro de la empresa. También sirve como referencia para exigir estándares similares a otros laboratorios de inteligencia artificial que operan en la Argentina y en el resto de América Latina, donde la discusión sobre auditorías independientes todavía es incipiente.

La firma de esta nota corresponde a Leandro Gómez, sección Ambiente y agua.