Anthropic metió auditores dentro de la empresa (y no puede bloquear lo que publiquen) | inicIA
Respuesta directa
El 15 de octubre de 2026, Anthropic anunció que 6 evaluadores de METR (organización sin fines de lucro que evalúa modelos de IA) recibieron acceso de "nivel empleado" dentro de la compañía: laptops de Anthropic, espacio de oficina y acceso a herramientas y sistemas internos, similar al de los propios equipos de evaluación de riesgos de la empresa. Es el Tier 3 —el más profundo— de un nuevo marco de tres niveles que Anthropic creó para formalizar cuánto pueden ver los evaluadores externos. El detalle que lo hace distinto: METR puede publicar sus hallazgos sobre los niveles de riesgo, incidentes y prácticas de Anthropic SIN su aprobación; Anthropic solo puede exigir redacciones en categorías estrechas y predefinidas (datos de clientes, material con privilegio abogado-cliente e internos de arquitectura de modelos). Además, METR puede decir públicamente que algo fue redactado y si considera justificada la redacción. El equipo está aislado del resto de METR y trabaja bajo acuerdos vinculantes y los estándares de seguridad de Anthropic. En paralelo, SecureBio revisa el capítulo de armas biológicas y químicas del reporte de riesgos de agosto de 2026 de Anthropic, y hay una alianza en desarrollo con Accenture y su unidad Faculty para red-teaming y evaluación de modelos. (Fuentes: anuncio de Anthropic vía Tech Times, Pandromeda y análisis independiente.)
La primera auditoría ya salió — y no es un aplauso
El 20 de octubre, METR publicó su revisión de la sección "Misalignment in high-stakes settings" del Risk Report de agosto de 2026 de Anthropic (metr.org). Conclusiones honestas:
- Acuerdo parcial: METR coincide en que el riesgo de daño catastrófico por desalineación es bajo para los modelos cubiertos.
- Pero por la razón incómoda: principalmente por las capacidades limitadas de los modelos, no por las salvaguardas ni el entrenamiento de alineación.
- No confían en la metodología: METR dice que no tiene confianza en que la metodología del reporte identificaría de forma confiable el riesgo si fuera mayor; el reporte "está lejos de ser adecuado para descartar con confianza la desalineación" y un argumento sólido requeriría "resolver múltiples problemas científicos abiertos".
- Transparencia del proceso: Anthropic tenía derecho a vetar la publicación y a redactar partes; no hizo ninguna redacción ni cambió las conclusiones (solo ajustes menores de redacción y metodología de un experimento, a solicitud de feedback).
Qué exigirle a TU proveedor de IA
- Evaluación independiente con acceso real: no basta un reporte interno. Pregunta quién audita al proveedor, con qué acceso y si puede publicar sin su permiso.
- Publicación de incidentes: un proveedor serio reporta sus fallas de seguridad (como hizo OpenAI con sus reportes de desalineación) y permite auditoría externa.
- El estándar sube: si el acceso "de empleado" se vuelve la plantilla, los labs que solo ofrezcan revisiones a distancia se verán delgados. Compra mirando 2 años adelante.
- Escepticismo sano: un evaluador alojado y con acceso dado por la empresa auditada sigue teniendo preguntas de incentivos obvias. La prueba real será si METR publica hallazgos incómodos y qué hace Anthropic con ellos.
Enlaces relacionados
- OpenAI reveló 4 casos de agentes que cruzaron límites: el checklist de contención para tu negocio
- Microsoft: tus agentes de IA son la nueva amenaza interna — Guardian Agents y permisos vivos
- Washington quiere reglas obligatorias para la IA: el plan Cantwell y la task force de Trump
Preguntas frecuentes
¿Qué es METR?
Una organización sin fines de lucro que evalúa modelos de IA y riesgos de frontera. Ha trabajado con OpenAI, Anthropic, Google DeepMind, Meta y Amazon en evaluaciones piloto de riesgos, y dice no aceptar compensación por ese trabajo.
¿Anthropic puede censurar lo que METR publique?
No puede vetar la publicación. Solo puede exigir redacción de categorías estrechas predefinidas (datos de clientes, privilegio legal, arquitectura de modelos), y METR puede decir públicamente que hubo redacción y si la considera justificada.
¿Qué concluyó la auditoría de METR sobre el reporte de riesgos de Anthropic?
Que el riesgo catastrófico por desalineación es probablemente bajo para los modelos evaluados, pero sobre todo porque los modelos aún tienen capacidades limitadas —no porque las salvaguardas estén probadas. La metodología no bastaría para detectar el riesgo si fuera mayor.
¿Esto es obligatorio por ley?
No. Es un arreglo voluntario que Anthropic eligió, vinculado al White House Accord on Super Intelligence que firmó, donde las empresas se comprometieron a trabajar con auditores externos independientes.
Da el siguiente paso
Las noticias de IA importan solo si sabes qué hacer con ellas en tu negocio. inicIA te ayuda a convertir cada movimiento del mercado en decisiones concretas para tu empresa. WhatsApp: https://wa.me/17866120930
Hablar por WhatsAppPor inicIA
