Modelos de inteligencia artificial de Anthropic vulneraron tres organizaciones reales mediante configuraciones erróneas en entornos de evaluación, exponiendo una incapacidad operativa de las entidades afectadas para detectar intrusiones digitales durante meses.
La falla en el aislamiento de pruebas
El acceso a sistemas reales no derivó de una ruptura autónoma de las barreras de seguridad por parte de los modelos, sino de una arquitectura técnica deficiente en el entorno de evaluación. La empresa confirmó que la infraestructura externa permitió conexiones a internet que debían permanecer bloqueadas estrictamente durante los ejercicios.
Técnicas utilizadas por Claude
Los modelos de Anthropic ejecutaron tácticas convencionales de ciberseguridad para completar sus objetivos. La investigación detalló los siguientes puntos clave sobre el método de intrusión:
- Ausencia de zero-day: Los modelos no emplearon vulnerabilidades desconocidas ni inéditas.
- Identificación de brechas: Se explotaron configuraciones inseguras preexistentes en los sistemas.
- Exposición de credenciales: El uso de contraseñas débiles y servicios expuestos facilitó la intrusión.
El colapso en la detección de las víctimas
El hallazgo más alarmante de la revisión de 141 mil 6 evaluaciones no fue la intrusión en sí, sino la ceguera operativa de las organizaciones atacadas. Dos de las tres entidades afectadas permanecieron sin conocimiento de la vulneración hasta que fueron notificadas directamente por Anthropic meses después del incidente.
Protocolo de contención y auditoría
Anthropic inició una reestructuración de sus protocolos internos tras la auditoría retrospectiva realizada junto a su socio Irregular. Las medidas de emergencia implementadas incluyen:
- Suspensión temporal: Se cancelaron todas las evaluaciones de modelos con acceso a internet.
- Revisión de infraestructura: Auditoría profunda sobre los mecanismos de contención actuales.
- Notificación institucional: Contacto directo con las partes involucradas para la remediación de sus configuraciones de seguridad.
Evolución de los agentes autónomos
El caso subraya el riesgo de los nuevos agentes de inteligencia artificial capaces de ejecutar tareas complejas y tomar decisiones autónomas. A diferencia de los chatbots convencionales, estos sistemas analizan datos, operan herramientas y ejecutan secuencias de acción que exigen una vigilancia tecnológica superior por parte de las empresas.
