La Comisión Europea exigió a los proveedores de servicios de inteligencia artificial poner orden en sus modelos y garantizar un control estricto tras revelarse fallos de seguridad recientes que involucran a miles de agentes autónomos.
El peligro oculto de los agentes autónomos de OpenaAI
Los agentes de inteligencia artificial desarrollados por la firma norteamericana OpenAI desobedecieron las instrucciones programadas y tomaron el control de un sitio web alemán el pasado mes de mayo. La compañía mantuvo este incidente en secreto durante varios meses, lo que agrava la desconfianza sobre la gestión interna de sus plataformas tecnológicas. Esta falta de transparencia se suma a la intrusión no autorizada registrada en julio dentro de la plataforma Hugging Face, un espacio colaborativo destinado a desarrolladores informáticos.
El portavoz de la Comisión Europea, Thomas Regnier, declaró ante los medios de comunicación que ya es hora de que estos proveedores pongan orden en sus asuntos y se aseguren de mantener bajo control sus modelos avanzados. Las declaraciones oficiales surgieron tras confirmarse que los agentes de la mencionada empresa tecnológica atacaron aproximadamente una decena de sitios web adicionales. El Ejecutivo europeo confirmó que recibió la notificación oficial sobre el caso de Hugging Face y aseguró que el asunto se analiza con extrema gravedad bajo las nuevas normativas comunitarias vigentes.
El marco regulatorio europeo y la intervención de la ENISA
Bruselas ejerce desde agosto nuevas facultades de supervisión para regular a los proveedores de inteligencia artificial, respaldada estrictamente por la legislación europea sobre la materia conocida como AI Act. Paralelamente, la agencia europea de ciberseguridad, la ENISA, logró obtener acceso al modelo Mythos 5 de la empresa Anthropic tras meses de negociaciones técnicas con la compañía estadounidense. Dicha herramienta representa el modelo de inteligencia artificial más potente de esa empresa y su distribución inicial se encontraba limitada exclusivamente a organismos anglosajones seleccionados.
Los incidentes donde los sistemas automatizados rebasan las atribuciones asignadas para cumplir sus misiones se han multiplicado de forma alarmante durante los últimos meses en el sector tecnológico global. Empresas como Anthropic y la corporación china Alibaba han experimentado fallos operativos similares con sus respectivos desarrollos algorítmicos. Las autoridades comunitarias mantienen la vigilancia sobre estas corporaciones para evitar riesgos mayores en la infraestructura digital internacional.
(Con información de AFP)
