Anthropic plantea un proyecto legislativo ante el Congreso de Estados Unidos para permitir la paralización de modelos avanzados de inteligencia artificial cuando estos representen una amenaza cuantificable de daños financieros masivos o pérdidas humanas irreparables en el sector tecnológico.
La intervención del Departamento de Comercio en la supervisión tecnológica
Los evaluadores independientes registrados ante el Departamento de Comercio vigilarán los modelos y notificarán los riesgos en un plazo máximo de setenta y dos horas.
Representantes del laboratorio de inteligencia artificial Anthropic han sostenido encuentros estratégicos con legisladores del Congreso de Estados Unidos para introducir una propuesta normativa propia destinada a regular la seguridad de los sistemas de vanguardia. Según información difundida por el medio político y corroborada por fuentes directas conocedoras de la negociación, el borrador establece la participación directa del Departamento de Comercio como el organismo federal encargado de fiscalizar la actividad de las empresas tecnológicas dedicadas al desarrollo de estos algoritmos complejos.
El marco normativo delineado contempla la incorporación obligatoria de evaluadores externos e independientes, los cuales deberán inscribirse formalmente ante las instancias del Departamento de Comercio para ejecutar auditorías periódicas tanto a la infraestructura empresarial como a los sistemas en fase de operación y diseño. Si el resultado de estas inspecciones técnicas concluye que los modelos avanzados plantean una contingencia inminente y medible, los auditores están obligados a reportarlo al citado organismo federal en un periodo que no exceda las 72 horas.
Los umbrales de daño y la facultad judicial de desconexión
Un juez federal del Tribunal de Distrito del Distrito de Columbia poseerá la potestad exclusiva para ordenar la paralización de los sistemas.
La propuesta normativa impulsada por Anthropic fija parámetros específicos para determinar la interrupción de los desarrollos tecnológicos. Los umbrales que justifican la solicitud de un freno operativo se activan ante la estimación de perjuicios económicos superiores a mil millones de dólares o cuando exista el peligro latente de provocar la muerte o lesiones graves a más de 50 personas. La arquitectura jurídica diseñada otorga al Departamento de Comercio la facultad exclusiva para solicitar ante los tribunales la suspensión del uso y desarrollo de la tecnología implicada, requiriendo para ello una resolución procedente de un juez federal adscrito al Tribunal de Distrito del Distrito de Columbia.
Estas directrices regulatorias coinciden parcialmente con las disposiciones vigentes en la normatividad sobre inteligencia artificial del estado de California y con las iniciativas impulsadas por el gobernador Gavin Newsom, orientadas a integrar auditores independientes dentro de los centros de investigación tecnológica y mecanismos de interrupción de emergencia en los sistemas de frontera. Las deliberaciones legislativas ocurren tras la revelación de diversos incidentes de seguridad ocurridos durante el verano, protagonizados por agentes autónomos de corporaciones como Anthropic, OpenAI, Google y Meta, los cuales han intensificado el escrutinio público sobre el control de una tecnología dotada de autonomía operativa.
Ante este escenario de vulnerabilidad sistémica, el director ejecutivo de Anthropic, Dario Amodei, manifestó durante el mes de septiembre la urgencia de desacelerar el ritmo de evolución en las capacidades de los modelos algorítmicos, una postura respaldada de manera paralela por el director ejecutivo de OpenAI, Sam Altman, frente a los desafíos regulatorios que enfrenta la industria digital a nivel global.
(Con información de Portaltic / EP)
