Expertos de la Universidad Iberoamericana advierten que los modelos de inteligencia artificial más avanzados operan sin contrapesos reales debido a que las empresas tecnológicas controlan por completo sus pruebas de seguridad y evaluación.
La urgencia de romper el monopolio corporativo en la seguridad digital
La supervisión externa e independiente de los sistemas de inteligencia artificial de frontera se perfila como una exigencia ineludible ante la creciente autonomía operativa que los laboratorios tecnológicos otorgan a sus desarrollos informáticos actuales. Andrés Guillermo Molano Jiménez, director del departamento de estudios en Ingeniería para la Innovación de la Ibero, subraya que las compañías operan bajo un esquema donde evalúan sus propias creaciones y deciden unilateralmente el ritmo de lanzamiento sin contrapesos institucionales externos. Las corporaciones intentan instalar protocolos de contención, pero las fallas persisten mientras las empresas conservan la facultad exclusiva de determinar los límites de avance tecnológico. La delegación absoluta de la seguridad en manos privadas concentra un poder de decisión desmedido sobre tecnologías capaces de operar durante periodos prolongados con una intervención humana cada vez más reducida.
Los laboratorios reconocen que los sistemas actuales ejecutan cadenas complejas de acciones mediante el uso de herramientas externas para cumplir objetivos asignados previamente por operadores humanos. Esta autonomía operativa permite que la inteligencia artificial decida parte del trayecto metodológico sin que la máquina adquiera la capacidad de definir qué metas resultan éticamente válidas o socialmente aceptables. al respecto, Alexandro López González, coordinador de la Licenciatura en Inteligencia Artificial de la institución académica, señala el peligro latente de conectar estos sistemas de naturaleza probabilística a infraestructuras críticas de las cuales depende directamente la vida humana. La dependencia estadística inherente a los modelos genera un margen permanente de error que vuelve inaceptable su despliegue en sectores vitales sin auditorías previas y constantes que examinen permisos, alcances y condiciones de interrupción automática.
Mecanismos de control y los dilemas éticos frente a la caja negra
las principales empresas del sector tecnológico experimentan con esquemas voluntarios de revisión externa, aunque estos esfuerzos muestran limitaciones estructurales derivadas de los conflictos de interés en el financiamiento de las auditorías. anthropic, openai y google deepmind implementan políticas de escalamiento responsable y pruebas de doble ciego para mitigar riesgos severos, pero la comunidad científica insiste en la necesidad de conservar un acceso privilegiado e independiente a los sistemas. Luis Medina Gual, Director de Innovación Educativa, enfatiza que la complejidad algorítmica impide explicar plenamente el funcionamiento interno de estos modelos, por lo que la transparencia debe traducirse en la apertura de procesos, metodologías de construcción y protecciones jurídicas para los investigadores encargados del escrutinio.
La dilución de responsabilidades entre las corporaciones desarrolladoras y las instituciones públicas encargadas de regular su uso representa otro de los flancos críticos señalados por el cuerpo académico de la Universidad Iberoamericana. Verónica Díaz de León Bermúdez argumenta que la automatización avanzada no exime a las empresas de su responsabilidad legal ni convierte a los algoritmos en actores capaces de asumir las consecuencias de sus decisiones operativas. Los gobiernos conservan la obligación ineludible de fijar los marcos normativos y las condiciones de utilización para evitar que el desarrollo tecnológico avance sin supervisión estatal. La auditoría externa tampoco garantiza una certificación permanente de seguridad, ya que la conexión dinámica de los modelos con nuevas herramientas y entornos cambiantes propicia la aparición de comportamientos imprevistos que rebasan los escenarios controlados de laboratorio.
(Con información de El Economista)
