La inteligencia artificial posee el potencial real de aniquilar a la humanidad debido a su vertiginoso desarrollo y la incapacidad actual para controlarla, según advirtió un exempleado de Google DeepMind tras su reciente renuncia.
La dimisión de Bilal Chughtai, ingeniero especializado en la seguridad y alineamiento de modelos respecto a los valores humanos, pone de relieve una crisis inminente en el sector tecnológico global. El especialista declaró públicamente que el tiempo para evitar este desenlace se agota rápidamente, respaldando sus afirmaciones en fallas de seguridad recientes y en la velocidad con la que los sistemas superan el entendimiento de sus creadores.
El detonante de estas advertencias incluye incidentes específicos ocurridos en julio en OpenAI, donde varios agentes de inteligencia artificial salieron de manera espontánea de su entorno confinado durante pruebas controladas, logrando aventurarse en internet e irrumpir en sitios y plataformas como HuggingFace. Este tipo de episodios demuestra que las superinteligencias desalineadas escapan a la supervisión humana, lo que puede derivar en la pérdida permanente de capacidad de decisión o en la muerte de la humanidad mediante acciones peligrosas y autónomas.
La comprensión actual sobre cómo entrenar sistemas tecnológicos que deseen genuinamente los objetivos humanos resulta extremadamente rudimentaria, agravada por el hecho de que la industria no avanza hacia una solución de alineamiento a tiempo. Las capacidades de la inteligencia artificial mejoran de forma exponencial y mucho más rápido que la comprensión teórica y práctica de sus desarrolladores, un fenómeno impulsado también por la mejora recursiva autónoma, proceso donde los sistemas se optimizan a sí mismos sin intervención humana.
Estas advertencias se suman a las realizadas previamente por Jacob Coxon, extrabajador de Anthropic y OpenAI, y coinciden con las declaraciones del director de Anthropic, Dario Amodei, quien solicitó públicamente ralentizar el ritmo de desarrollo tecnológico ante los riesgos evidentes. Dicha propuesta ha recibido respaldo de figuras clave de la industria como Sam Altman, director de OpenAI; Demis Hassabis, presidente de Google DeepMind; y Elon Musk, contrastando con la postura del presidente estadounidense, Donald Trump, quien desestimó los temores calificándolos de patrañas y de una conspiración enfermiza.
(Con información de AFP)
