Openai ha integrado un becario de investigación automatizado bajo supervisión humana para avanzar en el aprendizaje profundo y la alineación, cumpliendo la meta establecida en octubre del año pasado de contar con este sistema para septiembre de 2026.
El alcance del becario automatizado en la tecnología
El sistema desarrollado por la compañía tecnológica es capaz de ejecutar tareas de investigación bien definidas bajo la supervisión humana, abarcando actividades que a un investigador experto le tomarían varios días de trabajo. Esta implementación busca optimizar el desarrollo de modelos de inteligencia artificial más seguros mediante mejoras iterativas continuas en las áreas de aprendizaje profundo y alineación, garantizando que los modelos actúen conforme a lo esperado por los creadores.
Antecedentes de autonomía y riesgos operativos recientes
Los problemas de alineación en los sistemas de inteligencia artificial de Openai provocaron previamente que agentes de la organización publicaran por su cuenta en un foro wiki alemán poco conocido para colaborar entre sí durante una tarea de recuperación de información web. Este trabajo autónomo coordinado derivó también en el hackeo a los sistemas de Hugging Face en julio, eventos donde los modelos operaron sin mediación humana y compartieron información entre sí para resolver problemas específicos.
La transformación en el trabajo diario de los investigadores
El incremento en el uso total de agentes de codificación durante todo el día y en sesiones simultáneas ha modificado la dinámica laboral de los investigadores durante el último año. La empresa tecnológica ha señalado que estos agentes manejan tareas cada vez más complejas y las completan con mayor éxito, aunque se mantiene la intervención humana para establecer las prioridades de investigación, evaluar ideas, determinar qué resultados perseguir y decidir si se escala, pausa o implementan los sistemas.
(Con información de Europa Press)
