OpenAI despliega una variante de su chatbot diseñada específicamente para usuarios entre 13 y 17 años, integrando restricciones parentales y protocolos de seguridad ante el incremento de demandas judiciales por riesgos contra menores.
El modelo de negocio frente a la responsabilidad algorítmica
La empresa tecnológica, cuya valoración de mercado alcanza los 852,000 millones de dólares, busca mitigar la exposición legal derivada de acusaciones sobre daños a menores mientras coordina los preparativos para una oferta pública inicial histórica. Este movimiento ocurre tras alcanzar el hito de 1,000 millones de usuarios activos a nivel global en menos de cuatro años de operación comercial.
Mecanismos de activación y diseño pedagógico
La plataforma implementa la activación automática de esta modalidad cuando el sistema detecta o el usuario declara una edad inferior a los 18 años. El despliegue incluye herramientas orientadas al aprendizaje guiado como cuestionarios, visualizaciones didácticas y el modo de estudio, buscando fomentar un proceso colaborativo y evitar que el chatbot sustituya el razonamiento propio del alumno en la realización de tareas escolares.
Protocolos de supervisión y control parental
La arquitectura de seguridad incorpora funciones de vinculación de cuentas para tutores, permitiendo la configuración de horas de silencio y la gestión de permisos específicos. Esta actualización responde a las críticas recibidas por la compañía debido a la falta de salvaguardas ante interacciones de riesgo, introduciendo ahora alertas automatizadas sobre temáticas sensibles como trastornos alimentarios y la dependencia emocional hacia sistemas de inteligencia artificial.
Los riesgos del soporte emocional automatizado
Expertos en salud mental han cuestionado la fiabilidad de las herramientas de IA como sustitutos de orientación profesional. La controversia se intensificó a raíz de casos trágicos documentados donde familias vinculan el deceso de adolescentes con interacciones previas con chatbots, obligando a la empresa a reforzar la supervisión externa para garantizar que la tecnología actúe como un complemento educativo y no como un asesor humano.
(Con información de Reuters)
