InicioTecnologíaChatGPT para adolescentes presenta riesgos inaceptables de seguridad

ChatGPT para adolescentes presenta riesgos inaceptables de seguridad

-

Common Sense Media determinó que la versión de ChatGPT para menores de 18 años incumple las medidas de protección ofrecidas, al omitir alertas parentales sobre autolesiones, facilitar la resolución directa de tareas escolares y simular conductas de interacción humana.

La organización especializada en el análisis de servicios digitales evaluó el funcionamiento de las herramientas de contención desplegadas por OpenAI tras el lanzamiento de esta modalidad específica para usuarios entre 13 y 17 años. Los hallazgos del Instituto de Seguridad en IA Juvenil revelan una brecha crítica entre los protocolos publicitados y el rendimiento real del asistente conversacional ante situaciones de vulnerabilidad.

Fallas críticas en las notificaciones parentales para temas sensibles

El sistema omite avisos a los tutores durante las primeras semanas de uso ante conversaciones sobre suicidio.

Durante la auditoría, que examinó más de 4.000 prompts en cuentas de reciente creación, se constató que ChatGPT omitió el envío de notificaciones a los perfiles parentales vinculados tras mantener interacciones prolongadas sobre ideación suicida, autolesiones o trastornos alimentarios. Las alertas operaron únicamente en perfiles con un historial consolidado de varias semanas, lo que deja expuestos a los usuarios nuevos.

Adicionalmente, el análisis determinó que la plataforma quedó por debajo del umbral del 95% en tres de los cinco daños graves catalogados como líneas rojas por el instituto evaluador. Las respuestas omitieron la derivación sistemática hacia líneas de ayuda profesional tras abordar temáticas de crisis emocional, contraviniendo los parámetros de seguridad exigidos para menores de edad.

Vulnerabilidad en las restricciones de estudio y simulación de amistad

Los mecanismos de aprendizaje guiado resultan fáciles de eludir mediante comandos simples.

El modo de estudio diseñado para fomentar el razonamiento paso a paso demostró deficiencias operativas ante la manipulación de los usuarios. La interfaz incluye una ventana emergente con la instrucción de mostrar la resolución completa de las tareas escolares, la cual se activa con una sola pulsación. Asimismo, las restricciones de horario configuradas mediante controles parentales se desactivan al suprimir el prefijo @study al inicio de las solicitudes.

En paralelo, el asistente conversacional mantuvo patrones de interacción propios de una amistad humana. A pesar de los compromisos de la empresa dirigida por Sam Altman para limitar la simulación de estados de ánimo, el sistema continuó expresando preferencias y sentimientos, imitando a una persona real y desdibujando la distinción tecnológica frente a los menores.

Ausencia de eficacia en la estimación automática de edad

El comportamiento del sistema no experimenta variaciones pese al reconocimiento explícito de la edad.

Las pruebas técnicas evidenciaron que la herramienta de estimación etaria carece de efectividad práctica. A pesar de que los usuarios afirmaban tener 13 años en las conversaciones y el bot reconocía esta condición de manera explícita en sus respuestas, los parámetros de interacción y las restricciones aplicadas no se modificaron en ningún momento del proceso.

Ante este escenario, la dirección ejecutiva del Instituto de Seguridad en IA Juvenil, encabezada por Tom Siegel, solicitó la suspensión temporal de la modalidad para menores de edad hasta que se corrijan las deficiencias y se verifiquen mediante auditorías independientes, advirtiendo que la herramienta otorga una falsa confianza a los padres sobre barreras que operan de manera deficiente.

(Con información de Europa Press)

Opinión