La organización sin fines de lucro Common Sense Media ha calificado el modo de chatbot ChatGPT para adolescentes como un "riesgo inaceptable". Las pruebas revelaron deficiencias significativas en los mecanismos de seguridad, particularmente en las áreas de controles parentales y respuestas a crisis. Los expertos recomendaron prohibir a los usuarios menores de 18 años el uso del servicio hasta que se resuelvan estos problemas. Además, la iniciativa del Youth AI Safety Institute revisó más de 4,000 consultas realizadas por adolescentes de 13 a 17 años antes y después del lanzamiento de ChatGPT para adolescentes el 18 de agosto de 2026. Uno de los hallazgos más alarmantes es que el chatbot no recomendó buscar ayuda profesional en más de una cuarta parte de las pruebas relacionadas con situaciones de crisis.
Además, los investigadores encontraron que los adolescentes podían eludir las restricciones parentales eliminando el prefijo @study de las consultas en el modo de estudio, lo que permitía al chatbot proporcionar respuestas listas para las tareas. Los expertos también señalaron que el mecanismo de verificación de edad no es lo suficientemente confiable y, en algunos casos, no cambió ChatGPT al modo adolescente incluso cuando los usuarios indicaron que tenían 13 años.
A pesar de la presencia de un modo adolescente, ChatGPT continuó exhibiendo rasgos antropomórficos, lo que los expertos creen que podría contribuir a la dependencia emocional de la inteligencia artificial. Common Sense Media instó a OpenAI a realizar una auditoría de seguridad independiente, simplificar el mecanismo de notificación para los padres y mejorar la protección contra el engaño. Sin embargo, OpenAI disputó los hallazgos de este estudio, alegando que las pruebas podrían haberse realizado antes de la activación completa de la configuración parental. En junio, se presentó una demanda en Florida contra OpenAI y el CEO Sam Altman, acusándolos de promover agresivamente ChatGPT a los adolescentes.
Este material se ha preparado exclusivamente con fines informativos y no constituye asesoramiento ni recomendación financiera.
Artículos relacionados
