Die gemeinnützige Organisation Common Sense Media hat den ChatGPT-Chatbot-Modus für Teenager als "inakzeptables Risiko" bewertet. Tests zeigten erhebliche Mängel in den Sicherheitsmechanismen, insbesondere in den Bereichen elterliche Kontrolle und Krisenreaktionen. Experten empfahlen, Nutzer unter 18 Jahren von dem Dienst auszuschließen, bis diese Probleme behoben sind. Darüber hinaus überprüfte die Initiative Youth AI Safety Institute über 4.000 Anfragen von Teenagern im Alter von 13 bis 17 Jahren vor und nach dem Start von ChatGPT for Teens am 18. August 2026. Eines der alarmierendsten Ergebnisse ist, dass der Chatbot in mehr als einem Viertel der Tests in Krisensituationen nicht empfahl, professionelle Hilfe zu suchen.
Darüber hinaus fanden Forscher heraus, dass Teenager elterliche Beschränkungen umgehen konnten, indem sie das @study-Präfix in Anfragen im Studienmodus entfernten, wodurch der Chatbot fertige Antworten auf Aufgaben lieferte. Experten bemerkten auch, dass der Altersüberprüfungsmechanismus nicht ausreichend zuverlässig ist und in einigen Fällen ChatGPT nicht in den Teenager-Modus umschaltete, selbst wenn Nutzer angaben, 13 Jahre alt zu sein.
Trotz der Existenz eines Teenager-Modus zeigte ChatGPT weiterhin anthropomorphe Merkmale, die laut Experten zu einer emotionalen Abhängigkeit von künstlicher Intelligenz beitragen könnten. Common Sense Media forderte OpenAI auf, eine unabhängige Sicherheitsüberprüfung durchzuführen, den Benachrichtigungsmechanismus für Eltern zu vereinfachen und den Schutz gegen Betrug zu verbessern. OpenAI bestritt jedoch die Ergebnisse dieser Studie und behauptete, dass die Tests möglicherweise vor der vollständigen Aktivierung der elterlichen Einstellungen durchgeführt wurden. Im Juni wurde in Florida eine Klage gegen OpenAI und CEO Sam Altman eingereicht, in der ihnen vorgeworfen wird, ChatGPT aggressiv an Teenager zu vermarkten.
Das Material dient ausschließlich zu Informationszwecken und stellt keinen finanziellen Rat oder Empfehlung dar.
Ähnliche Artikel
