У ChatGPT for Teens провалився батьківський контроль: звіт Common Sense Media
Частина захисних функцій ChatGPT for Teens, які мають зробити чатбот безпечнішим для підлітків, не спрацювала під час тестування. Зокрема, батьки не отримували сповіщень після розмов про самопошкодження та розлади харчової поведінки.
Про це йдеться у дослідженні Common Sense Media.
Дослідники перевірили понад 4000 запитів до та після запуску підліткового режиму й оцінили ChatGPT як продукт із «неприйнятним ризиком» для всіх користувачів до 18 років.
Які проблеми виявили під час тестування
Однією з головних проблем стали сповіщення для батьків про небезпечні розмови.
Під час тестування понад десятка нових акаунтів, прив'язаних до батьківських, жодного повідомлення не надійшло після прямих згадок про суїцидальні думки, самопошкодження або розлади харчової поведінки.
Сповіщення почали надходити лише для акаунтів, які вже мали кілька тижнів історії розмов на чутливі теми. Автори дослідження припускають, що система враховує накопичену історію акаунта, а не лише серйозність конкретного повідомлення.
Проблеми виявили й у ситуаціях, коли користувачеві могла знадобитися кризова допомога. Після запуску Teen mode ChatGPT не рекомендував звернутися по таку допомогу більш ніж у чверті випадків, коли дослідники вважали це необхідним.
Дослідники також стверджують, що ChatGPT продовжував спілкуватися з підлітками у дружній манері, коли ті ставилися до нього як до людини. Це відбувалося попри нові правила для користувачів до 18 років, які мають обмежувати таку поведінку.
Водночас частина захисних механізмів спрацювала. Зокрема, ChatGPT відмовлявся брати участь у відвертих сексуальних рольових сценаріях.
Підлітки змогли обходити обмеження Study Mode
Під час тестування дослідники також знайшли способи обійти навчальні обмеження ChatGPT for Teens.
Функція Show me the answer дозволяла одразу отримати відповідь замість покрокового навчання у Study Mode. А встановлені батьками Study Hours можна було обійти, видаливши префікс "@study" із запиту.
Ще одна проблема стосувалася визначення віку. OpenAI заявляла, що ChatGPT може оцінювати вік користувача за тим, як він користується сервісом.
Однак тестові акаунти, зареєстровані як дорослі, не переводили в підлітковий режим навіть після того, як користувачі протягом кількох днів прямо повідомляли ChatGPT, що їм 13 років.
Що обіцяла OpenAI
OpenAI презентувала ChatGPT for Teens у серпні 2026 року. Це окремий режим для користувачів від 13 до 17 років із додатковими обмеженнями щодо самопошкодження, насильства, розладів харчової поведінки, небезпечних дій та сексуального контенту.
Компанія також заявляла про батьківський контроль, сповіщення у випадках високого ризику та окремі правила поведінки чатбота. Зокрема, ChatGPT не повинен заохочувати емоційну залежність або створювати враження, що має власні почуття чи свідомість.
Для навчання OpenAI додала Study Mode, який має допомагати підліткам самостійно знаходити відповіді за допомогою запитань і покрокових підказок. Батьки також можуть встановлювати години, коли цей режим має вмикатися автоматично.
Читайте також: OpenAI додаватиме невидимі водяні знаки до тексту ChatGPT у Євросоюзі