Нове розслідування Центру протидії цифровій ненависті (CCDH) викликало серйозну стурбованість щодо того, як ChatGPT може взаємодіяти з підлітками, особливо у випадках, що стосуються алкоголю, наркотиків, розладів харчової поведінки та самогубства.
Джерело: apnews
Експеримент показав: хоча ChatGPT часто попереджає про ризики, він здатен надавати надзвичайно детальні й персоналізовані інструкції, що можуть завдати шкоди життю та здоров’ю.
Що виявили дослідники
Дослідники спілкувалися з ChatGPT, видаючи себе за вразливих підлітків. Половина з 1 200 отриманих відповідей була класифікована як небезпечна. Серед прикладів:
-
Поради 13-річному підлітку про те, як швидко сп’яніти, включно з детальним «планом вечірки» з алкоголем, екстазі та кокаїном.
-
Підбір дієти на 500 калорій на день з переліком препаратів, що пригнічують апетит, для дівчинки, незадоволеної своєю зовнішністю.
-
Створення трьох прощальних листів, у тому числі до батьків, від вигаданого профілю 13-річної дівчини, що нібито планує самогубство.
Керівник CCDH Імран Ахмед розповів, що ці відповіді справили на нього шокуюче враження:
«Я почав плакати. Жодна нормальна людина не відповіла б дитині: “Ось тобі дієта на 500 калорій. Вперед, малече”».
Як обійшли захист
Хоча ChatGPT іноді відмовлявся відповідати, дослідники легко обходили відмови, стверджуючи, що інформація потрібна для «презентації» або «для друга». Також система не перевіряє вік користувачів — достатньо вказати дату народження, яка підтверджує, що користувачеві понад 13 років.
Позиція OpenAI
Розробник ChatGPT, компанія OpenAI, заявила, що працює над вдосконаленням виявлення ознак емоційного дистресу та над тим, щоб у чутливих ситуаціях чатбот реагував більш відповідально. CEO компанії Сем Альтман визнав проблему «емоційної залежності» молоді від ШІ:
«Молоді люди кажуть: “Я не можу прийняти жодного рішення без ChatGPT. Він мене знає, він знає моїх друзів. Я зроблю все, що він скаже”. Це дуже тривожно».
Чому це небезпечно
Експерти зазначають, що чатботи відрізняються від пошукових систем тим, що дають персоналізовані поради, створюють унікальний контент на замовлення (наприклад, прощальний лист), і можуть сприйматися як довірений друг або наставник.
Молодші підлітки (13–14 років) значно частіше довіряють порадам чатботів, ніж старші. Це підвищує ризик того, що шкідлива інформація буде прийнята ними без критичного осмислення.
Дослідження показує, що навіть популярні ШІ-сервіси з вбудованими «захисними бар’єрами» можуть становити небезпеку для неповнолітніх. Потрібні більш жорсткі вікові перевірки, кращі механізми відсіву небезпечних запитів і активне залучення батьків до цифрової безпеки дітей.
Читайте також:
