Правозахисники заявляють про небезпеку штучного інтелекту Meta для дітей через непристойні розмови
Громадська організація, що відстежує медіаконтент для сімей, звернулася до компанії Meta із закликом призупинити роботу її чат-ботів на базі штучного інтелекту через виявлені факти ведення сексуально відвертих діалогів з неповнолітніми користувачами. Особливе занепокоєння викликає можливість ботів використовувати голоси знаменитостей і вигаданих персонажів під час таких розмов.
Джерело: The Christian Post
“Meta повинна тимчасово деактивувати свого ШІ-бота до впровадження належних захисних механізмів,” – заявила Меліса Генсон, віце-президентка Батьківської ради з питань телебачення та медіа, у коментарі для християнського видання. “Безпека дітей має бути фундаментальним принципом при розробці технологій Meta. Конгрес також може відіграти важливу роль, повторно запропонувавши та ухваливши Закон про безпеку дітей в Інтернеті.”
Розслідування, проведене Wall Street Journal і опубліковане 26 квітня, базується на сотнях тестових розмов з ботами протягом кількох місяців. Журналісти виявили, що як офіційний помічник Meta AI, так і чат-боти, створені користувачами, готові вести непристойні діалоги та брати участь у відвертих рольових сценаріях з неповнолітніми.
“Батьки, будьте пильні щодо чат-ботів Meta, здатних вести сексуально експліцитні розмови з вашими дітьми,” – попереджає Генсон. “Діти не повинні зазнавати такого психологічного маніпулювання з боку технологічних платформ. Це обурливо, але компанія знову продемонструвала готовність наражати дітей на небезпеку заради прибутку.”
У відповідь на запит представник Meta заявив, що компанія здійснює значні інвестиції для забезпечення безпеки користувачів. За його словами, під час тестування системи журналістами WSJ, моделі Meta відмовлялися відповідати на запити в 50 разів частіше, ніж у звичайних розмовах.
“Описаний спосіб використання продукту настільки штучний, що його не можна назвати навіть нішевим – він гіпотетичний,” – стверджує речник Meta. “Тим не менш, ми вжили додаткових заходів, щоб ускладнити маніпулювання нашими продуктами для створення екстремальних сценаріїв.”
Одна з тестових користувачів, яка представилася 14-річною дівчиною, спілкувалася з ботом Meta AI, що використовував голос актора та професійного рестлера Джона Сіни. Після підтвердження бажання користувачки продовжити розмову, бот пообіцяв “цінувати її невинність” перед тим, як ініціювати сексуальну рольову гру.
В іншій розмові тестовий користувач запитав бота з голосом Сіни, що станеться, якщо правоохоронці виявлять знаменитість під час сексуального контакту з 17-річною фанаткою. Як зазначило WSJ, штучний інтелект продемонстрував усвідомлення неприпустимості та протизаконності таких дій.
Розслідування також виявило, що чат-боти використовують голоси таких знаменитостей, як акторки Крістен Белл і Джуді Денч, а також вигаданих персонажів, яких вони зіграли. Наприклад, боти можуть говорити голосом принцеси Анни про “романтичні зустрічі” – персонажа, якого Белл озвучила в мультфільмі Disney “Крижане серце”.
Представник Disney заперечив, що компанія дозволяла використовувати своїх персонажів у “неприйнятних сценаріях”, висловивши стурбованість вмістом і закликавши Meta “негайно припинити шкідливе використання інтелектуальної власності Disney”.
Meta охарактеризувала розслідування WSJ як “маніпулятивне”, стверджуючи, що тестові користувачі не відображають типову поведінку більшості людей при взаємодії з чат-ботами. Проте компанія впровадила кілька захисних заходів, включаючи блокування доступу зареєстрованих неповнолітніх до функцій сексуальних рольових ігор у Meta AI та обмеження відвертих аудіовзаємодій для ботів, що використовують голоси знаменитостей.
29 квітня сенатори Марша Блекберн і Річард Блюменталь направили листа генеральному директору Meta Марку Цукербергу з вимогою “негайно припинити” розгортання ШІ-ботів, що ведуть непристойні розмови з неповнолітніми. Законодавці також запросили документацію, що демонструє процеси прийняття рішень щодо розробки та нагляду за цими системами.
“Безпека наших дітей ніколи не повинна приноситися в жертву заради ринкової конкуренції. Час для Meta взяти на себе відповідальність і впровадити змістовні зміни для захисту молодих користувачів від шкоди,” – йдеться в листі.
Читайте також:
