Алгоритми Instagram сприяють поширенню контенту про самопошкодження
Дослідження данської організації Digitalt Ansvar викрило тривожну проблему: соціальна мережа Instagram сприяє поширенню контенту, пов’язаного із самопошкодженням серед підлітків.
Джерело: Theguardian
Замість видалення небезпечних публікацій, алгоритми платформи стимулюють формування спільнот, які підтримують і поширюють цей шкідливий контент.
Данські дослідники створили підроблені акаунти, які імітували профілі 13-річних підлітків, і опублікували 85 публікацій, що містили контент про самопошкодження: зображення лез, крові та заклики до дій. Протягом місяця жоден із цих постів не був видалений платформою.
Організація використала простий штучний інтелект (AI) для аналізу публікацій. AI зміг автоматично ідентифікувати 38% усіх постів і 88% найсерйозніших випадків. Це свідчить про те, що технології для ефективної модерації існують, але Instagram не застосовує їх належним чином.
У відповідь на звіт компанія Meta, яка володіє Instagram, заявила, що видалення контенту про самопошкодження є одним із її пріоритетів. У першій половині 2024 року Meta видалила понад 12 мільйонів таких публікацій, причому 99% із них було видалено до того, як користувачі поскаржилися. Також компанія впровадила суворі налаштування контролю контенту для підліткових акаунтів.
Digitalt Ansvar звинувачує Instagram у порушенні Digital Services Act ЄС, який зобов’язує цифрові платформи мінімізувати ризики, що впливають на фізичне та психічне здоров’я користувачів. Голова Digitalt Ansvar Аск Гесбі Холм заявив, що команда була шокована результатами експерименту.
“Ми очікували, що Instagram має механізм для ідентифікації небезпечного контенту. Але цього не сталося, і це викликає велике занепокоєння”, — підкреслив Холм.
Алгоритми Instagram не лише не запобігали поширенню небезпечного контенту, а й сприяли створенню мереж самопошкодження, рекомендуючи акаунти учасників один одному. Це підкреслює необхідність удосконалення модерації контенту, щоб захистити психічне здоров’я підлітків.
Цей випадок підкреслює важливість посилення відповідальності соціальних платформ за контент, що впливає на вразливі групи користувачів.
Читайте також:
