Наглядова рада Meta перевіряє інциденти поширення порнографічного контенту зі знаменитостями, створеного ШІ

Наглядова рада Meta Platforms вивчає інциденти з двома відвертими зображеннями знаменитих жінок, створеними штучним інтелектом, які поширювали в соціальних мережах корпорації Facebook та Instagram.
Про це пише Reuters.

Згідно з описами наглядової ради, на одному із зображень показана оголена жінка, схожа на відому індійку. Його розмістили на акаунті в Instagram, який публікує лише зображення індійських жінок, згенеровані штучним інтелектом.

Інша картинка з’явилася в групі Facebook для обміну творами штучного інтелекту та містило зображення оголеної жінки, схожої на американську знаменитість, з чоловіком, який торкається її грудей.

Рада надала опис зображень, про які йдеться, але не назвала імена відомих жінок, зображених на них, щоб «запобігти подальшій шкоді». Правління використовуватиме ці два приклади для оцінки загальної ефективності політики Meta та практики застосування порнографічних фейків, створених за допомогою штучного інтелекту.

Meta видалила зображення з американкою за порушення своєї політики щодо знущань і переслідувань, яка забороняє «принизливі сексуалізовані фотошопи або малюнки». Водночас компанія спочатку залишила зображення індійки та змінила рішення лише після того, як рада вибрала його для перевірки.

Як пише Reuters, розвиток технологій ШІ призвів до того, що сфабриковані зображення, аудіозаписи та відео практично неможливо відрізнити від справжнього створеного людьми контенту, що призвело до появи в Інтернеті хвилі фейків сексуального характеру, які здебільшого зображують жінок і дівчат.

Особливо резонансний випадок стався на початку 2024 року, коли платформа X, що належить Ілону Маску, на короткий час заблокувала користувачам пошук усіх зображень американської попзірки Тейлор Свіфт, намагаючись контролювати поширення фальшивих відвертих зображень з її участю.

Деякі керівники галузі закликали прийняти законодавство про криміналізацію створення шкідливих дипфейків і вимагати від технологічних компаній запобігати такому використанню своїх продуктів.

Источник: hromadske.ua