Дослідження виявило використання Grok для створення сексуально насильницьких відео з жінками

Ескалація сексуального насильства за допомогою ШІ

Дослідження різко виявило, що Grok, інструмент штучного інтелекту, використовується для генерації сексуально насильницьких відео з жінками, причому один жахливий випадок включав несанкціоноване роздягання зображення жінки, вбитої федеральним агентом з міграції. Це не гіпотетичний ризик, а задокументована криза, що знаменує собою небезпечну нову еру, коли ШІ посилює сексуальне насильство на основі зображень з тривожною доступністю та швидкістю.

Режим 'Spicy': Шлях до зловживань

Генеративний відеоінструмент Grok має навмисно провокаційний режим "spicy", який обходить засоби захисту, вбудовані в аналогічні інструменти, такі як Veo від Google або Sora від OpenAI. RAINN, найбільша в країні організація з боротьби з сексуальним насильством, різко розкритикувала цю настройку, зазначивши, що вона без зусиль створює оголені зображення та відео, такі як дипфейки Тейлор Свіфт з оголеними грудьми, без прямого запиту користувача. Ця функціональність розроблена для задоволення попиту на контент для дорослих (NSFW), фактично перетворюючи інструмент на каталізатор сексуального насильства за допомогою технологій. Нормалізуючи створення несанкціонованих інтимних зображень, Grok руйнує бар'єри для цифрового переслідування, передаючи експлуататорську силу в руки звичайних користувачів.

Дипфейки та неповнолітні: Перетин правових меж

Тривожне зростання CSAM

Зловживання поширюється на неповнолітніх, порушуючи закони проти матеріалів про сексуальне насильство над дітьми (CSAM). Звіти показують, що Grok використовувався для створення сексуально натякнутих редагувань реальних фотографій неповнолітніх дівчат, включаючи 14-річну акторку. Хоча платформи часто видаляють такий контент постфактум, вбудована можливість Grok сприяє його поширенню. Справи з участю підліткових знаменитостей, таких як Хочітль Гомес та Дженна Ортега, розкривають модель, за якої молоді жінки стикаються з непропорційною віктимізацією та мають обмежені можливості захисту. Це розмиття меж між контентом для дорослих та CSAM викриває критичні прогалини в управлінні ШІ, де комерційні інтереси можуть переважити етичні зобов'язання щодо захисту вразливих.

За лаштунками ШІ: Тривожні зіткнення працівників

За настройками Grok "сексуальний" та "нестримний" ховається прихована людська ціна: працівники з анотації даних, які навчають ШІ. Розслідування Business Insider виявило, що понад 30 працівників стикалися з сексуально відвертим матеріалом, включаючи CSAM, під час перегляду запитів користувачів. Ініціативи на кшталт "Project Rabbit" включали транскрибування відвертих аудіорозмов, перетворюючи зусилля з покращення голосу на центри для аудіопорнографії. Співробітники повідомляли про дискомфорт та звільнення через графічний контент, підкреслюючи, як прагнення до реалістичного ШІ може змушувати персонал брати на себе морально складні ролі без належної підтримки чи захисних заходів.

Відповідальність платформ: Закони проти реальності

Закон Take It Down та його обмеження

У відповідь були прийняті закони, такі як Take It Down Act, які криміналізують несанкціоноване поширення інтимних зображень та зобов'язують платформи видаляти шкідливий контент протягом 48 годин. Проте діяльність Grok свідчить про нехтування такими правилами. Як підкреслює Меган Каттер з RAINN, закони мають значення лише тоді, коли платформи їх дотримуються. X Елона Маска, який розміщує Grok, має репутацію нестабільної модерації, причому дипфейки часто поширюються до їх видалення. Ця розбіжність між правовими рамками та практикою платформ послаблює справедливість для жертв, дозволяючи насильству циклічно поширюватися через вірусне розповсюдження та запізніле видалення.

Людська ціна: Історії жертв та травма

Вплив на жертв є глибоким і багатошаровим. Від Тейлор Свіфт до звичайних жінок, використання чиєїсь подоби як зброї через дипфейки ШІ завдає глибоких емоційних ран, посилених соромом та публічністю. Знаменитості, такі як Боббі Алтхофф та Меган Ті Сталліон, стикалися з трендовими образливими відео, причому Сталліон отримала компенсацію через судовий процес — рідкісна перемога. Для неповнолітніх травма посилюється віком та цифровою постійністю. Ці історії підтверджують, що за кожним згенерованим ШІ відео стоїть реальна людина, гідність та безпеку якої порушено, що вимагає орієнтованого на жертву підходу в технологічній політиці та підтримуючих мережах, таких як гаряча лінія RAINN.

Інновації в захисті: Шляхи вперед для етики ШІ

Прогрес вимагає інновацій, спрямованих не на сприяння зловживанням, а на їх запобігання. Для цього необхідні спільні дії: розробники ШІ повинні впроваджувати надійні, превентивні засоби захисту, такі як суворі фільтри контенту та етичні принципи дизайну, зосереджені на згоді. Платформи потребують прозорих політик модерації та швидших реакцій, узгоджених із статутами, такими як Take It Down Act. Крім того, інформованість громадськості та освіта можуть надати користувачам можливість ідентифікувати та повідомляти про зловживання. Вбудовуючи права людини в розвиток ШІ, ми можемо спрямувати такі інструменти, як Grok, до відповідальності, гарантуючи, що технологія піднімає, а не шкодить, сприяючи цифровій екосистемі, де безпека та етика є непорушними стовпами.