У грудні 2025 року поліція Теннессі заарештувала людину, на телефоні якої знайшли сексуалізовані дипфейки неповнолітніх. Зображення були створені за допомогою технології Grok – ІІ-моделі компанії xAI Ілона Маска.
Як сексуалізовані дипфейки неповнолітніх потрапили у чати
Історія почалася у грудні 2025 року, коли одна з постраждалих – у судових документах вона фігурує як Jane Doe 1 – отримала анонімне повідомлення в Instagram. Незнайомець повідомив, що хтось із її оточення завантажив на закритий сервер Discord серію дипфейк-відео та фотографій.
На них вона та інші школярки були зображені оголеними та у сексуалізованих позах.
Три зображення, за словами постраждалої, було створено на основі реальних фотографій, зроблених ще до повноліття. Одне — зі шкільного балу, інше — із щорічного фотоальбому. Коли дівчина отримала доступ до сервера, вона виявила там матеріали щонайменше з 18 іншими школярками, багатьох з яких дізналася.
Пізніше слідство встановило, що зображення поширювалися також через Telegram, де їх використовували як валюту для обміну на інші матеріали із сексуальним насильством над дітьми. Поліція заарештувала підозрюваного у грудні. На його телефоні виявили матеріали, ймовірно, створені за допомогою технології xAI.
Один зловмисник — і без обмежень технологія
За даними позову, усі зображення створила одна людина. Він збирав фотографії та відео школярок із відкритих джерел. Насамперед із соціальних мереж — і обробляв їх за допомогою ІІ, «роздягаючи» на знімках. Результат виглядав настільки реалістично, що зображення були позначені як згенеровані штучним інтелектом.
Зловмисник не користувався Grok безпосередньо через платформу X або офіційну програму.
Він використовував іншу програму, яка ліцензувала технологію xAI. Проте адвокати позивачів наполягають, що це не знімає відповідальність із компанії Маска. Обробка зображень однаково відбувалася на серверах xAI. А компанія отримувала прибуток від ліцензування своєї технології стороннім розробникам.
Юристи звинувачують xAI у тому, що компанія фактично переклала відповідальність на третіх осіб через ліцензійну структуру, зберігши при цьому контроль над інфраструктурою та дохід від неї.
Що вимагають постраждалі
Позивачі домагаються кількох речей. Вони вимагають компенсації збитків за кожен окремий випадок порушення законодавства про дитячу порнографію. Крім того, вони наполягають на судовій забороні. Він повинен зобов'язати xAI технічно унеможливити генерацію такого контенту.
“Програма, яка здатна створювати сексуалізовані зображення дорослих, не може бути обмежена так, щоб не виробляти матеріали із сексуальним насильством над дітьми”, – йдеться у тексті позову.
Адвокат постраждалих Ванесса Баєр-Джонс із юридичної фірми Baehr-Jones Law наголосила на масштабі проблеми. Насамперед для своїх підзахисних.
«Ці молоді люди — діти — змушені жити з усвідомленням того, що сексуалізовані зображення, на яких, мабуть, показано дитяче тіло, циркулюватимуть в інтернеті. І це не стало б можливим без інструменту, який xAI випустила, чудово розуміючи, які матеріали можна за його допомогою генерувати», – Заявила Баєр-Джонс.
За даними адвокатів, постраждалі будуть отримувати повідомлення від Національного центру у справах зниклих та експлуатованих дітей (National Center for Missing & Exploited Children) щоразу, коли їхні зображення спливатимуть у кримінальних справах. І так все життя.
Сексуалізовані дипфейки неповнолітніх не вдалося зам'яти
Позов із Теннессі — далеко не поодинокий випадок. Проблема з генератором зображень Grok набула міжнародного масштабу ще наприкінці 2025 року. Тоді користувачі виявили, що функція пікантного режиму (Spicy Mode) дозволяє створювати відверті зображення реальних людей.
За оцінками Центру протидії цифровій ненависті (Center for Countering Digital Hate), за 11 днів на рубежі 2025 та 2026 років Grok згенерував близько трьох мільйонів сексуалізованих зображень. З них приблизно 23 000 імовірно зображували дітей.
Серед відомих жертв – поп-зірка Тейлор Свіфт та віце-прем'єр Швеції Ебба Буш. Розслідування ініціювали генеральний прокурор Каліфорнії, Європейська комісія та британський регулятор зв'язку Ofcom. Мати одного з дітей Маска також подала окремий позов проти xAI з аналогічних підстав.
Сам Маск у січні 2026 року заявив:
«Мені невідомо про якісь оголені зображення неповнолітніх, створених Grok».
Реакція компанії на скандал звелася до двох заходів. Спочатку генерацію зображень обмежили платними передплатниками. А 15 січня xAI оголосила, що Grok більше не «роздягатиме» людей на фотографіях. Минулого тижня Маск написав у X, що Grok дозволятиме контент, допустимий у фільмах із рейтингом R.
Адвокати позивачів вважають ці кроки недостатніми. За їхніми словами, обмеження генерації платною підпискою не запобігає створенню матеріалів із сексуальним насильством. Воно лише гарантує, що xAI отримує з цього прибуток.
