Змарнілий і, очевидно, сліпий чоловік стоїть на снігу в нацистському концтаборі Флоссенбюрг. Зображення здається справжнім на перший погляд, але є частиною хвилі контенту про Голокост, створеного ШІ.
Команда AFP з перевірки фактів помітила сплеск подібних зображень у соціальних мережах, які спотворюють історію вбивства нацистською Німеччиною шести мільйонів європейських євреїв під час Другої світової війни.
Серед зображень, створених ШІ, які стали вірусними, є фотографія маленької дівчинки з кучерявим волоссям на триколісному велосипеді.
Вона представлена як Ханнелоре Кауфманн, 13-річна берлінка, яка, як вважають, загинула в таборі смерті Аушвіц, чиє звільнення радянськими військами в 1945 році вшановується у вівторок.
Однак немає доказів того, що він коли-небудь існував.
Іншим прикладом є фальшиве зображення, створене для ілюстрації вигаданої історії про чеського скрипаля на ім’я «Генк» в Освенцімі, яке було викрито фальшивим музеєм табору.
Після того, як навесні 2025 року з’явилися перші приклади, до кінця року «погані розробки штучного інтелекту» на цю тему були «демонстровані дуже часто», – сказала AFP історик Айріс Грошек.
На деяких сайтах такий контент публікувався раз на хвилину, сказав Грошек, який працює на меморіальних місцях у Гамбурзі, зокрема в концтаборі Нойенгамме.
«Завдяки експоненціальному розвитку штучного інтелекту це явище набирає обертів», — сказав Єнс-Крістіан Вагнер, директор фонду, який керує меморіалами Бухенвальд і Міттельбау-Дора.
Використання «емоційного впливу»
Цього місяця кілька меморіалів та організацій Голокосту опублікували відкритий лист із попередженням про зростаючу кількість таких «повністю сфабрикованих» матеріалів.
Деякі створені контент-фермами, які використовують «емоційний вплив Голокосту для досягнення максимального охоплення аудиторії з мінімальними зусиллями».
Фотографія, нібито зроблена в таборі Флоссенбюрг, потрапляє в цю категорію, оскільки була опублікована на сторінці, яка нібито ділиться «правдивими людськими історіями з найтемніших розділів минулого».
Меморіали попередили, що фейковий контент також створюється «спеціально для спотворення історичних фактів, зміни ролей жертви та злочинця або поширення ревізіоністських наративів».
Вагнер, наприклад, вказує на зображення «добре вгодованих в’язнів, щоб показати, що умови в концентраційних таборах не такі вже й погані».
Освітній центр Анни Франк у Франкфурті попередив про «сплеск» створеного ШІ контенту та пропаганди, «які заперечують або применшують Голокост і висміюють його жертви».
Спотворюючи історію, створені штучним інтелектом зображення мають «дуже специфічні наслідки для того, як люди сприймають епоху нацизму», стверджує Грошек.
«Результати тривіалізації або заперечення Голокосту очевидні серед деяких молодих відвідувачів табору, особливо з «сільських районів Східної Німеччини, де домінують ультраправі», — сказав Вагнер.
«Впевнено, голосно, агресивно»
Персонал спостерігав нацистське вітання та інші провокативні та неповажні дії та коментарі.
Така поведінка спостерігається лише у «меншості, але меншості, яка стає все більш впевненою, гучною та агресивною», – сказав він AFP.
У своєму відкритому листі меморіали закликали платформи соціальних мереж «активно боротися зі створеним штучним інтелектом контентом, який спотворює історію», і «виключити облікові записи, які поширюють такий контент, із усіх програм монетизації».
«Завданням для суспільства в цілому є розробка етичних та історично обґрунтованих стандартів для цієї технології», — сказали вони, додавши: «Оператори платформ несуть особливу відповідальність у цьому відношенні».
Міністр культури Німеччини Вольфрам Ваймер сказав AFP: «Я підтримую заклик до меморіалів, щоб чітко позначати зображення, створені ШІ, і видаляти їх, якщо це необхідно».
За його словами, слід уникати отримання прибутку від таких зображень.
«Це питання поваги до мільйонів людей, убитих і переслідуваних під час нацистського терору», — сказав він, нагадавши платформам про їхні «зобов’язання» відповідно до Закону ЄС про цифрові послуги.
Грошек сказав, що жоден із американських гігантів соціальних медіа не відповів на листи, надіслані в пам'ять про жертви, включаючи Мету, власника Facebook та Instagram.
За словами Грошека, TikTok відповів, що хоче виключити ці акаунти з системи монетизації та запровадити «автоматичну перевірку».
Деякі фейкові дописи у Facebook про Ханнелор і Хенка все ще були в мережі напередодні Дня пам’яті жертв Голокосту.
