истории

Сторонники ИГИЛ используют искусственный интеллект, чтобы генерировать ролики о терактах. Эксперты опасаются, что технологии делают исламистскую пропаганду более эффективной

Источник: Meduza

Через четыре дня после теракта в московском «Крокус Сити Холле» террористическая группировка «Вилаят Хорасан» опубликовала видео о нападении. В ролике продолжительностью 92 секунды ведущий в каске и камуфляже объяснял, что случившееся — не террористический акт, а часть «нормального контекста бушующей войны между ИГИЛ и государствами, борющимися против ислама». Расследовательская организация SITE Intelligence Group установила, что фигура «ведущего» на самом деле была сгенерирована искусственным интеллектом, а само видео — часть пропагандистской программы News Harvest, созданной с использованием ИИ. «Медуза» пересказывает материал The Washington Post о том, как технологии позволяют сторонникам ИГИЛ быстро и эффективно распространять экстремистскую пропаганду.

Благодаря ИИ исламисты получили возможность быстро и дешево генерировать ролики о терактах. Из-за сходства с обычными новостными программами отслеживать и блокировать их все сложнее

В середине марта 2024 года сторонник «Исламского государства» с ником Al Kurdi 500 попытался обосновать единомышленникам необходимость использования ИИ для пропаганды в защищенном мессенджере. «Было бы здорово, если бы братья делали ролики о повседневных событиях в качестве альтернативы текстовым новостям и изображениям, — говорилось в сообщении, к которому получили доступ расследователи. — Медиа важны так же, как настоящая война, если не больше — поскольку обладают очень сильным влиянием на людей». Al Kurdi предположил, что с помощью технологий можно было бы создавать контент «как новостные каналы, например, Al Jazeera». 

Через неделю после этого сообщения в Москве произошел теракт, в результате которого погибли 145 человек, не менее 550 пострадали. Сторонник «Исламского государства» с ником Hisad сгенерировал видео о теракте и опубликовал его в защищенном мессенджере 26 марта. Всего после нападения на «Крокус Сити Холл» сторонники исламистов опубликовали шесть выпусков программы News Harvest с рассказами о деятельности ИГИЛ в Нигере, Камеруне, Ираке, Сирии и Нигерии. Каждый ролик сопровождался логотипом и заставкой. Во всех видео появлялся сгенерированный ИИ ведущий в военной или официальной традиционной одежде, который зачитывал выдержки из публикаций «Исламского государства». Выступления сопровождались бегущей строкой и роликами с демонстрацией терактов. 

По словам главы SITE Intelligence Group Риты Кац, для ИГИЛ развитие ИИ — это «поворотный момент». «Теперь у них появился быстрый способ доносить информацию о своих кровавых атаках до самых дальних уголков мира, — объяснила Кац в разговоре с Washington Post — Если вы осуществляете крупную атаку, но не рассказываете о ней, ваше достижение становится бесполезным. ИИ позволяет террористам в сжатые сроки создавать столько [контента], сколько они хотят». 

«Исламское государство» и раньше вело активную пропаганду в интернете и публиковало качественные ролики, чтобы вербовать сторонников. Генерация видео с помощью искусственного интеллекта позволила террористам расширить эту сферу, значительно сократив расходы. К тому же, как объяснила Кац, на отслеживание и блокировку созданных с помощью ИИ роликов уходит много времени, поскольку по формату они похожи на новостные программы. Такие видео публикуются в первые дни после терактов и остаются доступны дольше, чем те, в которых прямо демонстрируется насилие.

Сгенерированный с помощью ИИ контент сторонники террористов в основном размещают в мессенджерах и соцсетях — например, Rocket.Chat, Telegram и X (бывший Twitter). По словам руководителя Института по исследованию медиа Ближнего Востока (MEMRI) Стивена Сталинского, платформы плохо справляются с мониторингом подобного контента. 

Представительница Rocket.Chat по связям с общественностью Лаис Мачадо Роша объяснила, что мессенджер представляет собой платформу с открытым исходным кодом, которая не размещает сообщения на своих серверах, а следовательно, не может их удалить. Роша также заверила, что распространение роликов с пропагандой ИГИЛ ограничивается «конкретным нелегальным пространством», организованным сторонниками «Исламского государства» с учетом возможностей платформы. Telegram и X не отреагировали на запросы The Washington Post о комментарии по поводу исламистского контента.

Пропагандистские ролики создаются без официального участия ИГИЛ. Но террористические организации, включая «Аль-Каеду», тоже активно интересуются возможностями ИИ

Спорным аспектом использования искусственного интеллекта среди сторонников террористов стала технология генерирования лиц, которая формально нарушает действующий в исламе запрет на изображение любых живых существ. «Не показывайте нарисованные или анимированные лица, это ЗАПРЕЩЕНО», — говорится в комментарии под очередным роликом News Harvest на закрытой платформе. Тот же пользователь под ником Hamed 123 пояснил, что те, кто создает изображения других людей, животных и птиц, будут наказаны, когда наступит киямат — день Божьего суда. 

Пользователь Hisad, который занимается созданием роликов News Harvest, ответил на критику в мае 2024 года. По его словам, он обсудил ситуацию с шейхом и тот подтвердил, что использование сгенерированных ИИ изображений запрещено. С тех пор Hisad начал размывать лицо ведущего в роликах.

Исполнительный директор MEMRI Стивен Сталинский рассказал журналистам, что News Harvest создается без официального участия «Исламского государства». Однако исключать вероятность того, что авторы роликов входят в структуру террористической организации, эксперт не стал. По словам Сталинского, ИГИЛ с большой долей вероятности изучает возможности ИИ, чтобы облегчить и ускорить процесс информирования и вербовки сторонников. В конце апреля одно из СМИ, которые выступают в поддержку «Исламского государства», предложило сотрудничество тем, кто умеет создавать плакаты, писать тексты, редактировать видео, разбирается в программах Adobe Photoshop и Premiere, а также умеет пользоваться ИИ-технологиями. 

В феврале этого года группировка, связанная с «Аль-Каедой», объявила, что будет проводить онлайн-курсы по использованию искусственного интеллекта. На следующий день она, совместно с еще одной организацией Аль-Каеды», опубликовала 50-страничный текст под названием «Невероятные способы использования ИИ чат-ботов», в котором объяснялись основы функционирования ChatGPT, разработанного компанией OpenAI. «ChatGPT — это мощный инструмент, — говорилось во введении руководства, доступ к которому получили сотрудники SITE Intelligence Group. — Давайте посмотрим, как мы можем его использовать». 

Расследователям пока не удалось установить, какую именно технологию используют пропагандисты при создании News Harvest. Известно, что некоторые сторонники ИГИЛ в переписке предлагали воспользоваться программой клонирования голоса, разработанной Eleven Labs. В компании не ответили на просьбу The Washington Post прокомментировать возможное использование продукта для пропаганды «Исламского государства».