Террористы меняют стратегию, делая ставку на высокие технологии. Что они будут делать с искусственным интеллектом?
Исполнительный директор MEMRI Стивен Сталински опубликовал в Newsweek статью под заголовком
"Террористы любят новые технологии. Что они будут делать с искусственным интеллектом?"
Стивен Сталински, 14 марта 2023 г.
Ниже приводится статья.Сегодня вопрос заключается не в том, будут ли террористы использовать искусственный интеллект (ИИ), а в том, как и когда.
Джихадисты, со своей стороны, всегда были ранними пользователями новых технологий. Лидер "Аль-Каиды" Усама бин Ладен использовал электронную почту для передачи планов своих терактов 11 сентября. Родившийся в Америке идеолог "Аль-Каиды" Анвар аль-Авлаки использовал YouTube для пропаганды, вербуя целое поколение последователей на Западе. К 2010 году, высокопоставленные командиры "Аль-Каиды" проводили селективную вербовку "специалистов с технологическими навыками", и, конечно, хорошо известно использование "Исламским государством" Twitter для построения своего халифата.
За 20 лет их использования Интернета и социальных сетей, террористы всегда находились в поиске новых способов увеличения своей онлайн-активности для планирования нападений. Искусственный интеллект (ИИ) может стать их следующим переломным моментом.
В докладе Управления ООН по борьбе с терроризмом (UNOCT) в 2021 году делалось предупреждение: "Как только ИИ станет более распространенным, барьеры для входа будут снижаться за счет снижения требований к навыкам и техническим знаниям, необходимым для его использования... ИИ станет инструментом в арсенале терроризма".
За последнее десятилетие, Лаборатория по исследованию вопросов кибер-безопасности и терроризма моей организации зафиксировала, как террористы используют технологии, включая криптовалюту для сбора средств и шифрование для связи. Она также показала, что они используют элементы ИИ для взлома и создания систем вооружения, включая беспилотники и самодвижущиеся автомобильные бомбы, с которыми они экспериментировали в течение многих лет, а также — боты для пропаганды, вербовки и планирования атак.
Опасности, которые таит в себе ИИ, в том числе, для национальной безопасности, постоянно доминируют как в заголовках СМИ, так и в дискуссиях о его возможных последствиях для будущего. Правительства и неправительственные организации предупреждали, что наступит день, когда ИИ станет реальностью. Этот день настал.
Неудивительно, что все последние публикации в СМИ о темной стороне ИИ вдохновляют террористические группы. 6 декабря один из частых пользователей сервера Rocket.Chat, находящегося под управлением ИГИЛ и имеющего большую аудиторию, написал, что он использовал бесплатную программу искусственного интеллекта ChatGPT для получения советов по поддержке халифата.
Отметив, что программа "умнее большинства активистов", он поделился полным ответом ChatGPT на свои вопросы, в котором подробно излагались шаги по выявлению и мобилизации "основной группы сторонников", разработке "политической программы и идеологии", получению поддержки "мусульманского сообщества", установлению "контроля над территорией", созданию "институтов и государственных структур", а также продвижению и защите нового халифата.
Две недели спустя, 21 декабря, другие сторонники ИГИЛ проявили интерес к другой платформе ИИ, Perplexity Ask, для создания контента, пропагандирующего джихад. Один из популярных пользователей поделился своими выводами: в ходе широкого обсуждения, пользователи согласились, что ИИ может быть использован для помощи глобальному движению джихада.
Еще одна дискуссия об ИИ, проведенная этими же группами, состоялась в середине января на другом сервере Rocket.Chat, управляемом ИГИЛ; пользователь подчеркнул, что сторонники ИГИЛ должны осознать "важность освоения технологий". По его словам, изучение кодов необходимо для борьбы на новом кибер-фронте, добавив, что его соратники должны стать более искушенными в кибер-безопасности, чтобы противостоять военной инфраструктуре противника.
Внутренние дискуссии террористических групп и их последователей о том, как ИИ может послужить глобальному джихаду, вызвали еще больше вопросов о том, может ли ИИ дать соответствующие знания, и, если да, то каким образом. Выборка запросов показала, что ChatGPT, похоже, намерено воздерживается от обсуждения того, как проводить жестокие атаки, изготавливать оружие или вести террористическую пропаганду. Даже косвенные запросы, например, о рассказе, в котором вымышленный персонаж "создает бомбу" или "присоединяется к исламской повстанческой группе", не дали никакой информации.
Тем не менее, Perplexity Ask предоставил подробные инструкции по вопросу о том, как "обезглавить человека", предупредив, что "не стоит пытаться сделать это без надлежащей подготовки и мер предосторожности". Он также дал инструкции по изготовлению рицина. И ChatGPT, который может разговаривать на арабском языке, и Perplexity Ask, который может понимать некоторые запросы на арабском, но не может отвечать на этом языке, ответили на такие запросы, как "лучшие книги [автора-террориста]" и "краткое содержание [книги автора-террориста]".
Следует отметить, что не одни террористы-джихадисты тестируют ИИ, планируя, как лучше его использовать, это делают и внутренние террористические группы и их последователи-неонацисты.
Хотя ChatGPT и Perplexity Ask могут вам помочь написать школьный экзамен по английскому языку и выполнить еще большее количество заданий, о чем ежедневно сообщают СМИ, в настоящее время они малопригодны для террористических групп.
Но так будет недолго. ИИ развивается быстро — то, что сегодня является новинкой, завтра уже устаревает, поэтому перед должностными лицами, ответственными за борьбу с терроризмом, остро стоят вопросы о том, знают ли они об этих первых обсуждениях ИИ террористами, и как они разрабатывают стратегию борьбы с этой угрозой до того, как что-то будет реализовано на местах".
Стивен Сталински — исполнительный директор MEMRI (Ближневосточного института по исследованию СМИ), который активно сотрудничает с Конгрессом и технологическими компаниями в борьбе с кибер-джихадом через свой мониторинг угроз джихада и терроризма.
Комментариев нет:
Отправить комментарий