Согласно новому исследованию Microsoft, опубликованному в четверг, хакерские группы, связанные с китайским правительством, все чаще прибегают к дипфейкам и другим формам контента, создаваемого искусственным интеллектом, пытаясь вмешаться в выборы в других странах.
В своих кампаниях влияния Пекин по-прежнему опирается на старые методы, такие как использование фейковых аккаунтов в социальных сетях и новостных сетях, для распространения государственной пропаганды, внедрения ложной информации в онлайн-дискурс и попыток усилить реальный раскол в американском обществе. Однако Китай также экспериментирует с новыми инструментами для распространения своих предпочитаемых идей за рубежом, в том числе на Тайване и в США.
В частности, Microsoft заметила, что связанные с Китаем дезинформаторы публикуют обработанные ИИ изображения, чтобы подогреть теории заговора о том, что правительство США намеренно спровоцировало сход поезда с рельсов в Кентукки и лесные пожары на Мауи, Гавайи, в 2023 году. В некоторых публикациях использовались сгенерированные ИИ изображения того, что в отчете за четверг описывается как «горящие прибрежные дороги и жилые дома, чтобы сделать контент более привлекательным».
Конечно, в опубликованном в четверг отчете не делается вывод о том, что ИИ кардинально меняет ситуацию с дезинформацией, как опасаются некоторые эксперты.
Недавние выборы на Тайване продемонстрировали универсальность технологий в сфере дезинформации. Там Microsoft наблюдала, как китайские пропагандистские группы создавали новостные репортажи с использованием искусственного интеллекта и поддельных ведущих, чтобы повлиять на результаты выборов на острове. Некоторые из этих клипов были созданы с помощью CapCut — инструмента для редактирования на базе искусственного интеллекта, принадлежащего ByteDance.
«Это первый случай, когда Microsoft Threat Intelligence стала свидетелем того, как государственный субъект использовал контент ИИ в попытках повлиять на выборы в другой стране», — отмечается в отчете.
Компания Microsoft отметила «заметный всплеск» контента с участием тайваньских политических деятелей. Наиболее известным политиком, подвергшимся атаке, стал Лай Циндэ, избранный президент Тайваня и член правящей партии, выступающей за независимость Тайваня. Лай стал объектом многочисленных мошеннических действий с использованием искусственного интеллекта, включая созданные ИИ мемы, обвиняющие его и его партию в коррупции, а также обработанные ИИ видеоролики, в которых женщина утверждала, что у Лая было несколько любовниц и внебрачные дети.
Терри Гоу, миллиардер и бизнесмен, выбыл из президентской гонки в ноябре, но в день выборов в интернете появилась аудиозапись его голоса, якобы поддерживающая другого кандидата. Гоу отрицал подлинность аудиозаписи, а Microsoft приписала публикацию файла, а также поддельное письмо, приписываемое Гоу и распространенное несколькими днями ранее, китайской операции влияния, известной как «Спамоуфлаж».
В США китайские кампании влияния использовали подставные аккаунты в социальных сетях для проведения онлайн-опросов по таким спорным вопросам, как изменение климата, иммиграция и финансирование США для Израиля и Украины, а также для выдачи себя за американских избирателей в интернете. Онлайн-опросы всё чаще используются для обсуждения политических вопросов в США. По словам Microsoft, это может быть попыткой лучше понять американский электорат и выявить возможные сферы для злоупотреблений в преддверии выборов 2024 года.
В прошлом году в ежегодном докладе Управления директора национальной разведки утверждалось , что китайское правительство «молчаливо» одобрило операции по оказанию влияния на несколько кандидатов на промежуточных выборах в США 2022 года, пытаясь поддержать кандидатов в обеих партиях, считающихся дружественными интересам Китая, и принизить тех, кто считается критически настроенным.
Чиновники национальной безопасности США указали на появление генеративных инструментов искусственного интеллекта как на ключевое отличие этих выборов от предыдущих циклов, утверждая, что они могут помочь генерировать дезинформационный контент в больших объемах и помочь злоумышленникам преодолеть культурные барьеры.
«Многие субъекты, желающие оказать вредоносное влияние, не являются носителями английского языка, поэтому в их сообщениях будут моменты, которые не учитывают культурные и грамматические ошибки», — заявил журналистам в прошлом месяце Роб Джойс, бывший директор по кибербезопасности АНБ. «И теперь инструменты GPT всё это исправляют, верно? Один человек может создать массу материала, который будет звучать правдоподобно и убедительно в масштабе».
Одна из шпионских хакерских групп, отслеживаемая Microsoft как Gingham Typhoon (также известная как APT40, TEMP.Periscope и Kryptonite Panda), была замечена в нападении на островное государство в Южной части Тихого океана летом 2023 года. Это регион, где китайское правительство работало над созданием экономических и безопасных партнерств , стремясь расширить свое влияние, и группа была замечена в нападении на правительства, ИТ-компании, международные организации и критиков с помощью «сложных» фишинговых кампаний.
Эта группировка, которую специалисты по анализу угроз связывают с Министерством государственной безопасности Китая, также имеет историю атак на Соединенные Штаты. В 2021 году Министерство юстиции предъявило обвинения четырем гражданам Китая, предположительно участвовавшим в APT40, в проведении масштабных хакерских операций в США и других странах с 2011 года. Американские власти обвинили этих лиц в краже конфиденциальных или ценных технологий у предприятий и государственных организаций в сфере авиации, обороны, образования, государственного управления, морского судоходства и здравоохранения.
Две другие группы, связанные с Китаем, отслеживаемые Microsoft как Raspberry Typhoon и Flax Typhoon, атаковали и взломали телекоммуникационные компании, расположенные в странах, прилегающих к Южно-Азиатскому морю, включая Тайвань. В прошлогоднем отчёте Microsoft Flax Typhoon была названа «самой заметной группой, нацеленной на остров Тайвань», использующей собственное VPN-программное обеспечение для проникновения в телекоммуникационные сети жертв, а также в сети тайваньских подрядчиков аэрокосмической отрасли.
«Китайские государственные киберпреступники, похоже, особенно интересовались целями, связанными с многочисленными военными учениями США, проводимыми в регионе», — отмечается в новом отчете Microsoft.
В период с июня по декабрь 2023 года другая шпионская группировка, Nylon Typhoon (также известная как APT15), была замечена в атаках на государственные учреждения и ИТ-компании в Южной Америке и Европе.
Тем временем другая группа, которую Microsoft называет Storm-0062, стоит за «всплеском» хакерской активности, направленной против американских оборонных компаний. В то же время, когда в конце 2023 года Storm-0062 была замечена в использовании критической уязвимости в инструменте для совместной работы Atlassian Confluence, Microsoft заявила, что группа также взламывала американские компании, предоставляющие услуги технического инжиниринга в аэрокосмической, оборонной и горнодобывающей отраслях. В то же время Storm-0062 также атаковала американские военные организации, но пока неясно, были ли эти атаки успешными.
В своих кампаниях влияния Пекин по-прежнему опирается на старые методы, такие как использование фейковых аккаунтов в социальных сетях и новостных сетях, для распространения государственной пропаганды, внедрения ложной информации в онлайн-дискурс и попыток усилить реальный раскол в американском обществе. Однако Китай также экспериментирует с новыми инструментами для распространения своих предпочитаемых идей за рубежом, в том числе на Тайване и в США.
В частности, Microsoft заметила, что связанные с Китаем дезинформаторы публикуют обработанные ИИ изображения, чтобы подогреть теории заговора о том, что правительство США намеренно спровоцировало сход поезда с рельсов в Кентукки и лесные пожары на Мауи, Гавайи, в 2023 году. В некоторых публикациях использовались сгенерированные ИИ изображения того, что в отчете за четверг описывается как «горящие прибрежные дороги и жилые дома, чтобы сделать контент более привлекательным».
Конечно, в опубликованном в четверг отчете не делается вывод о том, что ИИ кардинально меняет ситуацию с дезинформацией, как опасаются некоторые эксперты.
Недавние выборы на Тайване продемонстрировали универсальность технологий в сфере дезинформации. Там Microsoft наблюдала, как китайские пропагандистские группы создавали новостные репортажи с использованием искусственного интеллекта и поддельных ведущих, чтобы повлиять на результаты выборов на острове. Некоторые из этих клипов были созданы с помощью CapCut — инструмента для редактирования на базе искусственного интеллекта, принадлежащего ByteDance.
«Это первый случай, когда Microsoft Threat Intelligence стала свидетелем того, как государственный субъект использовал контент ИИ в попытках повлиять на выборы в другой стране», — отмечается в отчете.
Компания Microsoft отметила «заметный всплеск» контента с участием тайваньских политических деятелей. Наиболее известным политиком, подвергшимся атаке, стал Лай Циндэ, избранный президент Тайваня и член правящей партии, выступающей за независимость Тайваня. Лай стал объектом многочисленных мошеннических действий с использованием искусственного интеллекта, включая созданные ИИ мемы, обвиняющие его и его партию в коррупции, а также обработанные ИИ видеоролики, в которых женщина утверждала, что у Лая было несколько любовниц и внебрачные дети.
Терри Гоу, миллиардер и бизнесмен, выбыл из президентской гонки в ноябре, но в день выборов в интернете появилась аудиозапись его голоса, якобы поддерживающая другого кандидата. Гоу отрицал подлинность аудиозаписи, а Microsoft приписала публикацию файла, а также поддельное письмо, приписываемое Гоу и распространенное несколькими днями ранее, китайской операции влияния, известной как «Спамоуфлаж».
В США китайские кампании влияния использовали подставные аккаунты в социальных сетях для проведения онлайн-опросов по таким спорным вопросам, как изменение климата, иммиграция и финансирование США для Израиля и Украины, а также для выдачи себя за американских избирателей в интернете. Онлайн-опросы всё чаще используются для обсуждения политических вопросов в США. По словам Microsoft, это может быть попыткой лучше понять американский электорат и выявить возможные сферы для злоупотреблений в преддверии выборов 2024 года.
В прошлом году в ежегодном докладе Управления директора национальной разведки утверждалось , что китайское правительство «молчаливо» одобрило операции по оказанию влияния на несколько кандидатов на промежуточных выборах в США 2022 года, пытаясь поддержать кандидатов в обеих партиях, считающихся дружественными интересам Китая, и принизить тех, кто считается критически настроенным.
Чиновники национальной безопасности США указали на появление генеративных инструментов искусственного интеллекта как на ключевое отличие этих выборов от предыдущих циклов, утверждая, что они могут помочь генерировать дезинформационный контент в больших объемах и помочь злоумышленникам преодолеть культурные барьеры.
«Многие субъекты, желающие оказать вредоносное влияние, не являются носителями английского языка, поэтому в их сообщениях будут моменты, которые не учитывают культурные и грамматические ошибки», — заявил журналистам в прошлом месяце Роб Джойс, бывший директор по кибербезопасности АНБ. «И теперь инструменты GPT всё это исправляют, верно? Один человек может создать массу материала, который будет звучать правдоподобно и убедительно в масштабе».
Хакерские атаки, связанные с разведкой Китая, расширяются
Помимо влияния на выборы, в докладе Microsoft подчёркивается, как Пекин расширил свои хакерские операции, связанные со сбором разведывательной информации. Эти операции направлены на более глубокое понимание политических процессов как дружественных, так и враждебных стран, а также на кражу конфиденциальных технологий.Одна из шпионских хакерских групп, отслеживаемая Microsoft как Gingham Typhoon (также известная как APT40, TEMP.Periscope и Kryptonite Panda), была замечена в нападении на островное государство в Южной части Тихого океана летом 2023 года. Это регион, где китайское правительство работало над созданием экономических и безопасных партнерств , стремясь расширить свое влияние, и группа была замечена в нападении на правительства, ИТ-компании, международные организации и критиков с помощью «сложных» фишинговых кампаний.
Эта группировка, которую специалисты по анализу угроз связывают с Министерством государственной безопасности Китая, также имеет историю атак на Соединенные Штаты. В 2021 году Министерство юстиции предъявило обвинения четырем гражданам Китая, предположительно участвовавшим в APT40, в проведении масштабных хакерских операций в США и других странах с 2011 года. Американские власти обвинили этих лиц в краже конфиденциальных или ценных технологий у предприятий и государственных организаций в сфере авиации, обороны, образования, государственного управления, морского судоходства и здравоохранения.
Две другие группы, связанные с Китаем, отслеживаемые Microsoft как Raspberry Typhoon и Flax Typhoon, атаковали и взломали телекоммуникационные компании, расположенные в странах, прилегающих к Южно-Азиатскому морю, включая Тайвань. В прошлогоднем отчёте Microsoft Flax Typhoon была названа «самой заметной группой, нацеленной на остров Тайвань», использующей собственное VPN-программное обеспечение для проникновения в телекоммуникационные сети жертв, а также в сети тайваньских подрядчиков аэрокосмической отрасли.
«Китайские государственные киберпреступники, похоже, особенно интересовались целями, связанными с многочисленными военными учениями США, проводимыми в регионе», — отмечается в новом отчете Microsoft.
В период с июня по декабрь 2023 года другая шпионская группировка, Nylon Typhoon (также известная как APT15), была замечена в атаках на государственные учреждения и ИТ-компании в Южной Америке и Европе.
Тем временем другая группа, которую Microsoft называет Storm-0062, стоит за «всплеском» хакерской активности, направленной против американских оборонных компаний. В то же время, когда в конце 2023 года Storm-0062 была замечена в использовании критической уязвимости в инструменте для совместной работы Atlassian Confluence, Microsoft заявила, что группа также взламывала американские компании, предоставляющие услуги технического инжиниринга в аэрокосмической, оборонной и горнодобывающей отраслях. В то же время Storm-0062 также атаковала американские военные организации, но пока неясно, были ли эти атаки успешными.
