Представители американской разведки сообщают, что, несмотря на то, что Россия, Китай и Иран наращивают объемы создаваемого ИИ контента, призванного повлиять на избирательный цикл 2024 года, они отстают в создании убедительных материалов, способных обмануть существующие средства обнаружения.
В своем четвертом в этом году брифинге, посвященном выборам, представители Управления директора национальной разведки и ФБР сообщили журналистам, что они продолжают наблюдать за тем, как российские и иранские деятели используют генеративный ИИ в попытках обмануть американских избирателей и посеять раздор.
Хотя появление генеративного ИИ привело к некоторому улучшению этих операций, например, к переводу контента на другие языки, представители разведки описали генеративный ИИ как «ускоритель вредоносного влияния», но пока не как «революционный» инструмент.
Хотя эти страны создали множество пропагандистских материалов с использованием искусственного интеллекта, им еще предстоит преодолеть ряд препятствий, которые мешают им использовать всю мощь зарождающейся технологии для обмана избирателей.
«Риск для выборов в США, исходящий от зарубежного контента, создаваемого ИИ, зависит от способности иностранных субъектов обходить ограничения, встроенные во многие инструменты ИИ, и оставаться незамеченными, разрабатывать собственные сложные модели или стратегически нацеливать и распространять такой контент», — заявил в понедельник высокопоставленный представитель ODNI. «Иностранные субъекты отстают по каждой из этих трёх областей».
Чиновники не предоставили подробностей о том, почему эти страны, по всей видимости, испытывают трудности в этих областях, но отметили, что инструменты, созданные для обнаружения и идентификации искусственно сконструированных медиафайлов, с успехом пресекали их в этом году.
«Мы можем сказать, что одна из причин, по которой мы считаем ИИ ускорителем, заключается в том, что его качество не так достоверно, как можно было бы ожидать», — сказал представитель ODNI. «Зачастую его можно определить с помощью различных инструментов, поэтому я на этом и остановлюсь».
Россия остаётся самым активным противником, использующим ИИ, распространяя больше всего контента в виде текста, аудио, изображений и видео. Федеральные агентства и компании, занимающиеся коммерческой разведкой угроз, выявили многочисленные масштабные кампании, проводимые различными группами, связанными с операциями Москвы по влиянию на выборы, включая Doppelganger и RT , российскую государственную медиакомпанию.
Иранские деятели использовали эти инструменты для создания постов в социальных сетях и имитации новостных агентств. Их деятельность была направлена на англоязычных и испаноязычных избирателей с целью поляризации мнений по кандидатам в президенты и таким вопросам, как конфликт между Израилем и Газой.
Китай провёл масштабную операцию по влиянию с помощью ИИ во время выборов на Тайване ранее в этом году и теперь использует ИИ для формирования мирового мнения о Китае и обострения спорных политических вопросов в США . Однако представители разведки заявили, что не наблюдали, чтобы связанные с Китаем субъекты использовали ИИ для воздействия на выборы в США или оказания на них влияния.
За последние два года, с развитием инструментов искусственного интеллекта, эксперты поспешили разработать собственное программное обеспечение, которое сможет точно обнаруживать и отмечать фейковые или сфальсифицированные медиа-контенты.
Поскольку многие из этих инструментов также были созданы с использованием ИИ, эксперты предупреждают, что проверка подлинности медиафайлов превратится в постоянную игру в кошки-мышки, где злоумышленники будут постоянно адаптировать свои системы, чтобы уклониться от новейших методов обнаружения.
Пока этого не произошло. В таких странах, как Тайвань , Индия , США и других, попытки иностранных СМИ ввести избирателей в заблуждение с помощью фейковых медиа часто быстро идентифицировались как цифровые подделки, что вызывало серьёзные сомнения в их подлинности.
Представители разведки отказались предоставить подробную информацию о масштабах или влиянии этих усилий, заявив, что такой анализ частично потребует от них мониторинга активности в социальных сетях, которая подпадает под защиту свободы слова, предусмотренную Первой поправкой.
Однако официальные лица США заявили, что они внимательно отслеживают признаки того, что злоумышленники улучшили свои усилия, будь то путем создания собственных мощных моделей или поиска способов более эффективного усиления контента.
Другой высокопоставленный представитель ODNI подтвердил, что часть этих усилий действительно включает в себя переговоры с компаниями ИИ , у которых есть инструменты , «которые можно было бы использовать на протяжении всего жизненного цикла кампании по оказанию влияния за рубежом».
«Наше взаимодействие с технологическими компаниями сосредоточено на развитии инструментов, тактик и процедур иностранных противников. Мы также обсуждаем подходы к аутентификации и атрибуции, что позволяет нам обмениваться опытом», — сказал второй представитель ODNI.
Несмотря на то, что генеративный ИИ упростил создание убедительных фейковых медиа, такие страны, как Россия, по-прежнему полагаются на менее технически продвинутые методы манипуляции, не требующие сложных алгоритмов. Например, представители ODNI заявили, что один из самых громких примеров использования Россией искусственно сконструированных медиа для нападения на вице-президента Камалу Харрис — видео, якобы показывающее, как она скрылась с места ДТП в 2011 году, — был постановочным и не использовал ИИ. Это подтверждает сообщение Microsoft , которая ранее в этом месяце заявила, что видео было создано с помощью нанятых актёров и распространено через фейковое новостное агентство, созданное российскими влиятельными лицами.
В своем четвертом в этом году брифинге, посвященном выборам, представители Управления директора национальной разведки и ФБР сообщили журналистам, что они продолжают наблюдать за тем, как российские и иранские деятели используют генеративный ИИ в попытках обмануть американских избирателей и посеять раздор.
Хотя появление генеративного ИИ привело к некоторому улучшению этих операций, например, к переводу контента на другие языки, представители разведки описали генеративный ИИ как «ускоритель вредоносного влияния», но пока не как «революционный» инструмент.
Хотя эти страны создали множество пропагандистских материалов с использованием искусственного интеллекта, им еще предстоит преодолеть ряд препятствий, которые мешают им использовать всю мощь зарождающейся технологии для обмана избирателей.
«Риск для выборов в США, исходящий от зарубежного контента, создаваемого ИИ, зависит от способности иностранных субъектов обходить ограничения, встроенные во многие инструменты ИИ, и оставаться незамеченными, разрабатывать собственные сложные модели или стратегически нацеливать и распространять такой контент», — заявил в понедельник высокопоставленный представитель ODNI. «Иностранные субъекты отстают по каждой из этих трёх областей».
Чиновники не предоставили подробностей о том, почему эти страны, по всей видимости, испытывают трудности в этих областях, но отметили, что инструменты, созданные для обнаружения и идентификации искусственно сконструированных медиафайлов, с успехом пресекали их в этом году.
«Мы можем сказать, что одна из причин, по которой мы считаем ИИ ускорителем, заключается в том, что его качество не так достоверно, как можно было бы ожидать», — сказал представитель ODNI. «Зачастую его можно определить с помощью различных инструментов, поэтому я на этом и остановлюсь».
Россия остаётся самым активным противником, использующим ИИ, распространяя больше всего контента в виде текста, аудио, изображений и видео. Федеральные агентства и компании, занимающиеся коммерческой разведкой угроз, выявили многочисленные масштабные кампании, проводимые различными группами, связанными с операциями Москвы по влиянию на выборы, включая Doppelganger и RT , российскую государственную медиакомпанию.
Иранские деятели использовали эти инструменты для создания постов в социальных сетях и имитации новостных агентств. Их деятельность была направлена на англоязычных и испаноязычных избирателей с целью поляризации мнений по кандидатам в президенты и таким вопросам, как конфликт между Израилем и Газой.
Китай провёл масштабную операцию по влиянию с помощью ИИ во время выборов на Тайване ранее в этом году и теперь использует ИИ для формирования мирового мнения о Китае и обострения спорных политических вопросов в США . Однако представители разведки заявили, что не наблюдали, чтобы связанные с Китаем субъекты использовали ИИ для воздействия на выборы в США или оказания на них влияния.
За последние два года, с развитием инструментов искусственного интеллекта, эксперты поспешили разработать собственное программное обеспечение, которое сможет точно обнаруживать и отмечать фейковые или сфальсифицированные медиа-контенты.
Поскольку многие из этих инструментов также были созданы с использованием ИИ, эксперты предупреждают, что проверка подлинности медиафайлов превратится в постоянную игру в кошки-мышки, где злоумышленники будут постоянно адаптировать свои системы, чтобы уклониться от новейших методов обнаружения.
Пока этого не произошло. В таких странах, как Тайвань , Индия , США и других, попытки иностранных СМИ ввести избирателей в заблуждение с помощью фейковых медиа часто быстро идентифицировались как цифровые подделки, что вызывало серьёзные сомнения в их подлинности.
Представители разведки отказались предоставить подробную информацию о масштабах или влиянии этих усилий, заявив, что такой анализ частично потребует от них мониторинга активности в социальных сетях, которая подпадает под защиту свободы слова, предусмотренную Первой поправкой.
Однако официальные лица США заявили, что они внимательно отслеживают признаки того, что злоумышленники улучшили свои усилия, будь то путем создания собственных мощных моделей или поиска способов более эффективного усиления контента.
Другой высокопоставленный представитель ODNI подтвердил, что часть этих усилий действительно включает в себя переговоры с компаниями ИИ , у которых есть инструменты , «которые можно было бы использовать на протяжении всего жизненного цикла кампании по оказанию влияния за рубежом».
«Наше взаимодействие с технологическими компаниями сосредоточено на развитии инструментов, тактик и процедур иностранных противников. Мы также обсуждаем подходы к аутентификации и атрибуции, что позволяет нам обмениваться опытом», — сказал второй представитель ODNI.
Несмотря на то, что генеративный ИИ упростил создание убедительных фейковых медиа, такие страны, как Россия, по-прежнему полагаются на менее технически продвинутые методы манипуляции, не требующие сложных алгоритмов. Например, представители ODNI заявили, что один из самых громких примеров использования Россией искусственно сконструированных медиа для нападения на вице-президента Камалу Харрис — видео, якобы показывающее, как она скрылась с места ДТП в 2011 году, — был постановочным и не использовал ИИ. Это подтверждает сообщение Microsoft , которая ранее в этом месяце заявила, что видео было создано с помощью нанятых актёров и распространено через фейковое новостное агентство, созданное российскими влиятельными лицами.
