Поздно вечером в воскресенье, 21 января, Кэти Салливан получила текстовое сообщение от члена семьи, который сказал, что им звонил Салливан или ее муж, и они выясняют, в чем дело.
Будучи казначеем суперкомитета политических действий, ведущего кампанию по внесению поправок в поддержку президента Джо Байдена на праймериз в Нью-Гэмпшире, Салливан была занята делами в преддверии выборов, которые должны были состояться всего через два дня. Она проигнорировала сообщение, предположив, что подруге позвонили случайно.
Несколько часов спустя Салливан уже собиралась идти на ужин, когда ей позвонил ещё раз, на этот раз избиратель из Нью-Гэмпшира, который спросил, почему она отправляет ему на телефон автоматические голосовые сообщения с именем Байдена. Озадаченная Салливан ответила, что не делала таких звонков, и ушла, не особо задумываясь об этом инциденте.
В середине ужина Салливан взглянула на телефон и увидела дюжину пропущенных звонков с незнакомых номеров. И тут она подумала: «О, чёрт, тут кроется нечто большее, чем я думаю. Что-то происходит».
Кто-то начал заваливать избирателей Нью-Гэмпшира автоматическим обзвоном, который звучал так, будто Байден предупреждал демократов не голосовать на праймериз во вторник, потому что это «только помогает республиканцам в их стремлении избрать Дональда Трампа». Голос призывал лояльных демократов помнить, что «ваш голос будет иметь значение в ноябре, а не в этот вторник».
Аудиозапись автоответчика, выдававшего себя за президента Джо Байдена и нацеленного на избирателей в Нью-Гэмпшире.
Ещё более странно, что номер телефона, отображавшийся на определителе номера, по всей видимости, принадлежал Салливан, бывшему председателю отделения Демократической партии штата Нью-Гэмпшир. Организатор звонков использовал поддельный номер её мобильного телефона, из-за чего Салливан получила массу вопросов и жалоб от избирателей Нью-Гэмпшира.
То, о чём так беспокоился Салливан, оказалось потенциально важной вехой на выборах в США 2024 года — похоже, это первый случай аудиодезинформации, сгенерированной искусственным интеллектом, направленной на американских избирателей. Вряд ли это будет последний случай.
«То, что мы сейчас видим в Нью-Гэмпшире, — это масштабное применение этой технологии», — рассказал CyberScoop Рекс Бут, бывший сотрудник Агентства по кибербезопасности и безопасности инфраструктуры и Управления национального директора по кибербезопасности.
В данном случае лицо, стоящее за звонками, и их конечный мотив остаются неизвестными. Влияние звонка на поведение избирателей остаётся неясным, и Байден уверенно выиграл свои праймериз, несмотря на то, что не был заявлен в бюллетене.
В то время как американские избиратели уже подвергались воздействию дипфейков, дезинформации и искаженного контента, инцидент в Нью-Гэмпшире показывает, как ИИ можно «применять таким образом, чтобы он мог влиять на большее количество потенциальных избирателей быстрее, быстрее и более релевантным и прямым образом», — сказал Бут, который в настоящее время занимает должность главного специалиста по информационной безопасности в компании-разработчике программного обеспечения Sailpoint.
В прошлом году в таких странах, как Словакия , Великобритания и Тайвань , наблюдался взрыв дезинформации, созданной искусственным интеллектом . Хотя дипфейки уже использовались на американских выборах , например, когда Национальный комитет Республиканской партии выпустил созданную искусственным интеллектом рекламу, описывающую апокалиптическое видение будущего Соединённых Штатов в случае переизбрания Байдена в 2024 году, инцидент в Нью-Гэмпшире стал первым случаем, когда эта технология была использована для прямого воздействия на американских избирателей и изменения их поведения на выборах.
«Это было предсказуемо и предсказанным», — сказала изданию CyberScoop Линдси Горман, старший научный сотрудник по новым технологиям в Альянсе по защите демократии Германского фонда Маршалла и бывший старший советник Белого дома по вопросам ИИ, демократии и национальной безопасности.
Распространение систем искусственного интеллекта и относительная легкость, с которой можно имитировать человека с помощью технологии deepfake (обычно для этого требуется аудиозапись продолжительностью около часа, а иногда и всего три минуты), означает, что автоматизированный звонок из Нью-Гэмпшира, вероятно, является показателем того, что произойдет в ходе выборов 2024 года.
«Я очень сомневаюсь, что это последний подобный инцидент», — сказал Горман.
Салливан и другие подали жалобу в Генеральную прокуратуру Нью-Гэмпшира по поводу звонков, хотя она признала, что не уверена, какие именно законы штата или федеральные законы могли быть нарушены. Правоохранительные органы Нью-Гэмпшира уже расследуют инцидент. Члены Конгресса от Демократической партии обратились к Генеральному прокурору США Меррику Гарланду с просьбой начать федеральное расследование.
«Эти сообщения представляют собой незаконную попытку сорвать первичные выборы президента в Нью-Гэмпшире и подавить избирателей Нью-Гэмпшира», — говорится в заявлении генерального прокурора штата от 23 января.
В других отношениях Салливан символизирует, насколько плохо подготовлены многие государственные и местные чиновники к борьбе с угрозами ИИ. Она называет себя «нетехническим человеком» и человеком, который до этой недели имел лишь общее представление об искусственном интеллекте, дипфейках и их потенциальном влиянии на выборы.
«Конечно, теперь мне это крайне интересно, и я буду уделять этому гораздо больше внимания», — сказал Салливан.
Первой линией обороны против кампаний, подобных той, что прошла в Нью-Гэмпшире, станут должностные лица государственных и местных избирательных комиссий, многие из которых уже сталкиваются с нехваткой ресурсов и растущей враждебностью со стороны избирателей, с подозрением относящихся к избирательной системе.
Федеральные агентства, такие как CISA, сыграли значительную роль в борьбе с дезинформацией на прошлых выборах, в частности, посредством веб-страницы «Контроль над слухами», на которой в преддверии выборов 2020 года развенчивались различные теории заговора, связанные с выборами.
Однако ряд недавних судебных решений и активное давление со стороны республиканских членов Конгресса, утверждавших, что федеральное правительство не должно заниматься борьбой с дезинформацией, существенно ограничили возможности таких агентств, как CISA, по взаимодействию с операторами социальных сетей и координации действий с внешними сторонами по вопросам дезинформации.
Для агентства, основатель которого был уволен в 2020 году после того, как он дал отпор дезинформации, связанной с выборами, политические шрамы и негативные последствия продолжают ощущаться.
«Я не думаю, что у CISA есть желание или полномочия снова лезть в эти воды», — сказал Бут.
В январской статье, опубликованной в журнале Foreign Affairs, директор CISA Джен Истерли, старший советник по безопасности выборов Кейт Конли и государственный секретарь Канзаса Скотт Шваб написали, что, хотя федеральная поддержка необходима, «в значительной степени ответственность за противодействие этой угрозе ляжет на плечи должностных лиц избирательных комиссий штата и местных органов власти».
«Нам нужно разобраться с этим. У нас нет для этого возможностей, поэтому нам придётся рассчитывать на помощь от граждан», — сказал Салливан, призвав национальные партийные организации и федеральных законодателей решить эту проблему посредством обучения, предоставления ресурсов и принятия законодательства.
«Нужны люди, готовые действовать по первому требованию. Нужно быть готовым к обмену сообщениями, чтобы не тратить три часа на обдумывание того, что написать в этом взрывном письме», — утверждал Салливан.
В случае с Нью-Гэмпширом Салливан и другие партийные функционеры немедленно разослали электронные письма сторонникам, предупреждая их о поддельной аудиозаписи и призывая проголосовать на праймериз во вторник. Они также обратились в СМИ, чтобы добиться более широкого освещения инцидента.
Штатным юристам было поручено оперативно найти и связаться с соответствующими представителями правоохранительных органов и генеральной прокуратуры штата, чтобы сообщить о звонке. Салливан отметил, что наличие этих контактов сэкономило драгоценное время и способствовало оперативному объявлению в понедельник о том, что правоохранительные органы штата расследуют инцидент. Этого, возможно, не произошло бы, если бы они без предупреждения позвонили властям с заявлением о мошенничестве на выборах с использованием искусственного интеллекта.
Однако у небольших кампаний и избирательных комиссий может не хватать ресурсов для эффективного реагирования на подобные инциденты в режиме реального времени. И по мере того, как кампания 2024 года затягивается, менее известные политические кампании могут оказаться более лёгкой мишенью для дезинформации с помощью искусственного интеллекта, которую будет сложнее обнаружить в менее контролируемых гонках.
Хотя монотонный и роботизированный ритм автоответчика в Нью-Гэмпшире, возможно, не обманул избирателей, знакомых с манерой речи Байдена, десятилетиями освещавшейся в СМИ, их может легко обмануть дипфейк, изображающий менее известного кандидата, баллотирующегося на государственную должность. Если этот кандидат когда-либо выступал на публичном собрании или появлялся в телевизионном интервью, скорее всего, в открытом доступе достаточно аудио- и видеозаписей с его участием, чтобы создать убедительные дипфейки.
«Не знаю, смог ли бы кто-то это предотвратить, если бы у кого-то была такая возможность», — сказал Салливан. «Так как же нам лучше всего подготовиться?»
Будучи казначеем суперкомитета политических действий, ведущего кампанию по внесению поправок в поддержку президента Джо Байдена на праймериз в Нью-Гэмпшире, Салливан была занята делами в преддверии выборов, которые должны были состояться всего через два дня. Она проигнорировала сообщение, предположив, что подруге позвонили случайно.
Несколько часов спустя Салливан уже собиралась идти на ужин, когда ей позвонил ещё раз, на этот раз избиратель из Нью-Гэмпшира, который спросил, почему она отправляет ему на телефон автоматические голосовые сообщения с именем Байдена. Озадаченная Салливан ответила, что не делала таких звонков, и ушла, не особо задумываясь об этом инциденте.
В середине ужина Салливан взглянула на телефон и увидела дюжину пропущенных звонков с незнакомых номеров. И тут она подумала: «О, чёрт, тут кроется нечто большее, чем я думаю. Что-то происходит».
Кто-то начал заваливать избирателей Нью-Гэмпшира автоматическим обзвоном, который звучал так, будто Байден предупреждал демократов не голосовать на праймериз во вторник, потому что это «только помогает республиканцам в их стремлении избрать Дональда Трампа». Голос призывал лояльных демократов помнить, что «ваш голос будет иметь значение в ноябре, а не в этот вторник».
Аудиозапись автоответчика, выдававшего себя за президента Джо Байдена и нацеленного на избирателей в Нью-Гэмпшире.
Ещё более странно, что номер телефона, отображавшийся на определителе номера, по всей видимости, принадлежал Салливан, бывшему председателю отделения Демократической партии штата Нью-Гэмпшир. Организатор звонков использовал поддельный номер её мобильного телефона, из-за чего Салливан получила массу вопросов и жалоб от избирателей Нью-Гэмпшира.
То, о чём так беспокоился Салливан, оказалось потенциально важной вехой на выборах в США 2024 года — похоже, это первый случай аудиодезинформации, сгенерированной искусственным интеллектом, направленной на американских избирателей. Вряд ли это будет последний случай.
От теории к реальности
Технологи, специалисты по кибербезопасности и государственные учреждения годами предупреждали , что инструменты искусственного интеллекта могут быть использованы для создания реалистичных изображений, видео и аудиозаписей людей, делающих и говорящих то, чего они никогда не делали. Робозвонок в Нью-Гэмпшире знаменует собой момент, когда возможность использования злоумышленниками дипфейков на выборах 2024 года стала совершенно реальной.«То, что мы сейчас видим в Нью-Гэмпшире, — это масштабное применение этой технологии», — рассказал CyberScoop Рекс Бут, бывший сотрудник Агентства по кибербезопасности и безопасности инфраструктуры и Управления национального директора по кибербезопасности.
В данном случае лицо, стоящее за звонками, и их конечный мотив остаются неизвестными. Влияние звонка на поведение избирателей остаётся неясным, и Байден уверенно выиграл свои праймериз, несмотря на то, что не был заявлен в бюллетене.
В то время как американские избиратели уже подвергались воздействию дипфейков, дезинформации и искаженного контента, инцидент в Нью-Гэмпшире показывает, как ИИ можно «применять таким образом, чтобы он мог влиять на большее количество потенциальных избирателей быстрее, быстрее и более релевантным и прямым образом», — сказал Бут, который в настоящее время занимает должность главного специалиста по информационной безопасности в компании-разработчике программного обеспечения Sailpoint.
В прошлом году в таких странах, как Словакия , Великобритания и Тайвань , наблюдался взрыв дезинформации, созданной искусственным интеллектом . Хотя дипфейки уже использовались на американских выборах , например, когда Национальный комитет Республиканской партии выпустил созданную искусственным интеллектом рекламу, описывающую апокалиптическое видение будущего Соединённых Штатов в случае переизбрания Байдена в 2024 году, инцидент в Нью-Гэмпшире стал первым случаем, когда эта технология была использована для прямого воздействия на американских избирателей и изменения их поведения на выборах.
«Это было предсказуемо и предсказанным», — сказала изданию CyberScoop Линдси Горман, старший научный сотрудник по новым технологиям в Альянсе по защите демократии Германского фонда Маршалла и бывший старший советник Белого дома по вопросам ИИ, демократии и национальной безопасности.
Распространение систем искусственного интеллекта и относительная легкость, с которой можно имитировать человека с помощью технологии deepfake (обычно для этого требуется аудиозапись продолжительностью около часа, а иногда и всего три минуты), означает, что автоматизированный звонок из Нью-Гэмпшира, вероятно, является показателем того, что произойдет в ходе выборов 2024 года.
«Я очень сомневаюсь, что это последний подобный инцидент», — сказал Горман.
Салливан и другие подали жалобу в Генеральную прокуратуру Нью-Гэмпшира по поводу звонков, хотя она признала, что не уверена, какие именно законы штата или федеральные законы могли быть нарушены. Правоохранительные органы Нью-Гэмпшира уже расследуют инцидент. Члены Конгресса от Демократической партии обратились к Генеральному прокурору США Меррику Гарланду с просьбой начать федеральное расследование.
«Эти сообщения представляют собой незаконную попытку сорвать первичные выборы президента в Нью-Гэмпшире и подавить избирателей Нью-Гэмпшира», — говорится в заявлении генерального прокурора штата от 23 января.
«Нам нужно это выяснить».
В каком-то смысле Салливан была как никто подготовлена к подобному инциденту. В 2002 году она была председателем отделения Демократической партии в штате, когда агенты Республиканской партии организовали мошенническую схему глушения телефонных разговоров, целью которой было помешать её партии добиться явки избирателей в ходе ожесточённых выборов в Сенат. Четверо человек, включая Чарльза Макги, исполнительного директора Республиканской партии Нью-Гэмпшира, были обвинены и осуждены или признали себя виновными по обвинениям, связанным с их ролью в инциденте.В других отношениях Салливан символизирует, насколько плохо подготовлены многие государственные и местные чиновники к борьбе с угрозами ИИ. Она называет себя «нетехническим человеком» и человеком, который до этой недели имел лишь общее представление об искусственном интеллекте, дипфейках и их потенциальном влиянии на выборы.
«Конечно, теперь мне это крайне интересно, и я буду уделять этому гораздо больше внимания», — сказал Салливан.
Первой линией обороны против кампаний, подобных той, что прошла в Нью-Гэмпшире, станут должностные лица государственных и местных избирательных комиссий, многие из которых уже сталкиваются с нехваткой ресурсов и растущей враждебностью со стороны избирателей, с подозрением относящихся к избирательной системе.
Федеральные агентства, такие как CISA, сыграли значительную роль в борьбе с дезинформацией на прошлых выборах, в частности, посредством веб-страницы «Контроль над слухами», на которой в преддверии выборов 2020 года развенчивались различные теории заговора, связанные с выборами.
Однако ряд недавних судебных решений и активное давление со стороны республиканских членов Конгресса, утверждавших, что федеральное правительство не должно заниматься борьбой с дезинформацией, существенно ограничили возможности таких агентств, как CISA, по взаимодействию с операторами социальных сетей и координации действий с внешними сторонами по вопросам дезинформации.
Для агентства, основатель которого был уволен в 2020 году после того, как он дал отпор дезинформации, связанной с выборами, политические шрамы и негативные последствия продолжают ощущаться.
«Я не думаю, что у CISA есть желание или полномочия снова лезть в эти воды», — сказал Бут.
В январской статье, опубликованной в журнале Foreign Affairs, директор CISA Джен Истерли, старший советник по безопасности выборов Кейт Конли и государственный секретарь Канзаса Скотт Шваб написали, что, хотя федеральная поддержка необходима, «в значительной степени ответственность за противодействие этой угрозе ляжет на плечи должностных лиц избирательных комиссий штата и местных органов власти».
«Нам нужно разобраться с этим. У нас нет для этого возможностей, поэтому нам придётся рассчитывать на помощь от граждан», — сказал Салливан, призвав национальные партийные организации и федеральных законодателей решить эту проблему посредством обучения, предоставления ресурсов и принятия законодательства.
Извлеченные уроки
Хотя автодозвон из Нью-Гэмпшира был дезорганизован, Салливан считает, что государственные и местные власти могут извлечь уроки из этого инцидента и из того, как она и другие чиновники отреагировали на него. Хотя многие кампании уже используют группы быстрого реагирования для реагирования на срочные события, у этих групп должен быть план действий на случай появления фейковых или потенциально фейковых медиа, сказала Салливан.«Нужны люди, готовые действовать по первому требованию. Нужно быть готовым к обмену сообщениями, чтобы не тратить три часа на обдумывание того, что написать в этом взрывном письме», — утверждал Салливан.
В случае с Нью-Гэмпширом Салливан и другие партийные функционеры немедленно разослали электронные письма сторонникам, предупреждая их о поддельной аудиозаписи и призывая проголосовать на праймериз во вторник. Они также обратились в СМИ, чтобы добиться более широкого освещения инцидента.
Штатным юристам было поручено оперативно найти и связаться с соответствующими представителями правоохранительных органов и генеральной прокуратуры штата, чтобы сообщить о звонке. Салливан отметил, что наличие этих контактов сэкономило драгоценное время и способствовало оперативному объявлению в понедельник о том, что правоохранительные органы штата расследуют инцидент. Этого, возможно, не произошло бы, если бы они без предупреждения позвонили властям с заявлением о мошенничестве на выборах с использованием искусственного интеллекта.
Однако у небольших кампаний и избирательных комиссий может не хватать ресурсов для эффективного реагирования на подобные инциденты в режиме реального времени. И по мере того, как кампания 2024 года затягивается, менее известные политические кампании могут оказаться более лёгкой мишенью для дезинформации с помощью искусственного интеллекта, которую будет сложнее обнаружить в менее контролируемых гонках.
Хотя монотонный и роботизированный ритм автоответчика в Нью-Гэмпшире, возможно, не обманул избирателей, знакомых с манерой речи Байдена, десятилетиями освещавшейся в СМИ, их может легко обмануть дипфейк, изображающий менее известного кандидата, баллотирующегося на государственную должность. Если этот кандидат когда-либо выступал на публичном собрании или появлялся в телевизионном интервью, скорее всего, в открытом доступе достаточно аудио- и видеозаписей с его участием, чтобы создать убедительные дипфейки.
«Не знаю, смог ли бы кто-то это предотвратить, если бы у кого-то была такая возможность», — сказал Салливан. «Так как же нам лучше всего подготовиться?»
