Вто время как большие языковые модели и другие инструменты искусственного интеллекта получили все более широкое распространение, исследователи по-прежнему расходятся во мнениях относительно того, дадут ли мощные инструменты ИИ преимущество злоумышленникам или защитникам в киберпространстве.
По словам двух американских чиновников, находящихся на передовой защиты американских компьютерных систем, на данный момент ИИ дает преимущество защищающейся стороне — по крайней мере, пока.
«Сейчас, вероятно, преимуществ для кибербезопасности от использования ИИ больше, чем угроз со стороны наших противников, использующих его. Но это шаткое равновесие, и мы в ФБР не принимаем его как должное», — заявила во вторник Синтия Кайзер, заместитель помощника директора киберотдела ФБР, выступая на саммите Trellix Cybersecurity.
Исследователи предупреждают, что генеративный ИИ может быть полезен злоумышленникам для обнаружения уязвимостей и автоматического написания кода, эксплуатирующего их. Однако Кайзер выделил ряд способов, с помощью которых эта технология используется защитниками для повышения эффективности, включая обнаружение вредоносной активности в сетях жертв, поиск и реагирование на инциденты, разработку программного обеспечения и другие виды деятельности.
Роб Сильверс, заместитель министра внутренней безопасности по стратегии, политике и планированию, во вторник поддержал эту точку зрения. Сильверс отметил, что на сегодняшний день он наблюдает, как специалисты по кибербезопасности используют генеративный ИИ эффективнее, чем злоумышленники.
Сильверс предупредил, что «ещё не решено», принесёт ли ИИ «чистую выгоду нападающим или обороняющимся». Но, по его мнению, пока преимущество сохраняется за обороняющимися. «На данный момент я видел больше реальных примеров использования ИИ в обороне, чем реальных примеров его использования в нападении», — сказал Сильверс.
Похоже, что высокоэффективные хакерские группы экспериментируют с использованием ИИ, но исследователи не увидели никаких доказательств того, что это приносит какую-либо существенную пользу.
В отчете, опубликованном в этом месяце компаниями Microsoft и OpenAI, говорится , что, хотя продвинутые хакерские группы из Китая, России, Ирана и Северной Кореи экспериментируют с большими языковыми моделями в своих хакерских операциях, до сих пор им удалось добиться лишь скромного их применения.
Снова сделайте атрибуцию сложной
Кайзер и Сильверс предупредили, что такое положение дел может не сохраниться в долгосрочной перспективе и что защитники в федеральном правительстве и отрасли не могут позволить себе почивать на лаврах.
Долгие годы в кибербезопасности звучала мысль о том, что «атрибуция — это сложно» , отражая сложность установления связи между конкретной кибероперацией или вредоносным ПО и его владельцем. Но в последние годы правительство и промышленность добились значительных успехов в этой области, поскольку разведывательные службы научились объединять собственные конфиденциальные разведданные с более обширной информацией об угрозах, полученной от динамично развивающегося частного сектора, чтобы раскрывать и раскрывать взломы, осуществляемые иностранными государствами и другими злоумышленниками.
По словам Кайзера, маятник снова начинает качнуться в сторону ситуации, в которой иностранным хакерским группам становится легче скрывать свое присутствие в сетях жертв и скрывать свое происхождение.
В качестве примера она привела деятельность Volt Typhoon, хакерской группы, связанной с Китаем, которая активно атаковала критически важную инфраструктуру США. Кайзер отметила, что китайские киберпреступники используют методы «выживая за счёт земли» и запутывания, чтобы «оставаться незамеченными и продолжать скрываться в наших системах, выжидая подходящего момента для нанесения разрушительных ударов».
Возможно, генеративный ИИ пока не полностью меняет ситуацию в сфере кибербезопасности, но Кайзер отметил, что он упрощает и делает более эффективным для хакеров, работающих от имени иностранных правительств, таких как Китай, Россия, Иран и Северная Корея, выбор и компрометацию жертв.
По словам двух американских чиновников, находящихся на передовой защиты американских компьютерных систем, на данный момент ИИ дает преимущество защищающейся стороне — по крайней мере, пока.
«Сейчас, вероятно, преимуществ для кибербезопасности от использования ИИ больше, чем угроз со стороны наших противников, использующих его. Но это шаткое равновесие, и мы в ФБР не принимаем его как должное», — заявила во вторник Синтия Кайзер, заместитель помощника директора киберотдела ФБР, выступая на саммите Trellix Cybersecurity.
Исследователи предупреждают, что генеративный ИИ может быть полезен злоумышленникам для обнаружения уязвимостей и автоматического написания кода, эксплуатирующего их. Однако Кайзер выделил ряд способов, с помощью которых эта технология используется защитниками для повышения эффективности, включая обнаружение вредоносной активности в сетях жертв, поиск и реагирование на инциденты, разработку программного обеспечения и другие виды деятельности.
Роб Сильверс, заместитель министра внутренней безопасности по стратегии, политике и планированию, во вторник поддержал эту точку зрения. Сильверс отметил, что на сегодняшний день он наблюдает, как специалисты по кибербезопасности используют генеративный ИИ эффективнее, чем злоумышленники.
Сильверс предупредил, что «ещё не решено», принесёт ли ИИ «чистую выгоду нападающим или обороняющимся». Но, по его мнению, пока преимущество сохраняется за обороняющимися. «На данный момент я видел больше реальных примеров использования ИИ в обороне, чем реальных примеров его использования в нападении», — сказал Сильверс.
Похоже, что высокоэффективные хакерские группы экспериментируют с использованием ИИ, но исследователи не увидели никаких доказательств того, что это приносит какую-либо существенную пользу.
В отчете, опубликованном в этом месяце компаниями Microsoft и OpenAI, говорится , что, хотя продвинутые хакерские группы из Китая, России, Ирана и Северной Кореи экспериментируют с большими языковыми моделями в своих хакерских операциях, до сих пор им удалось добиться лишь скромного их применения.
Снова сделайте атрибуцию сложной
Кайзер и Сильверс предупредили, что такое положение дел может не сохраниться в долгосрочной перспективе и что защитники в федеральном правительстве и отрасли не могут позволить себе почивать на лаврах.
Долгие годы в кибербезопасности звучала мысль о том, что «атрибуция — это сложно» , отражая сложность установления связи между конкретной кибероперацией или вредоносным ПО и его владельцем. Но в последние годы правительство и промышленность добились значительных успехов в этой области, поскольку разведывательные службы научились объединять собственные конфиденциальные разведданные с более обширной информацией об угрозах, полученной от динамично развивающегося частного сектора, чтобы раскрывать и раскрывать взломы, осуществляемые иностранными государствами и другими злоумышленниками.
По словам Кайзера, маятник снова начинает качнуться в сторону ситуации, в которой иностранным хакерским группам становится легче скрывать свое присутствие в сетях жертв и скрывать свое происхождение.
В качестве примера она привела деятельность Volt Typhoon, хакерской группы, связанной с Китаем, которая активно атаковала критически важную инфраструктуру США. Кайзер отметила, что китайские киберпреступники используют методы «выживая за счёт земли» и запутывания, чтобы «оставаться незамеченными и продолжать скрываться в наших системах, выжидая подходящего момента для нанесения разрушительных ударов».
Возможно, генеративный ИИ пока не полностью меняет ситуацию в сфере кибербезопасности, но Кайзер отметил, что он упрощает и делает более эффективным для хакеров, работающих от имени иностранных правительств, таких как Китай, Россия, Иран и Северная Корея, выбор и компрометацию жертв.
