По мере того, как автономные агенты всё чаще внедряются в организации, государственные структуры обращаются к технологиям на базе ИИ, чтобы подорвать нашу национальную безопасность и критически важные инфраструктуры. В результате современные службы безопасности должны уметь бороться с ИИ с помощью ИИ и понимать последствия применения этой технологии как с точки зрения обороны, так и нападения. Аналогичным образом, наши национальные оборонные системы должны быть способны мгновенно реагировать на эти новые угрозы, связанные с ИИ, чтобы гарантировать устойчивость.
Чтобы противостоять росту киберугроз, связанных с искусственным интеллектом, в начале этого года Объединенная группа по киберзащите (JCDC), действующая под эгидой Агентства по кибербезопасности и безопасности инфраструктуры Министерства внутренней безопасности США, опубликовала новый план действий в области ИИ для предоставления и обмена информацией о текущих угрозах безопасности, направленных на модели искусственного интеллекта. Этот план, известный как «JCDC AI Cybersecurity Collaborative Playbook», был разработан в результате двух настольных учений, проведенных в прошлом году с участием федеральных, отраслевых и международных партнеров.
Этот план действий — важный шаг в правильном направлении, соответствующий другим ключевым документам, таким как Закон о модернизации федеральной информационной безопасности 2023 года , и охватывающий такие ключевые аспекты, как раздел 14 об автоматизации и искусственном интеллекте и раздел 18 о федеральной кибербезопасности. Однако, поскольку отрасль продолжает анализировать и внедрять этот план действий, важно сделать шаг назад, чтобы лучше понять этот ресурс и обсудить некоторые необходимые дополнения для будущих версий. Давайте разберёмся.
План игры: понимание книги JCDC «Совместная работа по кибербезопасности с использованием искусственного интеллекта»
Руководство по ИИ призвано содействовать оперативному сотрудничеству между партнерами из государственного и частного секторов, при этом в течение года будут публиковаться регулярные обновления, поскольку ИИ продолжает развиваться и оказывать влияние на ландшафт угроз.
Но прежде чем вносить какие-либо изменения, необходимо ознакомиться с некоторыми из лучших практик, представленных в этом ресурсе, и внедрить их. На мой взгляд, наиболее значимыми элементами руководства CISA являются:
Поскольку государственный и частный секторы начинают внедрять некоторые рекомендации из руководства по ИИ, следующим шагом CISA и JCDC станет сбор отзывов от участников и внесение изменений или дополнений в следующую версию ресурса.
Непосредственная и критически важная возможность для улучшения кроется в протоколах синхронизации и обмена разведывательной информацией между Министерством внутренней безопасности и его федеральными партнёрами. Хотя Киберкомандование США и Федеральное бюро расследований являются ключевыми партнёрами в архитектуре киберзащиты нашей страны, исторически сложившиеся сроки обработки Министерством внутренней безопасности разведывательной информации о киберугрозах создавали оперативные трудности. Существующая система обработки информации о киберугрозах, поступающей от подразделений SLTT и коммерческих организаций, традиционно приводила к значительным задержкам в предоставлении отчётности ключевым федеральным партнёрам, часто достигающим недель или месяцев.
Задержка в распространении информации среди ключевых федеральных заинтересованных сторон может потенциально повлиять на возможности быстрого реагирования и скоординированные меры защиты. Оптимизация этих каналов обмена информацией при одновременном соблюдении соответствующих протоколов валидации и верификации представляет собой важнейшую область оптимизации системы.
Победа — в доверии: как построить доверие в эпоху искусственного интеллекта
Говорят, что ИИ открыл эру «не доверяй ничему». Сейчас, как никогда ранее, американцам необходимо знать, что наши цифровые системы созданы с учётом безопасности, и эта инструкция — яркое свидетельство этих усилий.
Основой доверия к кибербезопасности является последовательная и надежная обработка и распространение информации о киберугрозах. Исторически частный сектор и федеральное правительство сотрудничали друг с другом с осторожностью. Например, после инцидента с трубопроводом Colonial Pipeline в 2021 году многие частные компании выразили обеспокоенность по поводу передачи информации об инциденте федеральным агентствам, опасаясь последствий для регулирующих органов или раскрытия данных. Этот страх привел к сопротивлению обмену критически важной информацией, необходимой для борьбы с новыми киберугрозами и стоящими за ними лицами.
Успех «Пособия по сотрудничеству в области кибербезопасности ИИ» от JCDC зиждется на доверии. Хотя успех не придёт в одночасье, он потребует трёх основополагающих принципов, основанных на доверии: неукоснительного соблюдения установленных законом мер защиты, чётких протоколов обработки совместно используемых разведданных и создания безопасных каналов связи.
Что дальше?
Мы должны похвалить JCDC и CISA за проактивную позицию в вопросах ИИ и кибербезопасности. Эта стратегия продолжает служить шагом в правильном направлении для специалистов по защите информации как в частном, так и в государственном секторе. Но руководство — это всего лишь руководство. Мы, как лидеры отрасли, обязаны внедрять и выполнять элементы стратегии, а также делиться отзывами, чтобы со временем только укреплять будущие разработки.
Сэм Кинч — старший консультант по работе с клиентами в компании Tanium. Ранее он занимал должность директора группы технической безопасности Министерства внутренней безопасности и старшего руководителя при командующем Киберкомандования США.
Чтобы противостоять росту киберугроз, связанных с искусственным интеллектом, в начале этого года Объединенная группа по киберзащите (JCDC), действующая под эгидой Агентства по кибербезопасности и безопасности инфраструктуры Министерства внутренней безопасности США, опубликовала новый план действий в области ИИ для предоставления и обмена информацией о текущих угрозах безопасности, направленных на модели искусственного интеллекта. Этот план, известный как «JCDC AI Cybersecurity Collaborative Playbook», был разработан в результате двух настольных учений, проведенных в прошлом году с участием федеральных, отраслевых и международных партнеров.
Этот план действий — важный шаг в правильном направлении, соответствующий другим ключевым документам, таким как Закон о модернизации федеральной информационной безопасности 2023 года , и охватывающий такие ключевые аспекты, как раздел 14 об автоматизации и искусственном интеллекте и раздел 18 о федеральной кибербезопасности. Однако, поскольку отрасль продолжает анализировать и внедрять этот план действий, важно сделать шаг назад, чтобы лучше понять этот ресурс и обсудить некоторые необходимые дополнения для будущих версий. Давайте разберёмся.
План игры: понимание книги JCDC «Совместная работа по кибербезопасности с использованием искусственного интеллекта»
Руководство по ИИ призвано содействовать оперативному сотрудничеству между партнерами из государственного и частного секторов, при этом в течение года будут публиковаться регулярные обновления, поскольку ИИ продолжает развиваться и оказывать влияние на ландшафт угроз.
Но прежде чем вносить какие-либо изменения, необходимо ознакомиться с некоторыми из лучших практик, представленных в этом ресурсе, и внедрить их. На мой взгляд, наиболее значимыми элементами руководства CISA являются:
- Комплексный контрольный список для добровольного обмена информацией, охватывающий все этапы — от первоначального обнаружения до технического анализа. Этот контрольный список помогает выделить данные, имеющие практическое значение, для оптимизации процесса обмена информацией между CISA, JCDC и их партнерами. Это первый шаг к лучшему пониманию новых, возникающих угроз ИИ.
- Создание четких механизмов координации между федеральным, частным сектором и международными партнерами: улучшение координации имеет решающее значение для более эффективного обмена информацией и лучшего понимания сложной проблемы кибербезопасности. Эти новые механизмы координации между всеми заинтересованными сторонами значительно повысят эффективность реагирования на инциденты и устранения последствий.
- Практический акцент на оперативном сотрудничестве, а не просто на политических рекомендациях: хотя политические рекомендации имеют решающее значение, истинная эффективность стратегии заключается в сотрудничестве между различными заинтересованными сторонами. Обмениваясь информацией, выявляя угрозы и работая вместе над их устранением, отрасль может добиться гораздо большего, чем полагаясь исключительно на политические рекомендации.
- Расширение координации, позволяющее межведомственному сотрудничеству поддерживать нашу национальную оборону: межведомственное взаимодействие имеет основополагающее значение для национальной безопасности, особенно в условиях меняющегося ландшафта кибербезопасности. Государственные, местные, племенные и территориальные структуры (SLTT), наряду с коммерческими организациями, часто служат ранними индикаторами возникающих угроз, часто сталкиваясь со сложными атаками до того, как они достигнут федеральных систем.
Поскольку государственный и частный секторы начинают внедрять некоторые рекомендации из руководства по ИИ, следующим шагом CISA и JCDC станет сбор отзывов от участников и внесение изменений или дополнений в следующую версию ресурса.
Непосредственная и критически важная возможность для улучшения кроется в протоколах синхронизации и обмена разведывательной информацией между Министерством внутренней безопасности и его федеральными партнёрами. Хотя Киберкомандование США и Федеральное бюро расследований являются ключевыми партнёрами в архитектуре киберзащиты нашей страны, исторически сложившиеся сроки обработки Министерством внутренней безопасности разведывательной информации о киберугрозах создавали оперативные трудности. Существующая система обработки информации о киберугрозах, поступающей от подразделений SLTT и коммерческих организаций, традиционно приводила к значительным задержкам в предоставлении отчётности ключевым федеральным партнёрам, часто достигающим недель или месяцев.
Задержка в распространении информации среди ключевых федеральных заинтересованных сторон может потенциально повлиять на возможности быстрого реагирования и скоординированные меры защиты. Оптимизация этих каналов обмена информацией при одновременном соблюдении соответствующих протоколов валидации и верификации представляет собой важнейшую область оптимизации системы.
Победа — в доверии: как построить доверие в эпоху искусственного интеллекта
Говорят, что ИИ открыл эру «не доверяй ничему». Сейчас, как никогда ранее, американцам необходимо знать, что наши цифровые системы созданы с учётом безопасности, и эта инструкция — яркое свидетельство этих усилий.
Основой доверия к кибербезопасности является последовательная и надежная обработка и распространение информации о киберугрозах. Исторически частный сектор и федеральное правительство сотрудничали друг с другом с осторожностью. Например, после инцидента с трубопроводом Colonial Pipeline в 2021 году многие частные компании выразили обеспокоенность по поводу передачи информации об инциденте федеральным агентствам, опасаясь последствий для регулирующих органов или раскрытия данных. Этот страх привел к сопротивлению обмену критически важной информацией, необходимой для борьбы с новыми киберугрозами и стоящими за ними лицами.
Успех «Пособия по сотрудничеству в области кибербезопасности ИИ» от JCDC зиждется на доверии. Хотя успех не придёт в одночасье, он потребует трёх основополагающих принципов, основанных на доверии: неукоснительного соблюдения установленных законом мер защиты, чётких протоколов обработки совместно используемых разведданных и создания безопасных каналов связи.
Что дальше?
Мы должны похвалить JCDC и CISA за проактивную позицию в вопросах ИИ и кибербезопасности. Эта стратегия продолжает служить шагом в правильном направлении для специалистов по защите информации как в частном, так и в государственном секторе. Но руководство — это всего лишь руководство. Мы, как лидеры отрасли, обязаны внедрять и выполнять элементы стратегии, а также делиться отзывами, чтобы со временем только укреплять будущие разработки.
Сэм Кинч — старший консультант по работе с клиентами в компании Tanium. Ранее он занимал должность директора группы технической безопасности Министерства внутренней безопасности и старшего руководителя при командующем Киберкомандования США.
