Поскольку Агентство национальной безопасности США включает машинное обучение и искусственный интеллект в свои оборонительные кибероперации, должностные лица оценивают, будут ли кибероператоры доверять алгоритмам, лежащим в основе этих новых технологий.
Операторы АНБ хотят спросить: «Можно ли объяснить мою систему ИИ или МО?» — заявил в четверг CyberScoop Нил Зиринг, технический директор АНБ по возможностям. «Это будет особенно важно в ситуациях, когда ИИ рекомендует какое-либо действие».
Разведывательное агентство всё ещё изучает, как машинное обучение, автоматизированный метод анализа данных, может быть использовано для обнаружения угроз и защиты новых технологий Интернета вещей. Учитывая объём информации, с которой приходится работать сотрудникам агентства, машинное обучение может помочь в расстановке приоритетов в задачах и сокращении времени, затрачиваемого сотрудниками на сортировку. АНБ стремится использовать машинное обучение и искусственный интеллект , в рамках которого компьютеры принимают решения самостоятельно, для более эффективного предотвращения угроз и, в конечном итоге, использовать эти инструменты в возможных наступательных операциях через Киберкомандование.
Однако если сотрудники АНБ не доверяют протоколам искусственного интеллекта или машинного обучения, которые говорят им, что делать, любое развертывание может оказаться напрасным.
«Аналитики не будут доверять автоматическому оповещению, которое попадает к ним в руки, не понимая, как оно вообще там оказалось», — заявил Дэвид Хоуг из АНБ в своем выступлении на мероприятии McAfee этой весной.
Директор АНБ генерал Пол Накасоне в ходе слушаний в Конгрессе в марте заявил , что оказание помощи сотрудникам агентства в укреплении доверия к методам машинного обучения в АНБ является приоритетной задачей.
Хотя Накасонэ и заявил, что, по его мнению, искусственный интеллект первоначально будет использоваться в оборонительных операциях, он также предсказал, что ИИ может помочь американским хакерам находить уязвимости в сетях противников.
«В настоящее время развитие доступа является для нас наиболее трудоемким и трудным элементом разработки вариантов наступления», — сказал Накасонэ в недавнем интервью в Joint Forces Quarterly .
«Мы экспериментируем и разрабатываем «самовосстанавливающиеся сети», в которых мы видим уязвимость, быстро ее распознаем и устраняем или минимизируем», — пояснил Накасоне в своем интервью Joint Forces Quarterly.
Зиринг рассказал CyberScoop, что машинное обучение в конечном итоге может помочь снизить огромную нагрузку на каждого киберспециалиста агентства. Расставляя приоритеты, сотрудники АНБ могут уделять больше времени решению наиболее неотложных проблем.
«Нам понадобятся как минимум методы МО, чтобы выделить сигнал из шума, чтобы защитники и операторы могли быть в курсе [и] уделять свое время наиболее критическим событиям или аномалиям, а не пытаться вручную разобраться в этом огромном пространстве данных», — сказал Зиринг.
По данным C4ISRNET , Накасоне также заявил, что машинное обучение может помочь агентству решить проблему нехватки лингвистов .
Недавно АНБ подписало пятилетний контракт с Техасским университетом на проведение исследований в области машинного обучения. Программа, организованная в рамках Программы передачи технологий АНБ, может привести к «прорыву в разработке миссий», согласно обзору новых технологий, проведенному АНБ в агентстве .
По данным АНБ , основное внимание в контракте, Соглашении о совместных исследованиях и разработках, уделяется обнаружению аномалий, угрозам в высокопроизводительных вычислительных системах и Интернете вещей.
«Оператору непременно захочется узнать алгоритм», — сказал Зиринг, добавив, что сотрудники захотят узнать: «Какое наблюдение или набор наблюдений заставили вас рекомендовать это действие вместо другого?»
Ответ может заключаться в концепции «случайных лесов», добавил Зиринг. Идея основана на понятии «деревьев решений», которые классифицируют данные по наборам правил, которые можно использовать для последующего прогнозирования результатов. Алгоритм демонстрирует чёткую цепочку событий, что делает его более понятным для компьютерных специалистов, чем нейронные сети, основанные на активности человеческого мозга.
«Случайные леса обычно довольно объяснимы, — сказал он. — Можно вернуться к случайному лесу и сказать: „Я выбрал это действие, потому что мои весовые коэффициенты показали, что это событие действительно важно, и это привело к работе алгоритма“».
С другой стороны, нейронные сети «гораздо менее объяснимы», поскольку их результаты основаны на опыте, сказал Зиринг. Это различие важно для операторов АНБ: прозрачность системы ИИ для операторов АНБ может повлиять на то, какие типы ИИ АНБ будет использовать для проведения своих операций, считает Зиринг.
«Это сформирует или повлияет на ваш выбор вариантов реализации», — сказал он.
Операторы АНБ хотят спросить: «Можно ли объяснить мою систему ИИ или МО?» — заявил в четверг CyberScoop Нил Зиринг, технический директор АНБ по возможностям. «Это будет особенно важно в ситуациях, когда ИИ рекомендует какое-либо действие».
Разведывательное агентство всё ещё изучает, как машинное обучение, автоматизированный метод анализа данных, может быть использовано для обнаружения угроз и защиты новых технологий Интернета вещей. Учитывая объём информации, с которой приходится работать сотрудникам агентства, машинное обучение может помочь в расстановке приоритетов в задачах и сокращении времени, затрачиваемого сотрудниками на сортировку. АНБ стремится использовать машинное обучение и искусственный интеллект , в рамках которого компьютеры принимают решения самостоятельно, для более эффективного предотвращения угроз и, в конечном итоге, использовать эти инструменты в возможных наступательных операциях через Киберкомандование.
Однако если сотрудники АНБ не доверяют протоколам искусственного интеллекта или машинного обучения, которые говорят им, что делать, любое развертывание может оказаться напрасным.
«Аналитики не будут доверять автоматическому оповещению, которое попадает к ним в руки, не понимая, как оно вообще там оказалось», — заявил Дэвид Хоуг из АНБ в своем выступлении на мероприятии McAfee этой весной.
Директор АНБ генерал Пол Накасоне в ходе слушаний в Конгрессе в марте заявил , что оказание помощи сотрудникам агентства в укреплении доверия к методам машинного обучения в АНБ является приоритетной задачей.
Хотя Накасонэ и заявил, что, по его мнению, искусственный интеллект первоначально будет использоваться в оборонительных операциях, он также предсказал, что ИИ может помочь американским хакерам находить уязвимости в сетях противников.
«В настоящее время развитие доступа является для нас наиболее трудоемким и трудным элементом разработки вариантов наступления», — сказал Накасонэ в недавнем интервью в Joint Forces Quarterly .
Что АНБ думает об ИИ сегодня
В настоящее время АНБ изучает возможность использования искусственного интеллекта для обнаружения уязвимостей.«Мы экспериментируем и разрабатываем «самовосстанавливающиеся сети», в которых мы видим уязвимость, быстро ее распознаем и устраняем или минимизируем», — пояснил Накасоне в своем интервью Joint Forces Quarterly.
Зиринг рассказал CyberScoop, что машинное обучение в конечном итоге может помочь снизить огромную нагрузку на каждого киберспециалиста агентства. Расставляя приоритеты, сотрудники АНБ могут уделять больше времени решению наиболее неотложных проблем.
«Нам понадобятся как минимум методы МО, чтобы выделить сигнал из шума, чтобы защитники и операторы могли быть в курсе [и] уделять свое время наиболее критическим событиям или аномалиям, а не пытаться вручную разобраться в этом огромном пространстве данных», — сказал Зиринг.
По данным C4ISRNET , Накасоне также заявил, что машинное обучение может помочь агентству решить проблему нехватки лингвистов .
Недавно АНБ подписало пятилетний контракт с Техасским университетом на проведение исследований в области машинного обучения. Программа, организованная в рамках Программы передачи технологий АНБ, может привести к «прорыву в разработке миссий», согласно обзору новых технологий, проведенному АНБ в агентстве .
По данным АНБ , основное внимание в контракте, Соглашении о совместных исследованиях и разработках, уделяется обнаружению аномалий, угрозам в высокопроизводительных вычислительных системах и Интернете вещей.
Контекст влияет на решения
Аналитикам, возможно, захочется проверить процессы принятия решений искусственным интеллектом, которые рекомендуют одно действие вместо другого, заявил Зиринг из АНБ в четверг на мероприятии Nutanix, организованном FedScoop.«Оператору непременно захочется узнать алгоритм», — сказал Зиринг, добавив, что сотрудники захотят узнать: «Какое наблюдение или набор наблюдений заставили вас рекомендовать это действие вместо другого?»
Ответ может заключаться в концепции «случайных лесов», добавил Зиринг. Идея основана на понятии «деревьев решений», которые классифицируют данные по наборам правил, которые можно использовать для последующего прогнозирования результатов. Алгоритм демонстрирует чёткую цепочку событий, что делает его более понятным для компьютерных специалистов, чем нейронные сети, основанные на активности человеческого мозга.
«Случайные леса обычно довольно объяснимы, — сказал он. — Можно вернуться к случайному лесу и сказать: „Я выбрал это действие, потому что мои весовые коэффициенты показали, что это событие действительно важно, и это привело к работе алгоритма“».
С другой стороны, нейронные сети «гораздо менее объяснимы», поскольку их результаты основаны на опыте, сказал Зиринг. Это различие важно для операторов АНБ: прозрачность системы ИИ для операторов АНБ может повлиять на то, какие типы ИИ АНБ будет использовать для проведения своих операций, считает Зиринг.
«Это сформирует или повлияет на ваш выбор вариантов реализации», — сказал он.
