Когда Amazon Web Services развёртывает тысячи новых цифровых датчиков по всему миру, компания часто сталкивается с безжалостной правдой интернета: в течение нескольких минут датчики подвергаются проверке, сканированию и атакам. Однако, используя большие языковые модели, компания превращает эти мгновенные атаки в действенную аналитику безопасности для своего широкого спектра облачных сервисов.
По словам Стивена Шмидта, директора по безопасности Amazon, подобные примеры демонстрируют, как ИИ открывает возможности, недоступные ранее. Выступая на саммите AWS во вторник, Шмидт привёл этот пример, чтобы проиллюстрировать, как ИИ фундаментально меняет подход AWS к безопасности, особенно в таких областях, как анализ безопасности приложений и реагирование на инциденты.
«Искусственный интеллект позволяет инженерам гораздо проще задавать вопросы о том, что происходит с этими данными, чем без него. Они могут задавать вопросы, например: «Найдите мне все примеры ситуаций, когда кто-то пытался взломать эту конкретную версию этой конкретной базы данных, используя IP-адреса, связанные с VPN, которые обычно используются этим конкретным злоумышленником», — сказал он CyberScoop. «Без него это невозможно, а инструментарий позволяет им исследовать вещи гораздо глубже».
Эта технология позволяет проводить более последовательную и эффективную оценку безопасности, особенно для молодых инженеров, у которых может не быть большого опыта.
Обучая большие языковые модели на основе предыдущих проверок безопасности, организации могут эффективно передавать знания от ведущих специалистов по безопасности новым членам команды. Такой подход повышает общий стандарт безопасности за счёт непосредственного внедрения экспертных знаний организации в процессы проверок, основанные на ИИ.
«У младшего инженера может не быть всех знаний, опыта и опыта, которыми обладают старшие инженеры», — сказал он. «Обучение наших больших языковых моделей внутри компании на основе предыдущих обзоров безопасности позволяет нам применять знания и опыт, которые наши старшие сотрудники заложили в документы, которыми мы все владеем и по которым обучались, к младшему персоналу. Таким образом, это действительно поднимает планку абсолютного уровня безопасности».
Сфера кибербезопасности сталкивается с постоянной нехваткой персонала, и ИИ может помочь решить эту проблему. Шмидт отметил, что инструменты ИИ способны справиться со значительной «тяжелой работой», ранее выполнявшейся вручную, позволяя сотрудникам службы безопасности сосредоточиться на более сложных задачах.
Шмидт особо подчеркнул недетерминированную природу систем ИИ, то есть одинаковые запросы могут приводить к разным ответам. Он указал на это как на причину, по которой люди по-прежнему должны участвовать в принятии решений на основе результатов модели.
«Мы рассматриваем это так: если вы просто задаёте вопрос и получаете ответ, это один из видов проверки, который вы должны провести над системой», — сказал он. «Но если вы собираетесь предпринять действие, чтобы что-то заблокировать, предотвратить какое-либо событие, вы должны быть абсолютно уверены в его правильности. Поэтому в конце процесса использования ИИ должен быть квалифицированный специалист, который скажет: „Да, это правильное решение в данный момент времени и в данном контексте“».
Именно необходимость участия человека в этом процессе объясняет, почему Шмидт считает, что ИИ не вытеснит должности начального или младшего уровня, даже если технологии продолжат совершенствоваться. Он отметил, что разговоры о замене младших инженеров ИИ коренятся в « неясных предположениях» (FUD ), и ожидает, что модели будут повышать уровень квалификации быстрее, чем когда-либо прежде.
«Не думаю, что это произойдёт», — сказал он о замене человеком работы по обеспечению безопасности искусственным интеллектом. «В безопасности есть и хорошее, и сложное дело: она никогда не бывает идеальной, и никогда не бывает всё законченной. Поэтому у нас всегда есть возможность поднять планку, используя инструменты, которые позволяют нам быстрее вводить младших инженеров в курс дела и лучше понимать, почему старшие инженеры принимают решения. Это означает, что у нас есть эта золотая середина из действительно хороших сотрудников, и мы можем работать с ней гораздо быстрее, чем могли бы».
По словам Стивена Шмидта, директора по безопасности Amazon, подобные примеры демонстрируют, как ИИ открывает возможности, недоступные ранее. Выступая на саммите AWS во вторник, Шмидт привёл этот пример, чтобы проиллюстрировать, как ИИ фундаментально меняет подход AWS к безопасности, особенно в таких областях, как анализ безопасности приложений и реагирование на инциденты.
«Искусственный интеллект позволяет инженерам гораздо проще задавать вопросы о том, что происходит с этими данными, чем без него. Они могут задавать вопросы, например: «Найдите мне все примеры ситуаций, когда кто-то пытался взломать эту конкретную версию этой конкретной базы данных, используя IP-адреса, связанные с VPN, которые обычно используются этим конкретным злоумышленником», — сказал он CyberScoop. «Без него это невозможно, а инструментарий позволяет им исследовать вещи гораздо глубже».
Эта технология позволяет проводить более последовательную и эффективную оценку безопасности, особенно для молодых инженеров, у которых может не быть большого опыта.
Обучая большие языковые модели на основе предыдущих проверок безопасности, организации могут эффективно передавать знания от ведущих специалистов по безопасности новым членам команды. Такой подход повышает общий стандарт безопасности за счёт непосредственного внедрения экспертных знаний организации в процессы проверок, основанные на ИИ.
«У младшего инженера может не быть всех знаний, опыта и опыта, которыми обладают старшие инженеры», — сказал он. «Обучение наших больших языковых моделей внутри компании на основе предыдущих обзоров безопасности позволяет нам применять знания и опыт, которые наши старшие сотрудники заложили в документы, которыми мы все владеем и по которым обучались, к младшему персоналу. Таким образом, это действительно поднимает планку абсолютного уровня безопасности».
Сфера кибербезопасности сталкивается с постоянной нехваткой персонала, и ИИ может помочь решить эту проблему. Шмидт отметил, что инструменты ИИ способны справиться со значительной «тяжелой работой», ранее выполнявшейся вручную, позволяя сотрудникам службы безопасности сосредоточиться на более сложных задачах.
Шмидт особо подчеркнул недетерминированную природу систем ИИ, то есть одинаковые запросы могут приводить к разным ответам. Он указал на это как на причину, по которой люди по-прежнему должны участвовать в принятии решений на основе результатов модели.
«Мы рассматриваем это так: если вы просто задаёте вопрос и получаете ответ, это один из видов проверки, который вы должны провести над системой», — сказал он. «Но если вы собираетесь предпринять действие, чтобы что-то заблокировать, предотвратить какое-либо событие, вы должны быть абсолютно уверены в его правильности. Поэтому в конце процесса использования ИИ должен быть квалифицированный специалист, который скажет: „Да, это правильное решение в данный момент времени и в данном контексте“».
Именно необходимость участия человека в этом процессе объясняет, почему Шмидт считает, что ИИ не вытеснит должности начального или младшего уровня, даже если технологии продолжат совершенствоваться. Он отметил, что разговоры о замене младших инженеров ИИ коренятся в « неясных предположениях» (FUD ), и ожидает, что модели будут повышать уровень квалификации быстрее, чем когда-либо прежде.
«Не думаю, что это произойдёт», — сказал он о замене человеком работы по обеспечению безопасности искусственным интеллектом. «В безопасности есть и хорошее, и сложное дело: она никогда не бывает идеальной, и никогда не бывает всё законченной. Поэтому у нас всегда есть возможность поднять планку, используя инструменты, которые позволяют нам быстрее вводить младших инженеров в курс дела и лучше понимать, почему старшие инженеры принимают решения. Это означает, что у нас есть эта золотая середина из действительно хороших сотрудников, и мы можем работать с ней гораздо быстрее, чем могли бы».
