Google создала помощника по кибербезопасности для специалистов по информационной безопасности, и теперь компания ищет исследователей, которые поэкспериментируют с ним.
Sec Gemini V1 — это новая модель рассуждений на основе ИИ для кибербезопасности, которую Google представила на прошлой неделе в экспериментальном порядке. Она разработана как ИИ-помощник для специалистов по безопасности, способный выполнять анализ данных и другие низкоуровневые задачи, лежащие в основе современных исследований кибербезопасности и уязвимостей.
Концепция «ИИ-агента как помощника по кибербезопасности» была одним из первых вариантов использования, задуманных специалистами по безопасности, когда в 2022 году на рынке впервые появились программы магистратуры права, такие как ChatGPT. Поскольку исследователям приходится анализировать огромные объемы данных для выполнения своей работы, инструмент или агент, способный быстро классифицировать и организовывать такую информацию для более высокого уровня анализа, рассматривался как одно из наиболее осуществимых дополнительных преимуществ этой технологии.
Марианна Тищенко, менеджер по группе продуктов Sec Gemini, рассказала CyberScoop, что целью создания инструмента было помочь сотрудникам службы безопасности справиться с этой рутинной работой, которая может быть «довольно трудоемкой, ручной и утомительной».
«И мы видим возможность повысить эффективность и результативность рабочих процессов, которые используют правозащитники для обеспечения безопасности своих организаций», — сказал Тищенко .
Ответы SecGemini частично получены в результате анализа множества уникальных потоков данных или продуктов Google, включая аналитику угроз Mandiant и базу данных уязвимостей с открытым исходным кодом.
По данным Google, Sec Gemini превосходит другие модели OpenAI, Anthropic, DeepSeek и Mistral AI по таким показателям, как CTI-MCQ — анкета с несколькими вариантами ответов, которая оценивает понимание инструментом генеративного ИИ стандартов аналитики угроз, угроз, стратегий обнаружения, планов смягчения последствий и передовых практик.
Он также превосходит многие из этих же моделей по показателям для картирования первопричин, которое оценивает способность LLM понимать нюансы в описаниях уязвимостей, отмечать первопричины уязвимостей и классифицировать их.
Однако Google делает ставку на то, что исследователи безопасности лучше поймут, как использовать Sec Gemini в своей работе, и найдут еще больше вариантов его использования.
Согласно метаисследованию 2024 года , в котором было проанализировано 127 различных статей инженеров по безопасности и программного обеспечения об использовании программ магистратуры (LLM) для обеспечения безопасности, специалисты по кибербезопасности уже используют эти инструменты для решения широкого спектра задач, таких как обнаружение уязвимостей, анализ вредоносного ПО, обнаружение сетевых вторжений и фишинга. Существует также потенциал для более высокоуровневого применения, например, для проактивной защиты и поиска угроз.
Элль Бурштейн, руководитель исследований безопасности и борьбы со злоупотреблениями в Google, заявила, что, поскольку Sec Gemini постоянно получает обновленную информацию об угрозах от Google, она может предоставлять актуальные ответы по вопросам безопасности «практически в режиме реального времени», учитывая, например, был ли обновлен CVE для уязвимости программного обеспечения в последние несколько дней с помощью нового патча.
На вопрос, предполагает ли Google, что Sec Gemini будет использоваться сотрудниками службы кибербезопасности во время активного реагирования на инциденты, Бурштейн ответил: «Нам так же, как и вам, любопытно это узнать».
«Мы стремимся извлечь уроки и поделиться ими», — сказал Бурштейн. «Мы просто не узнаем, пока не попробуем».
После этого Google будет совершенствовать и дорабатывать модель для дальнейшей поддержки выявленных вариантов использования.
«Мы пытаемся выяснить с помощью исследований: если мы откроем его для группы людей, которым он нужен, и они им воспользуются, как они будут его использовать?» — сказал Бурштейн. «Работает ли он для них? Насколько он хорош? Бывают ли случаи неудач?»
SecGemini предоставляется бесплатно, но первоначально доступ к нему будет ограничен избранной группой организаций, которые будут экспериментировать с моделью и тестировать её в рамках собственной работы в сфере кибербезопасности. Тищенко заявил, что Google будет сотрудничать с неправительственными и академическими организациями для тестирования инструмента в некоммерческих исследовательских целях. Бурштейн отметил, что первоначальная группа организаций, которым будет предоставлен доступ, вероятно, будет насчитывать десятки.
Нахождение реальных вариантов использования, в которых Sec Gemini сможет справиться со значимыми рабочими нагрузками по сбору и анализу данных, станет важным показателем актуальности инструмента, особенно в условиях, когда более широкий бум генеративного ИИ с трудом воплощает свои обещания в производительность.
Кейси Эллис, главный технический директор BugCrowd, рассказал CyberScoop, что результаты сравнительного тестирования Sec Gemini свидетельствуют о его способности обрабатывать сложные рабочие процессы, а объединение Google данных об угрозах Mandiant и его базы данных уязвимостей с открытым исходным кодом может «значительно сократить время, которое аналитики тратят на объединение разрозненных источников данных».
Эллис, который еще в 2022 году заявил, что степени магистра права будут наиболее полезны для программ вознаграждения за ошибки и исследования уязвимостей, также одобрил решение Google открыть Sec Gemini для тестировщиков кибербезопасности на ранних стадиях.
«Это разумный шаг — собрать отзывы и предложения по улучшению, одновременно укрепляя доверие в сообществе кибербезопасности», — сказал он.
Однако Эллис предупредил, что некоторые организации могут в конечном итоге начать использовать инструменты, подобные Sec Gemini, для замены работы своих сотрудников службы безопасности, а не для ее дополнения.
«Компаниям, внедряющим эту модель, следует рассматривать её как средство повышения эффективности своих существующих команд и процессов, а не как замену им», — сказал Эллис. «Настоящая ценность заключается в сочетании возможностей модели с человеческим опытом, чтобы опережать возникающие угрозы».
Как и любая крупная языковая модель, Sec Gemini подвержена риску искажения фактов или цитат. Бурштейн рассказал CyberScoop, что один из способов, с помощью которых Google пытается смягчить эти проблемы с Sec Gemini, — это постоянное обучение системы на «очень точных данных» из базы данных Google об угрозах и других источников данных. Компания также «очень, очень строго» контролирует качество данных.
«Нет какого-то одного волшебного приёма, — сказал он. — Нужно множество мер, методов и усилий, чтобы всё работало».
Sec Gemini V1 — это новая модель рассуждений на основе ИИ для кибербезопасности, которую Google представила на прошлой неделе в экспериментальном порядке. Она разработана как ИИ-помощник для специалистов по безопасности, способный выполнять анализ данных и другие низкоуровневые задачи, лежащие в основе современных исследований кибербезопасности и уязвимостей.
Концепция «ИИ-агента как помощника по кибербезопасности» была одним из первых вариантов использования, задуманных специалистами по безопасности, когда в 2022 году на рынке впервые появились программы магистратуры права, такие как ChatGPT. Поскольку исследователям приходится анализировать огромные объемы данных для выполнения своей работы, инструмент или агент, способный быстро классифицировать и организовывать такую информацию для более высокого уровня анализа, рассматривался как одно из наиболее осуществимых дополнительных преимуществ этой технологии.
Марианна Тищенко, менеджер по группе продуктов Sec Gemini, рассказала CyberScoop, что целью создания инструмента было помочь сотрудникам службы безопасности справиться с этой рутинной работой, которая может быть «довольно трудоемкой, ручной и утомительной».
«И мы видим возможность повысить эффективность и результативность рабочих процессов, которые используют правозащитники для обеспечения безопасности своих организаций», — сказал Тищенко .
Ответы SecGemini частично получены в результате анализа множества уникальных потоков данных или продуктов Google, включая аналитику угроз Mandiant и базу данных уязвимостей с открытым исходным кодом.
По данным Google, Sec Gemini превосходит другие модели OpenAI, Anthropic, DeepSeek и Mistral AI по таким показателям, как CTI-MCQ — анкета с несколькими вариантами ответов, которая оценивает понимание инструментом генеративного ИИ стандартов аналитики угроз, угроз, стратегий обнаружения, планов смягчения последствий и передовых практик.
Он также превосходит многие из этих же моделей по показателям для картирования первопричин, которое оценивает способность LLM понимать нюансы в описаниях уязвимостей, отмечать первопричины уязвимостей и классифицировать их.
Однако Google делает ставку на то, что исследователи безопасности лучше поймут, как использовать Sec Gemini в своей работе, и найдут еще больше вариантов его использования.
Согласно метаисследованию 2024 года , в котором было проанализировано 127 различных статей инженеров по безопасности и программного обеспечения об использовании программ магистратуры (LLM) для обеспечения безопасности, специалисты по кибербезопасности уже используют эти инструменты для решения широкого спектра задач, таких как обнаружение уязвимостей, анализ вредоносного ПО, обнаружение сетевых вторжений и фишинга. Существует также потенциал для более высокоуровневого применения, например, для проактивной защиты и поиска угроз.
Элль Бурштейн, руководитель исследований безопасности и борьбы со злоупотреблениями в Google, заявила, что, поскольку Sec Gemini постоянно получает обновленную информацию об угрозах от Google, она может предоставлять актуальные ответы по вопросам безопасности «практически в режиме реального времени», учитывая, например, был ли обновлен CVE для уязвимости программного обеспечения в последние несколько дней с помощью нового патча.
На вопрос, предполагает ли Google, что Sec Gemini будет использоваться сотрудниками службы кибербезопасности во время активного реагирования на инциденты, Бурштейн ответил: «Нам так же, как и вам, любопытно это узнать».
«Мы стремимся извлечь уроки и поделиться ими», — сказал Бурштейн. «Мы просто не узнаем, пока не попробуем».
После этого Google будет совершенствовать и дорабатывать модель для дальнейшей поддержки выявленных вариантов использования.
«Мы пытаемся выяснить с помощью исследований: если мы откроем его для группы людей, которым он нужен, и они им воспользуются, как они будут его использовать?» — сказал Бурштейн. «Работает ли он для них? Насколько он хорош? Бывают ли случаи неудач?»
SecGemini предоставляется бесплатно, но первоначально доступ к нему будет ограничен избранной группой организаций, которые будут экспериментировать с моделью и тестировать её в рамках собственной работы в сфере кибербезопасности. Тищенко заявил, что Google будет сотрудничать с неправительственными и академическими организациями для тестирования инструмента в некоммерческих исследовательских целях. Бурштейн отметил, что первоначальная группа организаций, которым будет предоставлен доступ, вероятно, будет насчитывать десятки.
Нахождение реальных вариантов использования, в которых Sec Gemini сможет справиться со значимыми рабочими нагрузками по сбору и анализу данных, станет важным показателем актуальности инструмента, особенно в условиях, когда более широкий бум генеративного ИИ с трудом воплощает свои обещания в производительность.
Кейси Эллис, главный технический директор BugCrowd, рассказал CyberScoop, что результаты сравнительного тестирования Sec Gemini свидетельствуют о его способности обрабатывать сложные рабочие процессы, а объединение Google данных об угрозах Mandiant и его базы данных уязвимостей с открытым исходным кодом может «значительно сократить время, которое аналитики тратят на объединение разрозненных источников данных».
Эллис, который еще в 2022 году заявил, что степени магистра права будут наиболее полезны для программ вознаграждения за ошибки и исследования уязвимостей, также одобрил решение Google открыть Sec Gemini для тестировщиков кибербезопасности на ранних стадиях.
«Это разумный шаг — собрать отзывы и предложения по улучшению, одновременно укрепляя доверие в сообществе кибербезопасности», — сказал он.
Однако Эллис предупредил, что некоторые организации могут в конечном итоге начать использовать инструменты, подобные Sec Gemini, для замены работы своих сотрудников службы безопасности, а не для ее дополнения.
«Компаниям, внедряющим эту модель, следует рассматривать её как средство повышения эффективности своих существующих команд и процессов, а не как замену им», — сказал Эллис. «Настоящая ценность заключается в сочетании возможностей модели с человеческим опытом, чтобы опережать возникающие угрозы».
Как и любая крупная языковая модель, Sec Gemini подвержена риску искажения фактов или цитат. Бурштейн рассказал CyberScoop, что один из способов, с помощью которых Google пытается смягчить эти проблемы с Sec Gemini, — это постоянное обучение системы на «очень точных данных» из базы данных Google об угрозах и других источников данных. Компания также «очень, очень строго» контролирует качество данных.
«Нет какого-то одного волшебного приёма, — сказал он. — Нужно множество мер, методов и усилий, чтобы всё работало».
