Компания Microsoft выявила граждан Ирана, Китая, Вьетнама и Великобритании в качестве основных участников предполагаемой международной схемы по захвату и продаже учетных записей Microsoft, которая позволяет обходить правила безопасности для инструментов генеративного ИИ.
В декабре Microsoft обратилась в суд Вирджинии с ходатайством об изъятии инфраструктуры и программного обеспечения у десяти неназванных лиц, которые, по утверждению компании, организовали хакерскую операцию, используя украденные ключи API Microsoft для продажи доступа к учётным записям Azure OpenAI зарубежным компаниям. Эти учётные записи затем использовались для создания «вредоносного контента», включая тысячи изображений, нарушающих правила безопасности Microsoft и OpenAI.
Ранее компания Microsoft заявляла, что не знает имен или личностей этих 10 человек, а также места их проживания, идентифицируя их только по конкретным веб-сайтам и инструментам, которые они использовали, и утверждая, что по крайней мере трое из них, по всей видимости, являются поставщиками услуг, проживающими за пределами США.
В исправленной жалобе , опубликованной в четверг, компания назвала четырех человек — Ариана Ядегарнию (он же «Физ») из Ирана, Рики Юэня (он же «cg-dot») из Гонконга, Фат Фунг Тана (он же «Асакури») из Вьетнама и Алана Крысяка (он же «Драго») из Великобритании — как ключевых игроков «в центре глобальной сети киберпреступности», которую Microsoft отслеживает как Storm-2139.
Организационная структура Storm 2319 (Источник: Microsoft)
Microsoft также заявила, что идентифицировала одного участника в Иллинойсе и ещё одного во Флориде как участников схемы, но отказалась назвать их имена, «чтобы не мешать потенциальным уголовным расследованиям». Компания заявила, что готовит уголовные дела для передачи представителям правоохранительных органов США и других стран.
Компания не уточнила, каким образом созданные изображения нарушают правила безопасности, но Стивен Масада, помощник главного юрисконсульта отдела цифровых преступлений Microsoft, указал в сообщении в блоге, что по крайней мере некоторые из них представляли собой попытки создания ложных образов знаменитостей и общественных деятелей.
«Мы не будем называть конкретных знаменитостей, чтобы сохранить их личности в тайне, и исключили из наших заявок синтетические изображения и подсказки, чтобы предотвратить дальнейшее распространение вредоносного контента», — написал Масада в блоге в четверг.
Судебный иск, по всей видимости, вызвал панику в группе: Microsoft опубликовала скриншоты чатов, где участники обсуждали личности других фигурантов иска. Группа также опубликовала личную информацию и фотографии юриста Microsoft, занимающегося этим делом.
Некоторые из названных лиц, по-видимому, также связались с Microsoft, пытаясь переложить вину на других членов группы или другие стороны.
В одном из сообщений, полученных юристами Microsoft, упоминался сервер Discord, предположительно управляемый Крысяком, предлагающий доступ к Azure более чем за 100 долларов, а также ссылки на страницы GitHub, посвященные их программному обеспечению, и ссылки на другие ресурсы. Пользователь обратился к Microsoft с просьбой провести расследование и предложил предоставить дополнительную информацию.
«Старики, на которых вы пытаетесь подать в суд, даже ничего не продают. А эти — да», — написал этот человек, позже добавив: «Это настоящее предприятие, в отличие от той группы, которую вы ищете».
В другом электронном письме юристам Microsoft посоветовали «поискать парня по имени Драго».
«Это тот парень, которого вы ищете, он использует и продаёт Azure», — написал пользователь whistling@dmc[]chat.
Скриншот сообщения, отправленного юристам Microsoft, в котором предпринимается попытка переложить вину за взлом Azure на другие стороны (Источник: Microsoft)
Согласно первоначальной жалобе компании, злоумышленники «использовали раскрытые учетные данные клиентов, полученные из общедоступных источников, для незаконного доступа к учетным записям в определенных сервисах искусственного интеллекта».
«Затем они изменили возможности этих сервисов и перепродали доступ другим злоумышленникам, предоставив подробные инструкции о том, как создавать вредоносный и незаконный контент, включая неконсенсуальные интимные изображения знаменитостей и другой откровенный контент сексуального характера», — утверждается в жалобе.
Поскольку такие компании, как Microsoft и OpenAI, разрабатывают и продают инструменты генеративного ИИ, правительства и группы гражданского общества оказывают давление на них, требуя разработки технических средств защиты, которые затруднят нецелевое использование или злоупотребление их моделями для создания дипфейков , распространения дезинформации или раскрытия потенциально опасной информации, например, о том, как сделать бомбу или разработать вредоносное ПО.
В то время как некоторые группы гражданского общества США критиковали компании ИИ за несоблюдение мер безопасности и отсутствие прозрачности в отношении публичных обещаний не допустить использования их инструментов для влияния на выборы, представители американской разведки в прошлом году указали, что иностранные субъекты, желающие вмешаться в американские выборы, испытывают трудности с получением доступа к высококачественным коммерческим инструментам ИИ-генерации для поддержки своих кампаний по дезинформации.
В декабре Microsoft обратилась в суд Вирджинии с ходатайством об изъятии инфраструктуры и программного обеспечения у десяти неназванных лиц, которые, по утверждению компании, организовали хакерскую операцию, используя украденные ключи API Microsoft для продажи доступа к учётным записям Azure OpenAI зарубежным компаниям. Эти учётные записи затем использовались для создания «вредоносного контента», включая тысячи изображений, нарушающих правила безопасности Microsoft и OpenAI.
Ранее компания Microsoft заявляла, что не знает имен или личностей этих 10 человек, а также места их проживания, идентифицируя их только по конкретным веб-сайтам и инструментам, которые они использовали, и утверждая, что по крайней мере трое из них, по всей видимости, являются поставщиками услуг, проживающими за пределами США.
В исправленной жалобе , опубликованной в четверг, компания назвала четырех человек — Ариана Ядегарнию (он же «Физ») из Ирана, Рики Юэня (он же «cg-dot») из Гонконга, Фат Фунг Тана (он же «Асакури») из Вьетнама и Алана Крысяка (он же «Драго») из Великобритании — как ключевых игроков «в центре глобальной сети киберпреступности», которую Microsoft отслеживает как Storm-2139.
Microsoft также заявила, что идентифицировала одного участника в Иллинойсе и ещё одного во Флориде как участников схемы, но отказалась назвать их имена, «чтобы не мешать потенциальным уголовным расследованиям». Компания заявила, что готовит уголовные дела для передачи представителям правоохранительных органов США и других стран.
Компания не уточнила, каким образом созданные изображения нарушают правила безопасности, но Стивен Масада, помощник главного юрисконсульта отдела цифровых преступлений Microsoft, указал в сообщении в блоге, что по крайней мере некоторые из них представляли собой попытки создания ложных образов знаменитостей и общественных деятелей.
«Мы не будем называть конкретных знаменитостей, чтобы сохранить их личности в тайне, и исключили из наших заявок синтетические изображения и подсказки, чтобы предотвратить дальнейшее распространение вредоносного контента», — написал Масада в блоге в четверг.
Судебный иск, по всей видимости, вызвал панику в группе: Microsoft опубликовала скриншоты чатов, где участники обсуждали личности других фигурантов иска. Группа также опубликовала личную информацию и фотографии юриста Microsoft, занимающегося этим делом.
Некоторые из названных лиц, по-видимому, также связались с Microsoft, пытаясь переложить вину на других членов группы или другие стороны.
В одном из сообщений, полученных юристами Microsoft, упоминался сервер Discord, предположительно управляемый Крысяком, предлагающий доступ к Azure более чем за 100 долларов, а также ссылки на страницы GitHub, посвященные их программному обеспечению, и ссылки на другие ресурсы. Пользователь обратился к Microsoft с просьбой провести расследование и предложил предоставить дополнительную информацию.
«Старики, на которых вы пытаетесь подать в суд, даже ничего не продают. А эти — да», — написал этот человек, позже добавив: «Это настоящее предприятие, в отличие от той группы, которую вы ищете».
В другом электронном письме юристам Microsoft посоветовали «поискать парня по имени Драго».
«Это тот парень, которого вы ищете, он использует и продаёт Azure», — написал пользователь whistling@dmc[]chat.
Согласно первоначальной жалобе компании, злоумышленники «использовали раскрытые учетные данные клиентов, полученные из общедоступных источников, для незаконного доступа к учетным записям в определенных сервисах искусственного интеллекта».
«Затем они изменили возможности этих сервисов и перепродали доступ другим злоумышленникам, предоставив подробные инструкции о том, как создавать вредоносный и незаконный контент, включая неконсенсуальные интимные изображения знаменитостей и другой откровенный контент сексуального характера», — утверждается в жалобе.
Поскольку такие компании, как Microsoft и OpenAI, разрабатывают и продают инструменты генеративного ИИ, правительства и группы гражданского общества оказывают давление на них, требуя разработки технических средств защиты, которые затруднят нецелевое использование или злоупотребление их моделями для создания дипфейков , распространения дезинформации или раскрытия потенциально опасной информации, например, о том, как сделать бомбу или разработать вредоносное ПО.
В то время как некоторые группы гражданского общества США критиковали компании ИИ за несоблюдение мер безопасности и отсутствие прозрачности в отношении публичных обещаний не допустить использования их инструментов для влияния на выборы, представители американской разведки в прошлом году указали, что иностранные субъекты, желающие вмешаться в американские выборы, испытывают трудности с получением доступа к высококачественным коммерческим инструментам ИИ-генерации для поддержки своих кампаний по дезинформации.
