Популярная платформа для разработки систем искусственного интеллекта устранила легко эксплуатируемую уязвимость, которая могла бы предоставить злоумышленнику привилегии удаленного выполнения кода.
Исследователи из компании Noma, занимающейся безопасностью приложений, подробно описывают , как уязвимость, встроенная в код Javascript для платформы разработки Lightning.AI, может быть использована для предоставления злоумышленнику практически неограниченного доступа к облачной студии пользователя, а также возможности выполнять произвольный код, извлекать конфиденциальные данные и создавать, изменять или удалять файлы.
Исследователи Noma обнаружили скрытый параметр в URL-адресе JavaScript-кода, используемого в программном обеспечении Lightning.AI, под названием «команда». Изменяя расположение команды в URL-адресе, злоумышленник может создавать вредоносные фишинговые ссылки для конкретных жертв и студий.
По данным Noma, уязвимость была обнаружена 14 октября 2024 года, и в тот же день исследователи начали общаться с представителями Lightning.AI через Discord. Патч был разработан и установлен к 25 октября.
Гал Моял, работающий в офисе технического директора Noma, сообщил CyberScoop, что уязвимость имеет рейтинг серьёзности CVSS 9,4 и предлагает «доступ root с… самыми высокими привилегиями». Представитель Noma сообщил CyberScoop, что формальный идентификатор CVE для этой уязвимости не запрашивался.
Такой уровень доступа также мог поставить под угрозу безопасность других систем или подсистем, подключенных к облачной студии жертвы, и потенциально позволить злоумышленнику проникнуть в другие системы. Уязвимость командной строки также могла быть использована для доступа к метаданным учётной записи в облаке AWS, что потенциально предоставляло злоумышленнику доступ к конфиденциальным данным, токенам доступа и информации о пользователе.
«Это пример уязвимости, которая… может вывести из строя практически всё, чем вы владеете», — сказал Мойал. «Это все ваши секреты; ваш аккаунт AWS, ваша платформа в Lightning.AI, всё, что было связано с Lightning.AI, теперь может быть использовано злоумышленником в своих целях».
Мойал заявил, что включение скрытого параметра было либо ошибкой, которую кто-то забыл удалить из кода JavaScript, либо недостатком проектирования.
Представитель Lightning.AI сообщил CyberScoop, что у них нет никаких доказательств того, что уязвимость эксплуатируется злоумышленниками, и что в дополнение к исправлениям были приняты дополнительные меры безопасности.
«Наша проверка безопасности подтвердила отсутствие несанкционированного доступа до исправления», — сообщил представитель в электронном письме. «Помимо установки исправлений, мы усилили проверку входных данных, ужесточили контроль доступа и усилили внутренние протоколы безопасности для предотвращения подобных рисков».
Компания Lightning.AI (ранее Grid.AI) была основана в 2019 году и с тех пор стала широко используемой платформой для совместной работы разработчиков и создания облачных систем искусственного интеллекта. Компания является партнёром AWS и недавно привлекла 50 миллионов долларов США в виде инвестиций от таких компаний, как JPMorgan Chase, NVIDIA, Cisco Investments и K5 Global.
Основатели компании также были разработчиками PyTorch Lightning, популярного инструмента с открытым исходным кодом, используемого разработчиками для масштабирования систем глубокого обучения ИИ, работающих на распределённом оборудовании. Страница инструмента на GitHub имеет более 28 000 звёзд и была подвергнута более чем 3400 форкам.
В интервью TechCrunch в ноябре 2024 года соучредитель Уильям Фалкон заявил , что набор больших языковых моделей NeMo от NVIDIA и инструмент Stable Diffusion от Stability.AI были обучены или созданы с использованием инструментов Lightning.AI.
По словам Мойала, эта уязвимость является примером того, как спешка с внедрением новых продуктов ИИ может сделать компании более уязвимыми к критическим уязвимостям, подобным той, которую обнаружила Noma.
«Мы живём в мире ИИ, где всё стремительно развивается», — сказал он. «Внедрение ИИ происходит очень быстро, и сейчас, как мне кажется, это очень благодатная почва для ошибок и сбоев».
Исследователи из компании Noma, занимающейся безопасностью приложений, подробно описывают , как уязвимость, встроенная в код Javascript для платформы разработки Lightning.AI, может быть использована для предоставления злоумышленнику практически неограниченного доступа к облачной студии пользователя, а также возможности выполнять произвольный код, извлекать конфиденциальные данные и создавать, изменять или удалять файлы.
Исследователи Noma обнаружили скрытый параметр в URL-адресе JavaScript-кода, используемого в программном обеспечении Lightning.AI, под названием «команда». Изменяя расположение команды в URL-адресе, злоумышленник может создавать вредоносные фишинговые ссылки для конкретных жертв и студий.
По данным Noma, уязвимость была обнаружена 14 октября 2024 года, и в тот же день исследователи начали общаться с представителями Lightning.AI через Discord. Патч был разработан и установлен к 25 октября.
Гал Моял, работающий в офисе технического директора Noma, сообщил CyberScoop, что уязвимость имеет рейтинг серьёзности CVSS 9,4 и предлагает «доступ root с… самыми высокими привилегиями». Представитель Noma сообщил CyberScoop, что формальный идентификатор CVE для этой уязвимости не запрашивался.
Такой уровень доступа также мог поставить под угрозу безопасность других систем или подсистем, подключенных к облачной студии жертвы, и потенциально позволить злоумышленнику проникнуть в другие системы. Уязвимость командной строки также могла быть использована для доступа к метаданным учётной записи в облаке AWS, что потенциально предоставляло злоумышленнику доступ к конфиденциальным данным, токенам доступа и информации о пользователе.
«Это пример уязвимости, которая… может вывести из строя практически всё, чем вы владеете», — сказал Мойал. «Это все ваши секреты; ваш аккаунт AWS, ваша платформа в Lightning.AI, всё, что было связано с Lightning.AI, теперь может быть использовано злоумышленником в своих целях».
Мойал заявил, что включение скрытого параметра было либо ошибкой, которую кто-то забыл удалить из кода JavaScript, либо недостатком проектирования.
Представитель Lightning.AI сообщил CyberScoop, что у них нет никаких доказательств того, что уязвимость эксплуатируется злоумышленниками, и что в дополнение к исправлениям были приняты дополнительные меры безопасности.
«Наша проверка безопасности подтвердила отсутствие несанкционированного доступа до исправления», — сообщил представитель в электронном письме. «Помимо установки исправлений, мы усилили проверку входных данных, ужесточили контроль доступа и усилили внутренние протоколы безопасности для предотвращения подобных рисков».
Компания Lightning.AI (ранее Grid.AI) была основана в 2019 году и с тех пор стала широко используемой платформой для совместной работы разработчиков и создания облачных систем искусственного интеллекта. Компания является партнёром AWS и недавно привлекла 50 миллионов долларов США в виде инвестиций от таких компаний, как JPMorgan Chase, NVIDIA, Cisco Investments и K5 Global.
Основатели компании также были разработчиками PyTorch Lightning, популярного инструмента с открытым исходным кодом, используемого разработчиками для масштабирования систем глубокого обучения ИИ, работающих на распределённом оборудовании. Страница инструмента на GitHub имеет более 28 000 звёзд и была подвергнута более чем 3400 форкам.
В интервью TechCrunch в ноябре 2024 года соучредитель Уильям Фалкон заявил , что набор больших языковых моделей NeMo от NVIDIA и инструмент Stable Diffusion от Stability.AI были обучены или созданы с использованием инструментов Lightning.AI.
По словам Мойала, эта уязвимость является примером того, как спешка с внедрением новых продуктов ИИ может сделать компании более уязвимыми к критическим уязвимостям, подобным той, которую обнаружила Noma.
«Мы живём в мире ИИ, где всё стремительно развивается», — сказал он. «Внедрение ИИ происходит очень быстро, и сейчас, как мне кажется, это очень благодатная почва для ошибок и сбоев».
