Нарушение безопасности Northflank приводит к злоупотреблению ключами AI API клиентов

Платформа хостинга облачных приложений Northflank предупреждает клиентов о необходимости ротации всех учетных данных и секретов, хранящихся на ее платформе, после того, как нарушение безопасности привело к несанкционированному использованию ключей AI API клиентов.
Northflank — это облачная платформа, которая позволяет разработчикам развертывать приложения, контейнеры, базы данных и приложения искусственного интеллекта и управлять ими без управления базовой инфраструктурой.
Компания раскрыла об инциденте безопасности 30 октября, предупредив клиентов о необходимости немедленно заменить переменные среды и ключи API после получения предупреждения об угрозе от компании Wiz, занимающейся облачной безопасностью.
Вскоре после этого Northflank посоветовал всем клиентам предположить, что их переменные среды были расшифрованы, а хранящиеся в них секреты были украдены.
«Предположим, все переменные среды расшифрованы. Отключите/поменяйте все ключи», — предупредил Нортфланк в обновлении от 30 октября.
Приложения обычно используют переменные среды для хранения конфиденциальной информации, включая пароли базы данных, учетные данные облачных служб, токены аутентификации и ключи API.
В случае раскрытия эти учетные данные могут быть использованы для взлома других служб клиентов, что потенциально может привести к краже данных или несанкционированному снятию средств с помощью ключей API.
Позже Нортфланк подтвердил, что несколько клиентов сообщили о несанкционированном использовании ключей AI API, хранящихся на платформе.
«Пользователи сообщили о несанкционированном использовании ключей AI API, предоставленных платформе Northflank», — сообщили в компании.
«Если вы еще не поменяли предоставленные пользователем секреты, хранящиеся в Northflank, сделайте это немедленно».
Клиентам также было рекомендовано проверять журналы использования и выставления счетов своих поставщиков ИИ на предмет непредвиденной активности и сообщать о подозрительном использовании компании Northflank и своим поставщикам ИИ.
Согласно опубликованному Northflank графику происшествий, Wiz предупредил их о нарушении в 11:43 UTC 30 октября, и инженеры компании рассмотрели эту информацию минуту спустя.
Northflank быстро отреагировал, выпустив исправление сетевой политики, за которым последовали дополнительные исправления в 12:50 UTC и 13:05 UTC. Компания также обратилась за помощью к группе реагирования на инциденты Wiz.
Компания не раскрыла, как злоумышленники получили доступ к ее системам, сколько клиентов пострадало, а также украли ли злоумышленники учетные данные, кроме указанных ключей AI API, или злоупотребили ими.
В рамках своего ответа Northflank включил ротацию учетных данных для PostgreSQL, MongoDB, MySQL и Redis.
Компания также включила журналы аудита для всех клиентов, в том числе для тех, кто использует бесплатные учетные записи, чтобы помочь им расследовать любую подозрительную активность.
Northflank продолжает советовать клиентам ротировать секреты, хранящиеся в рабочих нагрузках, секретных группах и глобальных секретах, а также отключать публичный доступ к надстройкам, где он включен.
BleepingComputer связался с Northflank с вопросами об взломе, его влиянии на клиентов, а также о том, были ли сохраненные учетные данные получены или украдены, но не получил ответа.
Черный октябрь
Нарушение произошло на фоне серии атак, нацеленных на платформы разработки искусственного интеллекта, которые, по мнению исследователей безопасности, являются ценными целями, поскольку хранят ключи API, которые можно использовать для доступа к дорогостоящим службам искусственного интеллекта.
В отчете под названием «Черный октябрь для платформ разработчиков ИИ» Wiz выявила как минимум девять инцидентов безопасности, затронувших платформы разработки ИИ в течение месяца, включая Northflank, Railway, OpenCode, Warp и Lightning AI.
Инцидент с железной дорогой также был связан с потенциальным раскрытием расшифрованных переменных среды клиента, в то время как OpenCode раскрыл открытые ключи AI API. Warp сообщила о взломе, в результате которого были раскрыты журналы агентов искусственного интеллекта и данные телеметрии пользователей.
Виз говорит, что злоумышленники, причастные к некоторым из этих инцидентов, специально нацелились на переменные среды, содержащие учетные данные службы искусственного интеллекта, которые можно использовать с помощью практики, известной как LLMJacking.
LLMJacking предполагает использование украденных учетных данных для доступа к моделям ИИ с использованием ключей API другой организации, генерацию огромных сборов за API или возможность перепродажи украденного доступа.
В двух случаях, расследованных Wiz, скомпрометированные корпоративные учетные данные были использованы для совершения примерно 2,5 миллионов вызовов API Amazon Bedrock, что принесло около 100 000 долларов США за использование ИИ.
Исследователи также обнаружили инфраструктуру, связанную с услугами по перепродаже доступа к моделям ИИ, хотя они не смогли связать эти операции с первоначальными нарушениями или крупномасштабными злоупотреблениями.
Wiz не подтвердил, что все девять инцидентов были совершены одними и теми же злоумышленниками. Однако многие инциденты были связаны с попытками украсть ключи AI API.
Northflank также сослался на исследование Wiz в своих отчетах об инцидентах, отметив, что сообщения клиентов о несанкционированном использовании ключей ИИ могут быть связаны с атаками, замеченными исследователями.
💬 Discussion 0
BBCode & Emoji supportedParticipate in discussions, ask authors questions, and share benchmarks by joining the ProArena engineering community.