Google Cloud Vertex AI е платформа, предназначена за разработка, обучение и внедряване на машинни модели в облака. Тя предоставя SDK (Software Development Kit) за Python, който улеснява интеграцията и управлението на модели. Въпреки това, наскоро бе открита уязвимост в този SDK, която може да бъде използвана от злонамерени лица за прихващане на качването на модели и изпълнение на произволен код в инфраструктурата на Google.
Какво се случи?
Експертите от екипа Unit 42 на Palo Alto Networks откриха и докладваха уязвимостта на Google чрез програмата за награди за откриване на бъгове. Проблемът е свързан с механизъм, наречен "Pickle in the Middle", който позволява на нападател с нулев достъп до проекта на жертвата да прихване процеса на качване на машинен модел. Чрез техниката, известна като bucket squatting, атакуващият може да замести или манипулира съдържанието, което се качва, и по този начин да изпълни злонамерен код в облачната среда на Google.
Важно е да се отбележи, че към момента на публикуване няма данни за реални атаки, използващи тази уязвимост, което говори за бързата реакция на Google и екипа на Unit 42.
Защо това е важно?
Vertex AI е ключов инструмент за много компании, които разчитат на машинно обучение за автоматизация, анализ на данни и разработка на интелигентни приложения. Уязвимост, която позволява изпълнение на произволен код в облачната инфраструктура, може да доведе до сериозни последствия, включително кражба на данни, саботаж на модели и компрометиране на цялата платформа.
Тъй като машинното обучение все повече се интегрира в бизнес процесите, сигурността на тези системи става критична. Уязвимости като тази подчертават необходимостта от постоянен мониторинг, тестване и подобряване на защитите в облачните услуги.
По-широк контекст
Облачните платформи като Google Cloud, AWS и Microsoft Azure предлагат все по-сложни инструменти за разработка на AI и машинно обучение. В същото време, сложността на тези системи увеличава и повърхността за потенциални атаки. Bucket squatting е техника, при която нападателят заема или контролира облачен storage bucket, който не е правилно защитен или конфигуриран, и я използва за прихващане или манипулация на данни.
Този инцидент е пореден пример за необходимостта от по-добри практики при конфигуриране и защита на облачните ресурси, както и за внимателно управление на достъпа и проверка на целостта на качваните файлове и модели.
Какво може да последва?
Google вече е предприела мерки за отстраняване на уязвимостта в SDK и препоръчва на потребителите да обновят своите версии. В бъдеще можем да очакваме засилване на контрола върху процесите за качване и изпълнение на машинни модели, както и въвеждане на допълнителни механизми за проверка и защита срещу подобни атаки.
За компаниите, използващи Vertex AI, е препоръчително да прегледат конфигурациите на своите облачни ресурси, да следват най-добрите практики за сигурност и да следят за актуализации на SDK и свързаните инструменти. Това ще помогне да се минимизират рисковете и да се осигури надеждна и сигурна работа с машинно обучение в облака.
