Нови методи за заобикаляне на скенери за злонамерени AI умения тревожат индустрията

С развитието на изкуствения интелект и нарастващото използване на AI агенти за автоматизация на кодиране, сигурността на тези системи става все по-важна. Ново изследване, проведено от учени в Университета по наука и технология в Хонг Конг, разкрива, че злонамерени добавки, наречени "умения" (skills), могат да заобиколят статичните скенери, предназначени да ги откриват, чрез прости, но ефективни техники.

Какво се случи

Изследователите демонстрираха, че чрез използване на метод, наречен SkillCloak, злонамерените AI умения могат да бъдат опаковани по начин, който ги прави невидими за повечето съществуващи статични скенери. Този подход включва самостоятелно извличащо се опаковане, което позволява на зловредния код да остане скрит до момента на изпълнение. В тестове техният най-успешен метод е успял да избегне откриване от всички тествани скенери в над 90% от случаите.

Защо това е важно

Този пробив подчертава уязвимостите в сегашните системи за сигурност, които разчитат главно на статичен анализ на кода. С нарастването на използването на AI агенти в различни индустрии, включително в разработката на софтуер, подобни уязвимости могат да доведат до сериозни рискове за сигурността. Злонамерените умения могат да компрометират системи, да откраднат данни или да причинят други вреди, ако не бъдат своевременно открити.

По-широк контекст

Изследването идва в момент, когато все повече компании интегрират AI агенти в своите работни процеси. Статичният анализ на кода е широко използван метод за откриване на злонамерен софтуер, но той има ограничения, особено при динамично поведение на кода. Новите техники като SkillCloak показват, че злонамерените актьори могат да се адаптират бързо и да използват сложни методи за прикриване, което изисква развитие на по-усъвършенствани динамични и поведенчески анализи.

Какво може да последва

В отговор на тези предизвикателства, екипът от Хонг Конг разработи и прототип на динамичен проверяващ механизъм, който може да засече повечето от тези опаковани злонамерени умения по време на изпълнение. Това насочва индустрията към необходимостта от комбиниране на статични и динамични методи за сигурност при AI агенти. В бъдеще можем да очакваме по-широко внедряване на такива решения, както и повишено внимание към сигурността в разработката на AI умения и добавки.

Обобщено, изследването подчертава колко е важно непрекъснатото обновяване на методите за сигурност в AI екосистемата, за да се предпазят потребителите и компаниите от нови и все по-усъвършенствани заплахи.