Над 1 милион имейла използват скрит текст за заобикаляне на AI филтри за сигурност

Над 1 милион имейла използват скрит текст за заобикаляне на AI филтри за сигурност
Нови изследвания показват, че над милион имейла използват техника с вмъкнат скрит текст, която успешно заобикаля филтрите за сигурност, базирани на изкуствен интелект. Това повдига въпроси за ефективността на настоящите системи за защита срещу фишинг и други кибератаки.

В последните години изкуственият интелект (AI) и големите езикови модели (LLM) се превърнаха в ключови технологии за защита на електронната поща от спам и фишинг атаки. Въпреки това, ново проучване разкрива, че над един милион имейла използват техника, наречена "скрит текст" или "text salting", която позволява на злонамерени съобщения да преминат през AI-базирани филтри за сигурност безпроблемно.

Какво представлява техниката с скрит текст?

Техниката с вмъкнат скрит текст включва добавяне на невидим или почти невидим текст в съдържанието на имейла, който не се възприема от човешкото око, но влияе на начина, по който AI системите анализират текста. Този подход обърква алгоритмите, които разчитат на определени ключови думи и модели, за да идентифицират потенциално опасни съобщения.

В резултат на това, фишинг имейлите, които използват тази техника, могат да избегнат автоматичните проверки и да достигнат директно до входящата кутия на потребителя, увеличавайки риска от успешни атаки.

Защо това е важно?

С нарастващата зависимост от AI за защита на дигиталната комуникация, откриването на подобни уязвимости е критично. Ако злонамерени актьори успяват да заобиколят филтрите, това не само увеличава броя на успешните фишинг атаки, но и подкопава доверието в технологиите за киберсигурност.

За потребителите това означава по-голяма необходимост от повишено внимание и допълнителни мерки за защита, а за компаниите – необходимост от актуализиране и усъвършенстване на защитните системи.

По-широк контекст на проблема

Използването на AI в киберсигурността е двуостър меч. От една страна, тези технологии позволяват бързо и ефективно откриване на заплахи, а от друга – злонамерени лица разработват нови методи, които експлоатират слабостите на AI системите.

Техниката с вмъкнат скрит текст е само един от примерите за това как атакуващите адаптират своите стратегии спрямо развитието на защитните технологии. Това подчертава необходимостта от постоянни изследвания и развитие на по-усъвършенствани AI модели, които могат да разпознават такива сложни манипулации.

Какво може да последва?

В отговор на тези предизвикателства, разработчиците на AI системи за сигурност вероятно ще трябва да интегрират нови методи за анализ, които не се ограничават само до текстовото съдържание, а включват и контекстуални и поведенчески фактори.

Освен това, комбинацията от AI с традиционни техники за сигурност и човешки мониторинг може да се окаже необходима за ефективно противодействие на такива сложни атаки.

В заключение, откриването на тази уязвимост подчертава, че въпреки напредъка в AI технологиите, киберсигурността остава динамична област, изискваща непрекъснато внимание и адаптация към новите заплахи.

Тази статия е автоматично обобщена и структурирана от AI News Tech въз основа на публично достъпни технологични източници.

Източници

Видео по темата

Can You Trust MKBHD?
Can You Trust MKBHD? Marques Brownlee
I Stepped into my Favorite Games (for Free)
I Stepped into my Favorite Games (for Free) Linus Tech Tips
DF Retro Super Show #027: The Legend of Zelda - Ocarina of Time - N64/3DS Revisited
DF Retro Super Show #027: The Legend of Zelda - Ocarina of Time - N64/3DS Revisited Digital Foundry
How to Download Apps on Linux
How to Download Apps on Linux Linus Tech Tips