В епохата на бързото развитие на изкуствения интелект (ИИ), новите технологии носят както възможности, така и рискове. Един от нарастващите проблеми е използването на ИИ за създаване на дийпфейк аудио, с което престъпници се опитват да заблудят потребителите чрез имитация на гласове на техни близки. В отговор на тази заплаха, Google обяви въвеждането на нова защитна функция в операционната система Android, която ще идентифицира и маркира подозрителни обаждания, използващи такива технологии.
Какво представлява новата функция
Новата система за сигурност в Android ще анализира входящите телефонни обаждания с цел да открие признаци на манипулация чрез ИИ. Ако бъде засечено, че гласът на обаждащия се е синтезиран или модифициран с дийпфейк технология, потребителят ще получава предупреждение. По този начин Google цели да предотврати успешни измами, при които престъпниците се представят за познати или членове на семейството, за да изискват пари или лична информация.
Защо това е важно
Използването на дийпфейк технологии в телефонните измами се превърна в сериозен проблем за потребителите и компаниите. Тези измами са трудни за разпознаване, тъй като гласът звучи реалистично и познато. Въвеждането на автоматична защита на ниво операционна система е значителна стъпка към повишаване на доверието в мобилните комуникации и намаляване на финансовите загуби от подобни престъпления.
По-широк контекст на проблема
Дийпфейк технологиите, които първоначално бяха използвани предимно за забавление и развлечение, сега се превръщат в инструмент за киберпрестъпления. Освен аудио, съществуват и видео дийпфейкове, които могат да подведат потребителите в различни сфери – от политически манипулации до корпоративни измами. В този контекст, технологичните компании са под натиск да разработват решения, които да защитават потребителите от новите видове заплахи, базирани на ИИ.
Какво може да последва
Въвеждането на тази функция от Google вероятно ще стимулира и други производители на мобилни устройства и операционни системи да разработят подобни механизми за защита. Освен това, може да се очаква засилване на регулациите и стандартите за използване на ИИ в комуникациите. За потребителите това означава по-голяма сигурност и по-малко рискове при телефонните разговори, а за бизнеса – необходимост от адаптация към новите изисквания за киберсигурност.
