В последно време системите за видеонаблюдение с изкуствен интелект (AI) все по-често се използват от полицията за автоматично разпознаване на регистрационни номера на автомобили. Въпреки това, един инцидент в САЩ показа, че тези технологии все още не са безупречни и могат да доведат до сериозни последици за невинни граждани.
Какво се случи?
Автомобилен тестер, който преглежда автомобили и публикува ревюта, беше задържан за около час от полицията в паркинг на магазин в Ню Джърси. Причината за задържането бе, че системата за видеонаблюдение на компанията Flock AI неправилно разпозна регистрационния номер на автомобила му като „откраднат“. Проблемът произтича от факта, че камерите не успяха да отчетат по-малките цифри на нестандартния номер, което доведе до грешно идентифициране.
Полицията блокира автомобила на тестера, след като системата сигнализира за „откраднати“ регистрационни табели. По-късно се оказа, че първоначалният полицейски доклад е пропуснал да включи по-малките цифри от номера, което е довело до това множество легитимни регистрационни табели да бъдат погрешно маркирани от AI системата.
Защо това е важно?
Този случай подчертава няколко ключови проблема, свързани с използването на изкуствен интелект в правоохранителните органи. Първо, грешките при разпознаване на регистрационни номера могат да доведат до неправомерно задържане на граждани, което засяга техните права и свободи. Второ, подобни инциденти подкопават доверието в технологиите, които се рекламират като инструменти за повишаване на ефективността и сигурността.
Освен това, случаят показва, че качеството на данните, които се подават на AI системите, е от критично значение. В този случай, непълният или неправилен полицейски доклад е довел до това, че системата е маркирала легитимни номера като „откраднати“. Това повдига въпроси за необходимостта от по-добра интеграция и проверка на данните, използвани от AI решенията.
По-широк контекст
Използването на AI камери за разпознаване на регистрационни номера се разраства в много държави с цел подобряване на контрола върху движението и борбата с престъпността. Технологиите обещават по-бързо и по-точно идентифициране на нарушители, кражби и други нарушения. Въпреки това, както показва този инцидент, системите все още имат ограничения, особено при работа с нестандартни или повредени регистрационни табели.
Това е част от по-голям дебат за баланса между сигурността и защитата на личните права при използването на автоматизирани системи за наблюдение. Грешките на AI могат да имат сериозни последици, особено когато се използват от органи на реда, които разполагат с правомощия за задържане и разследване.
Какво може да последва?
В отговор на подобни инциденти, компаниите, разработващи AI системи за видеонаблюдение, вероятно ще трябва да подобрят алгоритмите си за разпознаване, особено при работа с нестандартни или сложни регистрационни номера. Освен това, ще се увеличи нуждата от по-строг контрол върху качеството на данните, които се подават на тези системи, както и от по-добра комуникация между технологичните доставчици и правоохранителните органи.
От гледна точка на законодателството и регулациите, подобни случаи могат да доведат до засилване на нормативните изисквания за използване на AI в правоохранителната дейност, включително прозрачност, отчетност и възможности за обжалване на решения, взети въз основа на автоматизирани системи.
В заключение, инцидентът с Flock AI камерите е важен сигнал за необходимостта от внимателно и отговорно внедряване на изкуствения интелект в сферата на сигурността, като се гарантира, че технологиите служат за подобряване на обществения ред без да нарушават основни граждански права.
