Разследването на престъпления с изкуствен интелект крие рискове от осъждане на невинни
(снимка: CC0 Public Domain)
Полицията в САЩ все повече разчита на системи, които използват сензори и изкуствен интелект за проследяване на стрелбата в определени райони. Но технологичното разследване може да има ужасни последици.
Според публикация на Асошиейтед прес, полицията погрешно обвинила 65-годишния Майкъл Уилямс през август миналата година и го вкарала в затвора, където той прекарва една година. Всичко това заради съмнителните данни на система с изкуствен интелект.
Компанията ShotSpotter доставя автоматизирана система, която използва акустични сензори и AI алгоритми, за да помогне на полицията да открие стрелба в конкретни географски райони. Фирмата, основана преди около 25 години, се описва като „лидер в прецизните технологични решения, които дават възможност на правоохранителните органи да реагират по-ефективно, да разследват и възпират престъпленията”.
Колко добре работи тази система? Поради неизправността ѝ, Майкъл Уилямс прекарва една година в затвора. В същото време всички доказателства са били оскъдни, а последващите съдебни производства разкриват, че операторът на ShotSpotter е „коригирал” някои от данните.
ShotSpotter понякога пропуска изстрелите от огнестрелно оръжие точно до сензорите, като в същото време често погрешно класифицира фойерверки или силния шум от ауспух на автомобила като стрелба. По-лошото е, че служителите на ShotSpotter понякога променят постфактум местоположението на стрелбата. Сензорите също често са непропорционално инсталирани в общности на чернокожи и латиноамериканци.
Компанията активно се опитва да скрие как работи основната технология и не позволява на следователите и адвокатите да научат за вътрешното функциониране на системата. В същото време тя се прилага в повече от 120 американски града, а „доказателства”, получени от ShotSpotter, вече са използвани в почти 200 съдебни дела.