Британская полиция годами вешала на людей ярлык «вероятного преступника»

[XenBaza]

Британская полиция годами вешала на людей ярлык «вероятного преступника» - и ошибалась в 9 случаях из 10

Полиция Эйвона и Сомерсета тайно вела базу данных почти на 500 тыс. жителей Бристоля - с психиатрическими записями, данными о школьных обедах, жилищном статусе и подростковых беременностях. Алгоритмы анализировали эти данные и присваивали каждому «рейтинг риска» - например, для детей учитывались пропуски в школе, долги семьи по аренде и получение бесплатного питания.

Система работала с 2016 года, но большинство горожан не знали о ней ничего. Лидер местной группы общественного контроля за полицией Джон Пеграм узнал, что он в базе только в 2024-м. Причем полиция подтвердила это только после того, как Пеграм обратился за помощь к адвокатам. Однако подробностей власти все равно не раскрыли.

Расследование Wired показало: модель предсказания краж работала с точностью ниже 10% более трех лет - это значит, что девять из десяти помеченных людей преступниками не были. Полиция утверждает, что эту конкретную модель так и не развернула. Зато две другие модели - для предсказания угрозы сексуальной и криминальной эксплуатации детей - тихо свернули, когда выяснилось, что им нельзя доверять.

«Я не думаю, что ИИ-модель должна иметь такую власть над жизнями людей», - замечает Пеграм.

Ни публичного разбора, ни официальных выводов не последовало. Великобритания сейчас вкладывает £75 млн в новый проект PoliceAI - и его возглавляет бывший главный констебль Эйвона и Сомерсета Энди Марш, который когда-то обещал перевести все управление на предиктивную аналитику. Теперь он настаивает, что ИИ нужно распространять по всем 43 полицейским управлениям страны «как лесной пожар».