В Сан-Франциско начнут использовать искинов, чтобы избежать расовых предрассудков в суде

Власти города Сан-Франциско объявили, что с 1 июля полицейские отчеты будут прогонять через алгоритм искусственного интеллекта, прежде чем передать их прокурорам. Этот алгоритм будет убирать из отчетов любую информацию, указывающую на расу подозреваемого. Ожидается, что это поможет избежать расовых предубеждений, когда принимается решение, выдвигать обвинение или нет.

Такая программа будет скрывать не только прямое указание на расовую принадлежность, но и описания внешности, например, цвет глаз и волос. Более того скрыты будут имена подозреваемых, и названия городских локаций, которые в противном случае тоже могли бы послужить прокурору подсказкой.

Окружной прокурор Джордж Гаскон напомнил о сложившейся в США ситуации, когда в тюрьмах оказывается непропорционально большое количество темнокожих заключенных. Он также заметил, что фамилия вроде Эрнандес тут же скажет прокурору, что подозреваемый – латиноамериканец, тем самым мешая принятию объективного решения.

Кроме того, искин будет убирать и информацию о полицейских, например, номер значка. Это было сделано на тот случай, если прокурору уже приходилось иметь с этим работником полиции, чтобы избежать предвзятого отношения к отчету.

До сих пор в Сан-Франциско боролись с возможной предвзятостью прокуроров очень простым способом – убирали первые две страницы документа с личными данными. Но весь остальной отчет оставался неизменным, и для предрассудков достаточно было и этого. И тогда пришлось создать искин. Канцелярия окружного прокурора утверждает, что эта технология применяется в стране таким образом впервые.

Источник

Теги:

Український Маркетинг Форум

ТОБІ СПОДОБАЄТЬСЯ

Виплати українським IT-компаніям від іноземних клієнтів зросли на 32%

Міжнародна платформа Payoneer поділилась результатами діяльності українців на міжнародних ринках за перший квартал 2021 року. Відтак найбільші виплати від іноземних ...

Сім основних екоматеріалів, якими послуговуються дизайнери, створюючи екологічні продукти

Нещодавні дослідження показали, що створені людиною матеріали вже перевищують за вагою всю сумарну живу біомасу планети. А дизайнери зараз дедалі ...

Спецпроєкт BAKOTECH про дівчат в IT: погляд зсередини

22 квітня відзначається День дівчат в IT. До цього дня спеціалісти з BAKOTECH випустили на YouTube-каналі невеликий спецпроєкт про роль ...

Спікери з TikTok, Netflix і Google розкажуть про те, як бізнесу вийти на міжнародний рівень

14 травня підприємці та топ-менеджери глобальних компаній зберуться на онлайн-конференції PM GO: Go global! Міжнародних компаній стає дедалі більше. Ще ...

Вуглецевий калькулятор від Mastercard дозволить споживачам визначити свій вплив на довкілля

Mastercard спільно зі шведським фінтех-стартапом Doconomy розробили систему підрахунку вуглецевого сліду для користувачів карток Mastercard. Чи шкодить екології ваша покупка? ...

15 квітня відбудеться Конференція з ІТ-права #ubaITconf

Якщо ви хочете зрозуміти, як працює український ринок юридичних послуг для ІТ-бізнесу, якщо прагнете знайти ділових партнерів, професійних співробітників чи ...