«Мы живем в эпоху алгоритмов. Постепенно решения, которые влияют на нашу жизнь — в какую школу отдать детей, получим ли мы кредит, как много мы платим за медицинскую страховку — начинают приниматься не людьми, а математическими моделями», — пишет автор книги Weapons of Math Destruction Кэти О'Нил.
Кэти О'Нил
В теории использование анализа больших данных должно приводить к большей справедливости, ведь все оцениваются по одним и тем же правилам, что исключает предвзятость. Однако О'Нил считает, что современные модели непрозрачны, безапелляционны и никем не регулируются, даже в том случае, если они заведомо ошибочны.
«Что вызывает еще большее беспокойство: они усиливают дискриминацию. Если бедный студент не может взять кредит только потому, что алгоритмы кредитной организации признали его ненадежным из-за места жительства, то он не сможет получить образование, которое помогло бы ему выбраться из бедности», — пишет в предисловии Кэти О'Нил.
Порочный круг замыкается: такие модели помогают удачливым и наказывают угнетенных, смешивая для демократии «токсичный коктейль».
Также заметно влияние математических моделей в корпоративном секторе. «У работодателей, которые много лет пытались выжать из сотрудников все соки, теперь появилась новая тактика борьбы с возрастающими расходами: они называют ее “оздоровление”».
Она включает контроль за данными, который поступают от носимых устройств, составляющих «интернет вещей» — фитнес-браслетов Fitbit, часов Apple Watch и других приспособлений, которые отслеживают состояние здоровья.
«В основе всех таких идей лежат хорошие побуждения, мы это неоднократно замечали ранее. К слову, правительство побуждает оздоровление сотрудников: программа повышения доступности здравоохранения Obamacare побуждает работодателей уделять больше внимания здоровью сотрудников, и даже “стимулировать” их оздоровление», — пишет О'Нил.
По закону американские работодатели теперь могут назначать награды и штрафы, которые в некоторых случаях могут достигать 50% от затрат на покрытие медицинской страховки, если их сотрудники не следят за своим здоровьем.
Согласно данным Американского стратегического исследовательского центра, в США более половины компаний, где работает свыше 50 сотрудников, ввели программы оздоровления, и их количество растет с каждой неделей.
«Программы оздоровления находят свою поддержку. Защитники утверждают, что если они заработают, то больше всего выгоды получат работник и его семья. Но в то же время, если такие программы позволят сотрудникам избежать сердечных приступов или развитие диабета, то выиграет и работодатель», — утверждает О'Нил.
Чем меньше вызовов скорой помощи совершают сотрудники отдельно взятой компании, тем менее рискованной она выглядит в глазах страховой компании, что приводит к уменьшению размера страховой премии. «В этом случае, если не обращать внимание на принудительное навязывание таких программ, они действительно могут оказаться взаимовыгодными для всех сторон. Но проблема кроется именно в их насильственном распространении», — пишет автор книги.
В качестве примера она приводит историю Аарона Абрамса, профессора математики из университета Вашингтона и Ли. Учреждение заключило договор медицинского страхования с компанией Anthem Insurance, который подразумевает обязательное введение «программы оздоровления».
Чтобы завершить программу, ему за год необходимо набрать 3250 «очков здоровья». Ежедневно он получает по одному баллу за регистрацию в системе. Еще по тысяче очков — за ежегодные плановые визиты доктора и обследования, которые проводятся в университете.
Есть еще способ получить дополнительные баллы. Для этого можно поучаствовать в «Исследовании здоровья», в рамках которого сотрудник должен добиваться месячных целей, которые он устанавливает сам. В том случае, если Абрамс откажется от участия в программе оздоровления, то из его оклада будет ежемесячно удерживаться по $50, которые пойдут на оплату страховой премии.
«Абрамса нанимали, чтобы он преподавал математику. А теперь он, как и миллионы других американцев, тратит часть своего рабочего времени на медицинские наставления. Кроме того, он вынужден делиться своими медицинскими данными не только с работодателем, но и со сторонней компанией, которая администрирует программу», — пишет О'Нил.
Абрамс возмущается и предполагает, что рано или поздно университет еще сильнее увеличит свой надзор за сотрудниками: «Это жутко — представлять, что кто-то сможет восстановить мой ежедневный маршрут, взяв данные о моих перемещениях, которые я вынужден отслеживать сам».
Мои опасения простираются. Если компании уже накапливают огромное количество данных о здоровье сотрудников, то что помешает им разработать критерии для отсева соискателей на основании их здоровья?
Большая часть информации, которую они собирают — количество совершенных шагов за день или данные о сне — никак не защищаются законом, поэтому с юридической точки зрения все будет легально.
Более того, это имеет смысл: как мы уже убедились, компании постоянно отсеивают сотрудников на основании данных об их кредитной истории или личностных тестов. Поэтому оценка соискателей в зависимости от их здоровья может стать естественным (и пугающим) следующим шагом.
— Кэти О'Нил
По словам автора, многие компании уже ввели стандарты здоровья для своих сотрудников, и применяют штрафы, если они им не соответствуют. Например, производитель шин Michelin ставит перед работниками план — добиться определенного значения того или иного параметра, начиная от давления крови, до уровня сахара, холестерола или объема талии.
«Те, кто не может выполнить план в трех категориях, обязаны ежегодно платить по $1000 в качестве покрытия страховки. Аналогичной политики стала придерживаться и аптечная сеть CVS, которая в 2013 году объявила, что потребует от сотрудников сообщать данные об уровне подкожного жира, давления и уровня сахара в крови. Или платить по $600 ежегодно».
Такой шаг со стороны CVS побудил автора издания Bitch Media Алиссу Флек написатьгневную колонку: «Если вы многие годы пытались привести себя в форму (какой бы смысл вы не вкладывали в это понятие), вы можете оставить эти попытки, потому что у CVS есть более надежное средство. По мнению компании, у вас просто не было достаточного стимула. Как это часто бывает, она не изобрела ничего нового. Ее диета — это стыд и осуждение полноты. Принцип прост: позвольте специалистам сказать вам, что вы толстый или заплатите штраф».
«И все это делается во имя здоровья», — заключает О'Нил.