В 2001 году Артур Кларк в своем романе «Космическая одиссея» написал, что «любая достаточно развитая технология неотличима от магии», тем самым максимально приблизившись к предсказанию будущего человечества. В современном мире скорость развития технологических инноваций столь поразительна, что уважаемый писатель-фантаст оказался ближе к истине, чем можно было бы предположить…
Технологии «невидимки»
За минувшее десятилетие технологии постепенно стали невидимы. Громоздкие компьютеры, которые когда-то занимали место на наших столах, превратились в планшеты и смартфоны. Объемные электронно-лучевые трубки уступили место телевизорам с плоскими экранами, сродни произведениям искусства. Провода исчезли в незримых волнах Wi-Fi и 4G. Сегодня технологии – неотъемлемая часть нашей повседневной жизни, но они исчезли из поля зрения.
Сами же экраны, похоже, также постепенно исчезают, уступая место голосовым алгоритмам. Сейчас мы окружены технологиями сильней, чем когда-либо, но, давайте посмотрим правде в глаза… мы их больше не видим.
Это волшебное исчезновение наиболее ярко можно ощутить, воспользовавшись услугами супермаркета Amazon Go: покупатель заходит, берет с полок все необходимое, наполняет корзину и уходит. Покинув магазин, человек наблюдает, как с его банковского счета автоматически списывается правильная сумма. Все электронное оборудование магазина, – датчики, камеры и компьютеры, скрыто «за кулисами», вне поля зрения посетителя.
Белая магия супермаркетов Amazon Go является результатом целого ряда технологических инноваций, которые сегодня мы объединяем понятием Искусственного интеллекта (ИИ). Amazon Go использует датчики веса, которые определяют какое количество продукта покидает полку. Камеры следуют за покупателем, считывая каждое движение. Компьютеры обрабатывают данные из разных источников, определяя, что приобретено.
Активное развертывание высокоскоростных сетей на практике означает, что теперь мы можем обрабатывать изображения или видео в режиме реального времени. Это открывает множество новых возможностей, например, распознавание лиц при обнаружении мошенничества, идентификации преступника на переполненном стадионе и т.д. В повседневной жизни ИИ используется для социального оценивания людей, в зависимости от их поведения.
Мир без эмпатии
Сегодня каждый из нас чувствует влияние технологий. Зачастую, это влияние сложно однозначно оценить. Например, внезапный отказ пассажиру в посадке на международный авиарейс. Может ли человек, попавший в такую ситуацию, оспорить это решение?
Если подобные административные решения основаны на ряде статистических данных, то не повлияет ли это значительно на качество жизни и возможности человека?
В США власти используют ИИ, чтобы решить, каким образом распределять социальные пособия. Все большее число административных процессов обрабатывается в электронном виде на основе, якобы, «объективных» критериев. К слову, эти критерии разрабатываются также автоматически.
Использующие автоматизированные системы социальные работники считают, что можно снять с себя бремя ответственности: «Наша система отказала вам в доступе к социальной помощи». Не является ли это началом процесса исчезновения эмпатии и человечности? Отказ, подкрепленный сочувствием к личным объяснениям легче принять, чем вердикт искусственного интеллекта, который не предполагает аргументированное оспаривание решения.
Заблудшие в цифре
Человеческий разум становится неспособен понять логику тех или иных решений. Очевидно, что способность компьютеров хранить и обрабатывать информацию не сопоставима с человеческой.
Поэтому, когда мы сталкиваемся с решением ИИ, которое напрямую влияет на нашу жизнь, мы, зачастую, не знаем, как реагировать. Просто потому, что не можем понять и осознать факторы, на основе которых было принято решение.
Основная проблема в том, что мы не осознаем степень влияния технологий на нашу повседневную жизнь, но при этом чувствуем, что теряем контроль. Это своеобразное «цифровое проклятие», которое мы недооцениваем.
Во времена, когда знаменитый Артур Кларк предсказывал распространение технологической магии, он и не подозревал, что эта магия может быть черной для человечества.
Об авторе:
Франсуа Хуст (François Houste), директор Plan.Net France
