Аномалии алгоритмического менеджмента
Алгоритмический менеджмент (АМ) часто преподносится технологическими корпорациями как вершина объективности и меритократии. Однако за последние 10 лет накопился огромный массив эмпирических данных, доказывающих, что алгоритмы регулярно дают системные сбои.
В социологии технологий эти сбои рассматриваются не как случайные «баги», а как структурные аномалии, вытекающие из попыток математически описать хаотичную человеческую реальность.
Ниже приведены наиболее яркие категории аномалий и эмпирически задокументированные случаи краха алгоритмических подходов.
1. Слепота к контексту («Уволен роботом»)
Самая частая аномалия АМ — неспособность алгоритма отличить вину работника от форс-мажора (так называемый «коллапс контекста»). Алгоритм видит только метрику, но не видит реальный мир.
- Эмпирический случай (Bloomberg, 2021): Масштабное расследование о водителях сервиса Amazon Flex. Система автоматически расторгала контракты с курьерами за «недоставку посылок», опираясь исключительно на данные GPS. Алгоритм не учитывал (и не имел интерфейса для ввода таких данных), что водитель не мог доставить посылку из-за закрытых ворот в элитных поселках, пробитого колеса, снегопада или того, что шкафчик для выдачи (Amazon Locker) был сломан.
- Аномалия: Система требовала 100% математической точности исполнения в физическом мире, который непредсказуем. Попытки курьеров обжаловать увольнение через ботов приводили к получению шаблонных автоматических отказов.
2. Масштабирование предвзятости (Алгоритмическая дискриминация)
Технократы верят, что машина лишена человеческих предрассудков (расизма, сексизма, фаворитизма). Эмпирические данные показали обратное: алгоритмы обучаются на исторических данных и автоматизируют прошлые предрассудки, придавая им ауру математической объективности.
- Эмпирический случай (Reuters, 2018): Провал ИИ-рекрутера Amazon. Компания создала нейросеть для автоматического отбора резюме на инженерные должности. Поскольку алгоритм обучался на массиве резюме за последние 10 лет (где доминировали мужчины), он сделал вывод, что признаком успешного кандидата является мужской пол. ИИ начал автоматически снижать баллы резюме, в которых встречалось слово «женский» (например, «капитан женской сборной по шахматам»), и отсеивать выпускниц женских колледжей. Проект пришлось закрыть.
3. «Взлом» алгоритма толпой (Закон Гудхарта)
Закон Гудхарта гласит: «Когда мера становится целью, она перестает быть хорошей мерой». Люди — не пассивные объекты управления; они изучают алгоритм и начинают его обманывать.
- Эмпирический случай (Phantom Surge Pricing): Водители Uber и Lyft в аэропортах США (например, в Национальном аэропорту Рейгана) и Великобритании научились искусственно вызывать пиковые коэффициенты оплаты. Сотни водителей, находясь на парковке, одновременно выключали приложения. Алгоритм фиксировал резкую нехватку машин при высоком спросе пассажиров с рейса и автоматически поднимал цены (Surge). Как только цена достигала максимума, водители одновременно включали приложения и забирали заказы по двойному тарифу.
- Аномалия: Децентрализованные работники использовали синхронизацию действий, чтобы обратить алгоритмический контроль против самой корпорации. Работники платформ также регулярно используют «глушилки» GPS или привязывают смартфоны к собакам, чтобы симулировать «активность» для алгоритма.
4. Парадокс травматизма (Физиологический сбой)
Алгоритм исходит из того, что человек способен работать в ритме машины без усталости, не учитывая физиологические пределы.
- Эмпирический случай (Расследование Reveal, 2020): Центр журналистских расследований получил доступ к внутренним документам Amazon о травмах на складах. Выявилась шокирующая аномалия: на складах, оборудованных передовыми роботами (где алгоритмы управляли и людьми, и машинами), уровень серьезных травм оказался в 1,5–2 раза выше, чем на старых складах без ИИ.
- Причина: Роботы привозили стеллажи слишком быстро. Алгоритм (система Time Off Task) требовал от сортировщиков сканировать товар каждые 8–9 секунд без перерывов на протяжении 10 часов. Человеческая мышечная система не выдерживала алгоритмического темпа, что приводило к массовым грыжам, растяжениям и срывам спины.
5. Ошибки биометрии и «Кафкианские» блокировки
В алгоритмическом менеджменте гиг-экономики часто используется биометрия для подтверждения личности работника.
- Эмпирический случай (Иски против Uber Eats и Deliveroo, 2021): Британский профсоюз ADCU зафиксировал десятки случаев, когда водители (в основном с темным цветом кожи) лишались работы из-за сбоев алгоритма распознавания лиц Microsoft, встроенного в приложение. Алгоритм, не сумев распознать лицо работника в плохом освещении или не отличив его от фотографии брата, автоматически классифицировал это как «мошенничество с аккаунтом» и навсегда блокировал профиль.
- Аномалия: Ошибка софта стоимостью в доли цента мгновенно лишала человека источника дохода, при этом доказать свою правоту бездушному интерфейсу было юридически и технически практически невозможно.
Теоретический вывод
Эмпирические данные показывают, что главная аномалия алгоритмического менеджмента — это редукционизм.
Алгоритм эффективен только там, где реальность можно свести к закрытой системе с четкими правилами (например, игра в шахматы). Но управление людьми — это открытая система. Попытка управлять живыми людьми с помощью жестких математических скриптов неизбежно приводит к так называемой «алгоритмической жестокости» (algorithmic cruelty), когда система принимает математически правильное, но контекстуально абсурдное и разрушительное решение.
