Осторожно: искусственный интеллект!

Одной из самых обсуждаемых тем этого десятилетия является искусственный интеллект. Развитие человечества в области машинного обучения и внедрения этих достижений в социальную реальность далеко продвинулось за эти годы. И речь идёт не только о каких-то мелочах, вроде написанных нейросетями дипломных работ студентов. Мы наблюдаем, как всё больше процессов благодаря всё новым и новым достижениям в этой области автоматизируется. 

Сам процесс внедрения искусственного интеллекта в экономику активно пропагандируется не только различными энтузиастами, но и самой властью. И здесь необходимо вспомнить не потерявшую актуальности статью Владимира Ильича Ленина «Кому выгодно?» в газете «Правда» от 13 апреля 1913 года: «Мы живём в торговое время, когда буржуазия не стесняется торговать и честью, и совестью. Бывают и простачки, которые по недомыслию или по слепой привычке защищают господствующие в известной буржуазной среде взгляды. Нет, в политике не так важно, кто отстаивает непосредственно известные взгляды. Важно то, кому выгодны эти взгляды, эти предложения, эти меры».

Так, целый ряд исследователей уже окрестили наблюдаемые изменения новым качественным витком развития человечества. По их представлению, впервые за долгие годы мы наблюдаем не экстенсивный рост или совершенствование каких-то отдельных технологий, придуманных до этого, а имеем дело с новым фактором, который сущностно меняет сложившийся статус-кво не только в мире науки и техники, но и в сфере общественных отношений.

Аргументы подобной позиции вполне убедительны. Долгое время мы полагали, что достижения в области машинного обучения приведут к автоматизации наименее творческих профессий. Уж кому-кому, а художникам и писателям за свой хлеб волноваться в прекрасном технологическом будущем не приходилось. Куда более беспокойно себя чувствовали, к примеру, таксисты на фоне активного развития беспилотных автомобилей.

Однако пришло время, и оказалось, что нейросети могут по весьма размытым вербальным описаниям оперативно генерировать сотни изображений.

Уже сегодня подчас бывает трудно отличить изображение, сгенерированное нейросетью, от полотна из-под руки опытного художника. О генерации текста и говорить не приходится. «Скормив» нейронной сети достаточно строк для обучения, можно получить весьма качественный слепок стиля того или иного автора.

В США уже проходят суды между именитыми писателями и организациями, разрабатывающими нейронные сети. Конечно, ключевой вопрос там финансовый, пусть и облечённый в витиеватые конструкции авторского права.

В этих условиях действительно легко поверить в слова об изменившихся правилах игры социальной реальности. Но так ли это? Действительно ли мы столкнулись с фактором, который меняет общественно-экономические отношения настолько фундаментальным образом, что парадигма старого капиталистического общества с царящей там системой угнетения владельцев капитала над пролетариями более не применима?

Для ответа на данный вопрос стоит присмотреться к тому, как нейронные сети, машинное обучение, облачные сервисы и прочие технологические новшества изменили жизнь работников наёмного труда. В этом отношении примеры являются куда менее вдохновляющими. Вспомним ситуацию, возникшую на предприятиях одного из крупнейших западных интернет-магазинов Amazon. В 2018 году компания запатентовала дизайн браслета с тактильной обратной связью, который контролирует местоположение рук рабочего. Программное обеспечение должно было сопоставлять положение рук с предметом инвентаризации, который нужно отсортировать или упаковать, и с помощью вибрации браслет будет подсказывать сотруднику правильное направление.

Однако программа, заявленная цель которой была помощь сотруднику, оказалась инструментом давления на рабочих и привела к сверхэксплуатации. Система отслеживала движение рук сотрудника и его перемещения. Когда работник обрабатывал меньше заказов в час, чем требуется, система автоматически делала ему предупреждение. Она также следила за тем, сколько секунд проходит между сканированиями товаров, а также за количеством перерывов. Всего возможно было сделать три перерыва за смену: один раз – 30 минут и два раза по 15 минут. В итоге рабочие склада столкнулись с тяжёлыми условиями труда, когда необходимо упаковывать сотни коробок в час ради выполнения установленной нормы.

В июне 2020 года Amazon представила новый инструмент на базе искусственного интеллекта, который, по заявлению компании, поможет сотрудникам соблюдать правила социального дистанцирования. А уже в августе 2021 года компания ввела программу контроля за сотрудниками службы поддержки, которая отслеживала нажатие клавиш и движения «мыши» работников.

В том же году была внедрена автоматизированная система оценки работы водителей доставки с помощью умных камер. Теперь камеры отмечают нарушение правил техники безопасности и дорожного движения: например, если водитель не остановился под знаком СТОП, превысил скорость, отвлёкся во время вождения или просто не соблюдает дистанцию до впереди идущей машины. Под угрозой увольнения водители Amazon вынуждены были подписывать форму биометрического согласия.

Думать, что подобная практика является уделом лишь западного мира, – большое заблуждение. Аналогичные ситуации происходят и в странах Азии, и в России. Так, в 2018 году основатель и генеральный директор пермской компании Xsolla Александр Агапитов объявил об увольнении сразу 150 «невовлечённых и малопродуктивных сотрудников». Активность людей оценивала команда Big Data на основании того, как часто работники отмечаются в чатах, электронной почте и иных программах. Как заявил директор, в последний год его компания перестала показывать 40-процентный рост. Чтобы это компенсировать, было принято решение расстаться с неэффективными сотрудниками.

Также особенный интерес представляет конфигурация рыночных отношений, складывающаяся между цифровыми платформами, потребителями и курьерами/таксистами. Для более понятного изложения сосредоточимся на такси. Рядовой потребитель сегодня не задумывается, кто именно будет оказывать ему услугу перевозки. Он обращается в агрегатор, и тот услужливо предоставляет ему индивидуального предпринимателя или самозанятого, который готов подвезти потребителя за неизвестную для самого себя плату. Разумеется, никакой страховки во время поездки не предусмотрено, равно как и возможности выбора таксиста.

Полное отсутствие гарантий со стороны агрегатора (в том числе и таксистам, что им не попадётся асоциальный опасный элемент вместо потребителя) маскируется иллюзорной системой рейтингов, являющейся скорее ещё одной формой контроля агрегатора за таксистами. При этом потребителя, по вполне очевидным причинам, интересует больше цена поездки для себя, чем для водителя. Непрозрачная система ценообразования и назначения выплат самим таксистам в руках IT-гиганта создаёт колоссальные возможности для нездоровой конкуренции с традиционными автопарками, а впоследствии и монополизации рынка.

Казалось бы, очевидным ответом на попытки извлечения ренты возможным монополистом после демпингового захвата рынка может и должна являться растущая доля реально самозанятых таксистов. Тем не менее это не происходит и не может происходить. В условиях действительно происходящей трансформации рынка цифровая платформа превращается в аналог средства производства для крупных IT-компаний агрегаторов.

Как и в XIX веке можно было сшить рубашку кустарными методами для продажи её на рынке, так и сегодня можно зарегистрироваться самозанятым таксистом и предпринимать попытки частного извоза. Однако как кустарный метод пошива просто неконкурентоспособен с производительностью мануфактур и фабрик, так и частный таксист или даже маленький региональный автопарк неконкурентоспособен с агрегатором. Вызов такси без удобного интерфейса, по телефону, да ещё и со значительно большим временем ожидания, не может соперничать с удобствами «Яндекс.Такси» для потребителя.

При этом стоимость разработки и обслуживания полноценного и качественного приложения-агрегатора создаёт существенный барьер для вхождения на рынок. Аналогично исследуемым Марксом средствам производства цифровые платформы становятся фактором разделения и поляризации участников рынка труда на хозяев средств производства и работников, продающих свой труд (ограниченных тем фактом, что без суммирования с дорогостоящими средствами производства результаты их труда неконкурентоспособны на рынке).

Но, может быть, мы стоим на пороге создания нового участника экономических отношений в виде искусственного интеллекта? Ведь если наши механические творения сами станут источником прибавочной стоимости и заменят собой массы наёмных рабочих как класс, то это потребует серьёзного пересмотра трудовой теории стоимости. На самом деле на любом этапе развития техники машины продолжают оставаться в разряде тех факторов производства, которые именуются капиталом. В этом плане вполне убедительна цитата Эвальда Васильевича Ильенкова о перспективах создания искусственного интеллекта из его работы «Об идолах и идеалах» 1968 года.

«Тезис о возможности построить машину, такую же умную и такую же нравственно-осмотрительную, как Человек, верен лишь при том допущении, что понятие «человек» скроено по образцу таких людей, которые действительно больше похожи на машину, чем на человека. С подобных «человеков» (а точнее, с реальных людей в их машинообразных функциях) и сделано, видимо, то «индуктивное обобщение», которое может показаться определением понятия «человек». Что же касается понятия «человек» в подлинном смысле слова, то его «определённость» заключается в отсутствии всякой заранее и навсегда закодированной в нём определённости. В универсальности. Той самой универсальности, которая позволила ему сделать всё то, что он сделал в ходе своего исторического развития. И всё, что ему ещё предстоит сделать в мире. В том числе и кибернетические машины, те и такие, какие ему понадобятся».

На плашке

Здесь необходимо заметить, что автор данных строк не является противником развития искусственного интеллекта. Более того, сам факт подобного развития является объективным и закономерным процессом. С тем же успехом можно быть противником восхода и захода солнца. Однако стихийное и неконтролируемое обществом движение в этом направлении не может не вызывать беспокойства.

Пожалуй, со времён создания ядерной бомбы человечество как вид не стояло перед более существенной угрозой своему существованию. И исследования в области искусственного интеллекта должны быть регламентированы и поставлены под общественный контроль. Слишком высока степень ответственности для того, чтобы возлагать её на частные корпорации, которые гонятся лишь за собственной прибылью. Ибо за бесконтрольное и безответственное развитие искусственного интеллекта в конце концов человечество может дорого заплатить.