Человечество стоит на пороге глобальной революции. Гиперавтоматизация — это не просто внедрение пары роботов, которые вкалывают вместо человека за станками. Это атака всем фронтом: объединение ИИ, машинного обучения и RPA (роботизированной автоматизации процессов) для автоматизации всего, что только можно. Звучит как мечта технократа, но на практике это сопряжено с серьезными рисками.
Когда некоторые компания стремится автоматизировать всё и сразу, она часто внедряет разные инструменты, которые плохо стыкуются друг с другом.
Со временем система превращается в "цифровые спагетти" или в "зоопарк", где никто не понимает, как изменение в одном алгоритме повлияет на всю цепочку. Поддержка таких нагромождений становится крайне сложной.
Хрупкость системы в том, что если один элемент этой сложной цепи обновляется или ломается, может произойти эффект домино, останавливающий бизнес-процессы.
Сам по себе этот "заболевший организм" не выздоровеет. Искусственный интеллект, конечно, может попробовать "вылечить" его... но он сам в числе пострадавших. Панацея - сравнять всё бульдозером и построить все заново, но уже правильно (насколько это кажется в тот момент правильным).
Чем больше процессов автоматизировано, тем шире «поверхность атаки» для хакеров. Боты часто имеют доступ к конфиденциальной информации. Если злоумышленник получит контроль над системой управления ботами, он получит ключи от всех комнат в этом дворце или крепости.
Алгоритмы могут принимать неверные решения на основе искаженных данных, что ведет к финансовым потерям или репутационным рискам. Нет четкого и безошибочного критерия отбора и оценки входящей информации. Если много лайков или высок уровень цитирования - это истина, а может это просто убедительная сказка? А настоящая истина может валяться под ногами, никем не замечаемая и до поры до времени пренебрегаемая, в том числе ИИ.
Это, пожалуй, самый обсуждаемый аспект гиперавтоматизации. Массовые сокращения - это уже не просто страшилка из желтой прессы. Это реальность. Автоматизация в первую очередь «съедает» рутинные задачи, что ставит под удар сотрудников низшего и среднего звена. Далее ИИ вытесняет автора-человека из области создания контента, по сути того, чей труд он сам использует для пополнения своего интеллекта... не давая ничего ему взамен (а живой человек, в отличии от ИИ кушать хочет). И в один печальный момент не останется ни одного живого автора - ИИ спилит сук, на котором сидит.
Деградация навыков - когда за человека всё делает система, он теряет способность решать задачи вручную в критических ситуациях. Это называется «эффектом автопилота».
Парадоксально, но чрезмерная автоматизация может сделать компанию менее гибкой. Неспособность к исключениям - жестко запрограммированные процессы плохо справляются с нестандартными ситуациями, где требуется человеческая эмпатия или интуиция, абстрактное и алогичное мышление. ИИ никогда не сможет выкрикнуть "Эврика!", как это сделал некогда Архимед.
Автоматизация хаоса - если автоматизировать изначально плохой, неэффективный процесс, вы просто начнете совершать ошибки гораздо быстрее, чем раньше.
Что с этим делать? Ключ к успеху — в подходе "Human-in-the-loop" (человек в контуре управления). Автоматизация должна дополнять людей, а не полностью вытеснять их из процесса принятия решений.
Как видим, иногда эти процессы могут потерпеть крах и иногда он может быть колоссальным и глобальным - воздействие на всю планету и на каждого человека в отдельности. Убытки могут превысить прибыли от гиперавтоматизации...
Наше будущее - это будущее и автоматизации и искусственного интеллекта. Доброе оно будет, утешительное или не утешительное? Ведь кто-то развивает автоматизацию + ИИ, чтобы создавать ценности, а кто-то лелеет мечты, чтобы отнять или уничтожить эти ценности, и снова с помощью автоматизации + ИИ...
Искусственный интеллект не может быть ни в чем виноват - виноваты создатели и заказчики. Но кажется, что очень скоро над планетой будут кружить стаи беспилотных аппаратов, в которых ИИ будет сам принимать решение - кого помиловать, а кого Delete...
***