Новое умение – обманывать ИИ

Аналитики отмечают, что многие компании на постоянной основе переходят на удаленную работу с полной или частичной занятостью, что может быть дорогостоящим процессом и требовать культурных изменений. В тех организациях, которые привыкли полагаться на прямое наблюдение за поведением сотрудников, переход на удаленную работу потребует усиления полномочий в области цифрового мониторинга деятельности сотрудников,  причем в некоторых случаях с помощью ИИ.

Так же, как это происходит с любой другой технологией, направленной на ограничение пользователей, сотрудники быстро обнаруживают пробелы в стратегиях наблюдения на основе ИИ. Они могут делать это по разным причинам – например, в интересах снижения рабочей нагрузки, повышения заработной платы или просто назло работодателю. Кто-то может даже посчитать обман инструментов мониторинга на основе ИИ более привлекательной игрой, которую нужно выиграть, чем неуважение к метрике, которую руководство имеет право знать.

Организации используют системы с поддержкой ИИ для анализа поведения сотрудников так же, как ИИ используется для понимания покупателей, клиентов и представителей общественности. Эти инструменты обеспечивают базовое ведение журнала активности с предупреждениями или, в более сложных версиях, могут пытаться обнаружить положительные действия или неправильное поведение с помощью многовариантного анализа.

Многие работодатели используют системы мониторинга производительности, несмотря на то что высокий процент работников находит такие инструменты непривлекательными. Еще до пандемии исследование Gartner показало, что работники опасались новых технологий, используемых для отслеживания и контроля рабочих привычек. По прогнозам Gartner, по мере того как эти инструменты становятся все более распространенными, организации все чаще будут сталкиваться с работниками, которые стремятся уклоняться от них и подавлять их.

Сотрудники могут искать слепые зоны, где показатели не отражают активность, подотчетность неясна или ИИ можно обмануть, создав ложные или вводящие в заблуждение данные. Такая деятельность уже наблюдалась в организациях, ориентированных на цифровые технологии: например, водители такси иногда работают в двух разных службах одновременно, чтобы максимизировать личный доход.

ИТ-руководители, которые рассматривают возможность развертывания инструментов мониторинга производительности с поддержкой ИИ, должны внимательно изучить источники данных, дизайн пользовательского интерфейса и первоначальный вариант использования, предназначенный для этих инструментов, прежде чем вкладывать средства, уверены в Gartner. Нужно определить, помогает ли инструментарий и объем сбора данных сотрудникам выполнять свою работу лучшим образом. Тем, кто все же решит инвестировать в этом направлении, придется убедиться, что технология внедряется этично, проверив ее на соответствие ключевому набору ориентированных на человека принципов проектирования.