ИИ на работното място: Хора биват назначавани и уволнявани от алгоритми

ИИ на работното място: Хора биват назначавани и уволнявани от алгоритми

Конгресът на профсъюзите (TUC) във Великобритания предупреди за „огромни пропуски“ в трудовото законодателство на Обединеното кралство относно използването на изкуствен интелект за подбор и управление на персонала.

TUC заяви, че работници на този етап могат да бъдат „наемани и уволнявани от алгоритми“ според действащите закони и са необходими нови правни защита.

След промените, към които тя призовава, е законово да бъде уредено „високорисковите“ решения по отношение на управление на служителите, да бъдат вземани от хора.

Генералният секретар на TUC Франсис О’Грейди каза, че използването на ИИ за управление на хората в една работна организация е „отклонение от нормалното“.

„ИИ на работното място може да се използва за подобряване на производителността и трудовия живот. Но в някои компании алгоритмите вече се използват за вземане на решения, които могат да променят живота на хората, както и цялостната структура на работните места – като системи с ИИ вземат решения кой да бъде нает и кой да бъде уволнен.

 

Без справедливи правила за използването на ИИ за управление на човешките ресурси може да достигнем до широкоразпространена и повсеместна дискриминация и несправедливо отношение – особено за служителите, които живеят и работят в несигурна работа и нестабилна икономика“, предупреди тя.

Много компании вече използват автоматизирано вземане на решения по отношение на човешките ресурси за прости задачи. Например, Uber възлага на шофьорите си задачи за шофиране автоматично, чрез системи, а за Amazon е известно, че използва системи за наблюдение с AI, за да наблюдава персонала в складовете си.

И много фирми вече използват автоматизирани системи без човешки надзор вече дори и на едни от началните етапи на вземане на управленски решения по отношение на човешките ресурси.

Когато компютър отхвърля кандидатурата ви за работа

Системите за управление на човешките ресурси с изкуствен интелект стават все по-усъвършенствани, опасението е, че ще бъдат възлагани все по-сериозни, високорискови решения, като например анализ за потенциалната ефективност на даден работник, за да се избере кой да бъде нает.

Това обаче може да се случи, дори когато е замесен човек в подбора на персонала, предупреждава доклад от TUC, благодарение на автоматизираното вземане на решения.

Човешки агенти

Макар и хората да са субективни създания, системите с изкуствен интелект далеч ги надминават в това отношение на този етап, както показват редица проучвания, тъй като системите все още демонстрират известни пристрастия във вземането на редица решения, пишат авторите.

„Човек може да се заеме с някаква формална задача, като например да борави с документ, но когато основните решения се вземат на база на информация от автоматизирани системи, това значително намалява използването на човешката експертиза“, пишат авторите.

„Понякога вземането на човешки решения е до голяма степен илюзорно, например когато човек в крайна сметка участва само по някакъв формален начин в решението какво да прави с изходната информация от машината.“

Докладът на TUC, написан с помощта на адвокати по трудовите права и AI Law Consultancy, твърди, че законът не успява да бъде в крак с бързия напредък в AI през последните години.

Съюзният орган призовава за:

  • Задължение за работодателите да се консултират със синдикатите относно използването на „високорисков“ или „натрапчив“ ИИ по време на работа
  • Законното право на решения за човешки контрол
  • Законно право да се „изключите“ от работа и да не се очаква да отговаряте на обаждания или имейли
  • Промени в законодателството на Обединеното кралство за защита срещу дискриминация чрез алгоритъм

Дискриминацията чрез алгоритъм е добре документирана през последните години, често като неволен страничен ефект от използването на системи, които не отчитат расовите пристрастия.

Един от най-известните примери е в технологията за разпознаване на лица, която в миналото е била обучена да разпознава белите лица по-лесно от тези от други нации. Подобни проблеми накараха IBM да изостави някои от усилията си по отношение на технологията миналата година, определяйки я като „пристрастна“.

TUC посочи също така скорошни съобщения за твърдения от шофьори на доставки за Uber Eats, които твърдят, че са били уволнени, тъй като софтуерът за разпознаване на лица не е могъл да разпознае лицата им.

Това доведе до уволнение на шофьори със 100% рейтинг и хиляди изпълнени доставки, тъй като не са извършили проверка на личната карта, изисквана от новите системи, твърдят засегнатите шофьори. Uber отрича това, като казва, че винаги е включен човешки преглед, преди решенията от автоматизираните системи да станат окончателни.

„Изключително опасно“

Авторите на доклада за TUC, Робин Алън и Дий Мастърс от адвокатска кантора Cloisters, заявиха, че докато AI може да бъде от полза, „използвано по грешен начин, може да бъде изключително опасно“.

„Вече важните решения се взимат от машини“, заявяват двамата експерти в съвместно изявление.

„Отчетността, прозрачността и точността трябва да бъдат гарантирани от правната система чрез внимателно изработените правни реформи, които предлагаме. Има ясни граници, които не трябва да се пресичат, за да не се обезчовечи работата.



Източник: www.kaldata.com