Не се поклащайте на приятните тонове на набиране на утрешните AI и техните песни на сирени на необикновеността. Без значение колко силно изкуственият интелект и андроидите могат да изглеждат и действат като хора, те никога няма да го направят. бъда хората, твърдят Пол Леонарди, професор по технологичен мениджмънт на семейство Дука в Калифорнийския университет в Санта Барбара и Цедал Нийли, Нейлър Фицхю, професор по бизнес администрация в Harvard Business School, в новата си книга Цифровото мислене: какво наистина е необходимо, за да процъфтява в ерата на данни, алгоритми и AI — и следователно не трябва да се третират като хора. Двойката твърди в откъса по-долу, че по този начин това пречи на взаимодействието с напредналата технология и възпрепятства по-нататъшното й развитие.

Harvard Business Review Press

Препечатано с разрешение на Harvard Business Review Press. Извадка от ЦИФРОВИЯТ НАСТРОЙКА: Какво наистина е необходимо, за да процъфтява в ерата на данни, алгоритми и AI от Пол Леонарди и Цедал Нийли. Авторско право 2022 Harvard Business School Publishing Corporation. Всички права запазени.


Отнасяйте се с ИИ като с машина, дори ако изглежда, че действа като човек

Свикнали сме да взаимодействаме с компютър по визуален начин: бутони, падащи списъци, плъзгачи и други функции ни позволяват да даваме команди на компютъра. Въпреки това, напредъкът в AI премества нашето взаимодействие с дигитални инструменти към по-естествени и човешки взаимодействия. Това, което се нарича разговорен потребителски интерфейс (UI), дава на хората възможността да действат с дигитални инструменти чрез писане или говорене, което е много повече от начина, по който взаимодействаме с други хора, като „разговора“ на Бърт Суонсън с Ейми, асистентката. Когато кажете „Хей Siri“, „Здравей Alexa“ и „OK Google“, това е разговорен потребителски интерфейс. Разрастването на инструментите, контролирани от разговорни потребителски интерфейси, е зашеметяващо. Всеки път, когато се обадите на номер 800 и бъдете помолени да напишете името си, отговорете с „Да“ или кажете последните четири числа от вашия социалноосигурителен номер, вие взаимодействате с AI, който използва разговорен потребителски интерфейс. Разговорните ботове станаха повсеместни, отчасти защото имат добър бизнес смисъл и отчасти защото ни позволяват да имаме достъп до услугите по-ефективно и по-удобно.

Например, ако сте резервирали пътуване с влак през Amtrak, вероятно сте взаимодействали с чатбот с изкуствен интелект. Името му е Джули и отговаря на повече от 5 милиона въпроса годишно от повече от 30 милиона пътници. Можете да резервирате пътуване с влак с Джули, само като кажете къде отивате и кога. Джули може предварително да попълни формуляри в инструмента за планиране на Amtrak и да предостави насоки през останалата част от процеса на резервация. Amtrak отбеляза 800% възвръщаемост на инвестицията си в Джули. Amtrak спестява повече от 1 милион долара от разходи за обслужване на клиенти всяка година, като използва Julie, за да задава въпроси на ниско ниво, предвидими. Резервациите са се увеличили с 25 процента, а резервациите, направени чрез Julie, генерират 30 процента повече приходи от резервациите, направени през уебсайта, тъй като Джули е добра в увеличаването на продажбите на клиенти!

Една от причините за успеха на Джули е, че Amtrak дава да се разбере на потребителите, че Джули е агент на AI, и те ви казват защо са решили да използват AI, вместо да ви свързват директно с човек. Това означава, че хората се ориентират към него като машина, а не погрешно като човек. Те не очакват твърде много от него и са склонни да задават въпроси по начини, които предизвикват полезни отговори. Решението на Amtrak може да звучи контраинтуитивно, тъй като много компании се опитват да представят своите чатботове за реални хора и изглежда, че взаимодействието с машина, сякаш е човек, трябва да бъде точно как да се постигнат най-добрите резултати. Дигиталното мислене изисква промяна в начина, по който мислим за връзката си с машините. Дори когато стават по-хуманни, трябва да мислим за тях като за машини – изискващи изрични инструкции и фокусирани върху тесни задачи.

x.ai, компанията, която направи планировчик на срещи Ейми, ви позволява да насрочите среща на работното място или да поканите приятел на баскетболния мач на децата си, като просто изпратите имейл на Ейми (или нейния колега, Андрю) с вашата заявка, сякаш са жив личен асистент. И все пак Денис Мортенсен, главен изпълнителен директор на компанията, отбелязва, че повече от 90 процента от запитванията, които получава помощното бюро на компанията, са свързани с факта, че хората се опитват да използват естествен език с ботовете и се борят да постигнат добри резултати.

Може би затова насрочването на проста среща с нов познат стана толкова досадно за професор Суонсън, който продължаваше да се опитва да използва разговорни думи и условности от неформалния разговор. В допълнение към начина, по който говореше, той направи много напълно валидни предположения за взаимодействието си с Ейми. Той предположи, че Ейми може да разбере ограниченията му в графика и че „тя“ ще може да различи какви са предпочитанията му от контекста на разговора. Суонсън беше неформален и непринуден – ботът не разбира това. То не разбира, че когато поискате време на друг човек, особено ако ви правят услуга, не е ефективно често или внезапно да променяте логистиката на срещата. Оказва се, че е по-трудно, отколкото си мислим, да взаимодействаме небрежно с интелигентен робот.

Изследователите потвърдиха идеята, че третирането на машини като машини работи по-добре, отколкото да се опитваш да бъдеш човек с тях. Професорът от Станфорд Клифърд Нас и професорът от Harvard Business School Youngme Moon проведоха серия от проучвания, в които хората взаимодействаха с антропоморфни компютърни интерфейси. (Антропоморфизмът или приписването на човешки атрибути на неодушевени обекти е основен проблем в изследванията на ИИ.) Те откриха, че хората са склонни да прекаляват с човешките социални категории, прилагайки полови стереотипи към компютрите и етнически идентифицирайки се с компютърните агенти. Техните открития също така показаха, че хората проявяват прекалено заучено социално поведение, като учтивост и реципрочност към компютрите. Важно е, че хората са склонни да участват в това поведение – третират роботите и други интелигентни агенти, сякаш са хора – дори когато знаят, че взаимодействат с компютри, а не с хора. Изглежда, че колективният ни импулс да общуваме с хората често се промъква във взаимодействието ни с машините.

Този проблем с погрешното бъркане на компютрите за хора се усложнява при взаимодействие с изкуствени агенти чрез разговорни потребителски интерфейси. Да вземем за пример проучване, което проведохме с две компании, които използваха AI асистенти, които дадоха отговори на рутинни бизнес запитвания. Единият използва антропоморфизиран AI, който приличаше на човек. Другият не беше.

Работниците в компанията, които са използвали антропоморфния агент, рутинно се ядосват на агента, когато агентът не дава полезни отговори. Те рутинно казваха неща като: „Той е гадно!“ или „Очаквам да се справи по-добре“, когато се позовава на резултатите, дадени от машината. Най-важното е, че техните стратегии за подобряване на отношенията с машината отразяват стратегиите, които биха използвали с други хора в офиса. Те щяха да задават въпроса си по-учтиво, щяха да префразират в различни думи или биха се опитали да разпределят стратегически въпросите си за времето, когато смятат, че агентът, казано от един човек, „не е толкова зает“. Нито една от тези стратегии не беше особено успешна.

За разлика от тях, работниците в другата компания съобщават за много по-голямо удовлетворение от опита си. Те въведоха думи за търсене, сякаш това е компютър и изписаха нещата с много подробности, за да се уверят, че ИИ, който не може да „чете между редовете“ и да улавя нюанси, ще се вслуша в предпочитанията им. Втората група рутинно отбелязва колко изненадани са били, когато запитванията им са били върнати с полезна или дори изненадваща информация и са записвали всички проблеми, които са възникнали като типични грешки с компютър.

В обозримо бъдеще данните са ясни: третирането на технологиите — без значение колко човешки или интелигентни изглеждат — като технологии е ключът към успеха при взаимодействие с машини. Голяма част от проблема е, че те задават очакванията на потребителите, че те ще реагират по човешки начини, и ни карат да предположим, че могат да направят извод за нашите намерения, когато не могат да направят нито едно от двете. Успешното взаимодействие с разговорен потребителски интерфейс изисква дигитално мислене, което разбира, че все още сме далеч от ефективно човешко взаимодействие с технологията. Признаването, че AI агент не може точно да изведе вашите намерения, означава, че е важно да изложите всяка стъпка от процеса и да сте наясно какво искате да постигнете.