МСистемите за обучение achine от години надминават човешките си колеги във всичко – от Go и Jeopardy! за откриване на лекарства и откриване на рак. С целия напредък, който областта е постигнала, не е нечувано хората да се притесняват от роботи, които ще ги заменят в утрешната работна сила. Тези опасения са неуместни, твърди Герд Гигеренцер в новата си книга Как да останем интелигентни в интелигентен свят, ако не по друга причина, то поради самата несигурност. AI са феноменално способни машини, но само ако им бъдат предоставени достатъчно данни, върху които да действат. Въведете изключително непостоянната несигурност на човешката природа в техните алгоритми и гледайте как тяхната предсказваща точност рязко пада — в противен случай никога няма да имаме нужда да плъзгаме наляво. В откъса по-долу Gigerenzer обсъжда скритите разходи за поверителност от споделянето на телематиката на вашия автомобил със застрахователната компания.

MIT Press

Извадка от Как да останем интелигентни в интелигентен свят от Герд Гигеренцер. Публикувано от MIT Press. Авторско право © 2021 от Герд Гигеренцер. Всички права запазени.


Когато колата ви докладва на полицията

Ако самоуправляващите се автомобили няма да се случат, една алтернатива изглежда е да се обучат хората да използват AI като система за поддръжка, но да останат нащрек и да запазят контрола, ако не успее – което се нарича разширен интелект. Това се равнява на частична автоматизация, тоест на усъвършенствани версии на ниво 2 или 3. И все пак увеличеният интелект включва повече от просто добавяне на полезни функции към вашия автомобил и може да ни отведе в различно бъдеще, където AI се използва както за поддръжка, така и за наблюдение нас. Това възможно бъдеще се движи повече от застрахователните компании и полицията, отколкото от производителите на автомобили. Семената му са в телематиката.

Според стереотипа младите шофьори са безразсъдни, прекалено самоуверени и представляват застрахователен риск. Някои наистина са, но много не са. Въпреки това застрахователите често ги третират като една група и начисляват висока премия. Телематична застраховка може да промени това, като предложи по-добри тарифи за сигурни шофьори. Идеята е да се изчисли премията от действителното поведение на човек при шофиране, вместо от това на средния шофьор. За целта в колата е инсталирана черна кутия, която се свързва със застрахователя (използването на смартфон е възможно и по-евтино, но по-малко надеждно). Черната кутия записва поведението на водача и изчислява оценка за безопасност. Фигура 4.6 показва системата за оценяване на един от първите телематични застрахователи. Той наблюдава четири характеристики и им присвоява различни тегла.

таблица на телематиката на водача
MIT Press

Бързото ускорение или рязкото спиране се приписва на най-голямото тегло, последвано от шофиране над ограничението на скоростта. Всеки драйвер започва с месечен бюджет от 100 точки за всяка от четирите функции. „Събитие“ води до изваждане на точки, като например 20 точки за първото бързо ускорение или за шофиране над ограничението на скоростта. В края на месеца оставащите точки се претеглят, както е показано, и се сумират до общ резултат за безопасност. Въпреки че телематиката често се нарича застраховка на черна кутия, алгоритъмът изобщо не е черна кутия като повечето любовни алгоритми. То е обяснено подробно на сайта на застрахователя и всеки може да разбере и провери получения резултат.

Персонализираните тарифи се рекламират като насърчаващи справедливост. Те правят това, като вземат предвид индивидуалния стил на шофиране. Но също така създават нови източници на дискриминация, когато шофирането през нощта и в градовете се наказва. Болничният персонал, например, може да няма голям избор да избягва да работи през нощта и в градовете. Така някои от функциите са под контрола на водача, но не всички. Интересното е, че една функция, която е под контрола на водача, отсъства в почти всички персонализирани тарифи: изпращане на текстови съобщения по време на шофиране.

А черната кутия, която позволява справедливост, позволява и наблюдение. Помислете за възможно бъдеще. Защо черната кутия трябва да изпраща запис за превишена скорост само на застрахователя? Копие до полицията би било изключително удобно и би им спестило много усилия. Това би направило всички капани за скорост остарели. Ако превишите скоростта, колата разпечатва фиша навреме или, по-удобно, приспада глобата автоматично от вашия онлайн акаунт. Отношението ви към любимата ви кола може да се промени. Има хлъзгав наклон между справедливостта и пълното наблюдение.

Бихте ли били за ново поколение автомобили, които изпращат нарушенията на пътя директно на полицията? В проучване, което проведох, една трета от възрастните казаха „да“, повече сред тези над шестдесет и по-малко сред тези под тридесет. Технологията за това бъдеще вече съществува, тъй като повечето нови автомобили идват с инсталирана черна кутия. Данните, които събира, не принадлежат на собственика на автомобила и могат да бъдат използвани в съда срещу водача. В Джорджия полицията получи данни от черната кутия без заповед след смъртоносна катастрофа и шофьорът беше признат за виновен в безразсъдно шофиране и превишена скорост.

Докато мотивите за наблюдение варират, цифровите технологии поддържат всички тях. Не е нужно дори да купувате телематична застраховка. Модерните автомобили имат вградени интернет връзки и — без това да е прозрачно в ръководството за собственика — повечето изпращат на производителя на автомобила си всички данни, които могат да съберат на всеки две минути, включително къде се намира водачът в момента, дали е настъпило рязко спиране, колко често сменена е позицията на шофьорската седалка, кои бензиностанции или зарядни станции са посетени и колко CD-та и DVD-та са поставени. Освен това, веднага щом включите своя смартфон, колата може да копира вашата лична информация, включително адреси на контакти, имейли, текстови съобщения и дори снимки. Производителите на автомобили са удивително мълчаливи за тази дейност и когато са попитани с кого споделят тези данни, те обикновено не отговарят. Тази информация помага да се открият много други интересни неща, като например колко често шофьорите посещават McDonald’s, колко здравословно живеят и кого понякога посещават през нощта. Свързаните коли могат да подкрепят справедливостта и да подобрят безопасността, но също така да ви шпионират. Телематичното застраховане въплъщава двойното лице на цифровата технология: наблюдение в замяна на удобство.