Microsoft по невнимание научи рисковете от създаването на расистки AI, но какво ще стане, ако умишлено насочите разузнаването към токсичен форум? Един човек разбра. Като дънна платка и На ръба забележка, YouTuber Yannic Kilcher обучени езиков модел на AI, използващ тригодишно съдържание от таблото за политически неправилно (/pol/) на 4chan, място, печално известно със своя расизъм и други форми на фанатизъм. След като внедри модела в десет бота, Килчър пусна AI свободно на дъската – и това не е изненадващо, създаде вълна от омраза. В рамките на 24 часа ботовете написаха 15 000 публикации, които често включват или взаимодействат с расистко съдържание. Те представляваха повече от 10 процента от публикациите в /pol/ този ден, твърди Килчър.

Наречен GPT-4chan (в името на GPT-3 на OpenAI), моделът се научи не само да улавя думите, използвани в /pol/ публикациите, но и цялостният тон, който Килчър каза, смесва „обидност, нихилизъм, тролинг и дълбоко недоверие“. Създателят на видеото се погрижи да избегне защитата на 4chan срещу прокси и VPN и дори използва VPN, за да изглежда, че публикациите на ботове произхождат от Сейшелите.

AI направи няколко грешки, като празни публикации, но беше достатъчно убедителен, че отне около два дни, за да разберат, че нещо не е наред. Според Килчър много членове на форума забелязаха само един от ботовете и моделът създаде достатъчно предпазливост, че хората се обвиняваха един друг, че са ботове дни след като Килчър ги деактивира.

YouTuber характеризира експеримента като “шега”, а не изследване, в разговор с На ръба. Това е напомняне, че обученият AI е толкова добър, колкото е добър неговият изходен материал. Вместо това тревогата произтича от това как Килчър сподели работата си. Въпреки че избягваше да предостави кода на бота, той сподели частично кастрирана версия на модела с хранилището с изкуствен интелект Hugging Face. Посетителите можеха да пресъздадат AI за зловещи цели и Hugging Face реши да ограничи достъпа като предпазна мярка. Имаше ясни етични опасения по отношение на проекта и самият Килчър каза, че трябва да се съсредоточи върху “много по-позитивна” работа в бъдеще.