В интервю с Даниел Хамбъри в Лондон Вечерен стандарт вестник, Уелс предъвква някои от проблемите, присъщи на технологията – особено нейната тенденция да „халюцинира“ или да си измисля нещата – но посочва, че „използването на AI за утрояване на броя на записите в Wikipedia няма да увеличи работата ни струва повече от £1000 на година.”
Един ранен случай на използване, казва Уелс, може да бъде използването на голям езиков модел (LLM) като GPT за сравняване на множество статии, търсене на точки, които си противоречат, и използване на неговите констатации за идентифициране на части, от които армията от хора-доброволци на Уикипедия може да се нуждае положете малко работа.
Но той определено обмисля просто да остави тези LLM да пишат страници.
„Мисля, че все още сме далеч от: „ChatGPT, моля, напишете запис в Уикипедия за Емпайър Стейт Билдинг“, казва той на Хамбъри, „но не знам колко далеч сме от това, със сигурност по-близо от Бих си помислил преди две години.”
Един възможен сценарий е изкуственият интелект да премине през търсенето на всички много пропуски в Уикипедия – потенциално полезни страници, които никога не са били писани – и да се опита да създаде обобщени записи за тях, използвайки информация от мрежата.
Но Уелс е наясно, че цялата репутация на Wikipedia се основава на възприятието за точност и че това в момента е огромен проблем с LLM като GPT.
„Има тенденция просто да измисля неща от нищото, което е наистина лошо за Wikipedia“, казва той. „Това просто не е ОК. Трябва да сме много внимателни за това.“
Ако LLM-ите започнат да пишат централно хранилище на знания като Wikipedia, халюцинациите или лъжите, които не са хванати незабавно, ще започнат да се образуват снежна топка. Хората ще използват тези не-факти в собственото си писане и следващите AI ще бъдат обучени с тези не-факти, вградени в тях, което ще затрудни коригирането им в дългосрочен план и ще ни накара да се задълбочим в това ерата на “постистината”..
Уелс също е загрижен дали използването на LLMs за разширяване на ресурса може да помогне или да изостри проблемите на Уикипедия със системни и несъзнателни пристрастия; ресурсът в момента се пише и поддържа от доброволци, огромното мнозинство от които са бели мъже, така че сайтът има тенденция да игнорира теми, които не представляват интерес за тази група, и да обхваща други теми от определена гледна точка.
ChatGPT е изрично разработен, за да се опитва балансирана гледна точка по темите, където е възможно, в опит да върне някои нюанси в дискусионните области, където хората от различни страни все по-трудно започват от обща основа. Но GPT има свои собствени проблеми с пристрастията, присъщи на неговите данни за обучение.
Това е трънлива тема и със сигурност ме накара да се замисля дали да продължа да дарявам на сайта, ако тръгне по този път. Но реалистично погледнато, всяка организация, която не се преориентира към феноменалните възможности на LLM от следващо поколение, се поставя в огромно неизгодно положение и е лудост да очакваме, че тези неща няма да започнат да се разпространяват навсякъде.
източник: Вечерен стандарт
Публикациите се превеждат автоматично с google translate
