Facebook се извини, след като изкуственият интелект нанесе невероятен етикет на видеоклип на чернокожи мъже. Според Ню Йорк Таймс, потребители, които наскоро са гледали видеоклип, публикуван от Daily Mail с участието на черни мъже видя подкана да ги пита дали искат “[k]вижте видеоклипове за примати. “Социалната мрежа се извини за” неприемливата грешка “в изявление, изпратено до публикацията. Също така деактивира функцията за препоръки, която е отговорна за съобщението, тъй като разглежда причината, за да предотврати сериозни грешки като тази от се случва отново.

Говорителят на компанията Дани Левър заяви в изявление: „Както казахме, макар да направихме подобрения в нашия AI, ние знаем, че той не е перфектен и трябва да постигнем повече напредък. Извиняваме се на всеки, който е виждал тези обидни препоръки. “

Пристрастията към пола и расата в изкуствения интелект едва ли са проблем, който е уникален само за социалната мрежа – технологиите за разпознаване на лица все още са далеч от перфектните и са склонни да идентифицират погрешно ПОС и жените като цяло. Миналата година фалшивите мачове за разпознаване на лица доведоха до неправомерни арести на двама чернокожи в Детройт. През 2015 г. Google Photos маркира снимките на чернокожи като „горили“ и Кабелен установи няколко години по -късно, че решението на технологичния гигант е да цензурира думата „горила“ от търсения и маркери за изображения.

Социалната мрежа сподели набор от данни, създаден от нея с AI общността в опит да се пребори с проблема преди няколко месеца. Той съдържаше над 40 000 видеоклипа с 3000 платени актьори, които споделиха възрастта и пола си с компанията. Facebook дори наема професионалисти, които да осветяват снимките им и да маркират тоновете на кожата им, така че системите за изкуствен интелект да научат как изглеждат хората от различни етноси при различни условия на осветление. Наборът от данни очевидно не беше достатъчен за пълно разрешаване на пристрастията на AI за Facebook, което допълнително демонстрира, че AI общността все още има много работа пред себе си.