Алгоритмите на Twitter за изрязване на лица благоприятстват белите хора

Алгоритмите на Twitter за изрязване на лица благоприятстват белите хора

Автоматичното изрязване на изображения на Twitter е имало основни проблеми, които благоприятстват белите хора пред чернокожите, както и жените пред мъжете, заявиха от компанията.

Това идва месеци след като потребителите подчертаха редица потенциални проблеми с алгоритмите, които помагат за изрязването на големи снимки. Последващите изследвания на социалната мрежа вече потвърдиха проблема.

Twitter заяви, че вече е започнала постепенно да премахва по-старата система, като е предоставила и актуализация на мобилните си приложения, която дава по-точни визуализации на изображенията.

При старата система алгоритъмът би направил всичко възможно да центрира изгледа на много високи или широки изображения по начин, който да рамкира лицата на хората или други интересни части от изображението. Но това не винаги работи перфектно.

Расова пристрастност

През септември миналата година служител на университет забеляза, че когато публикува две снимки – една на себе си и една на свой колега – визуализацията на Twitter последователно показва белия човек пред черния човек, без значение коя снимка е била добавена първо към публикацията.

Други потребители направиха същия експеримент и с публични личности – като например опитаха същото сравнение с бившия президент на САЩ Барак Обама и сенатор Мич Макконъл, или с изображения на бизнесмени от различен расов произход. Когато снимките на две лица от различна раса са били в едно изображение, изрязването на лиза изглежда е благоприятствало и приоритизирало белите такива, скривайки черните, докато потребителите щракнат върху пълната снимка.

Алгоритмите, които един ден ще вземат решения за живота ни

Twitter реагира бързо на ситуацията, обяснявайки, че е проучила и е разследвала за такъв тип проблеми със своята система за машинно обучение, преди да я пусне, но призна, че трябва да свърши още работа, и обеща корекция.

Компанията разкри резултатите в подробна публикация в инженерния блог в сряда.

Проблемът е идентифициран в нейния „алгоритъм на видимост“, който компанията пусна през 2018 г. за изрязване на изображения. Алгоритъмът е „обучен с данни за проследяване на човешкото око“, обясниха от Twitter, но причината за очевидните проблеми може да се свежда до няколко сложни фактора.

При тестване, в сравнение с 50/50 шанс за демографски приоритет, при алгоритмите на Twitter е установено следното:

  • Неточност от 8% в полза на жените през мъжете
  • Разлика от 4%, благоприятстваща белите хора пред чернокожите от двата пола
  • Разлика от 7%, благоприятстваща белите жени пред черните жени
  • 2% разлика в полза на белите мъже пред чернокожите

Екипът също така тества за твърдения за ефекта „мъжкия поглед“ – ситуации, при които от изображенията с жени, са били изрязани зоните на гърдите или краката им, но не и лицето. Но в този случай тестът, който Twitter е провела, не е открил пристрастия.

„Един от нашите изводи е, че не всичко в Twitter е отлично, когато става въпрос за алгоритмите. Един от най-добрите начини да се вземе решение как да се изреже едно изображение, засега е това решение да се взема от хора“, каза Румман Чоудъри, директор на софтуерното инженерство в Twitter.

 

„Работим върху допълнителни подобрения на медиите в Twitter, които се основават на първоначалните усилия и се надяваме скоро да ги разпространим за всички“, каза тя.

В изявление пред CNN говорител на Twitter поясни, че докато първоначалната промяна е била в мобилните приложения – там, където проблемът е бил докладван за първи път – компанията планира да премахне алгоритмичното изрязване от уебсайта на Twitter през следващите месеци.

Защо това е толкова сериозен проблем?

Залогът в случая на Twitter не е на живот и смърт, макар и да има потенциала да има съществени последици, когато става въпрос за политически и бизнес фигури, за които публичния имидж и обществените реакции са от ключово значение. Но алгоритмите за лицево разпознаване и идентифициране на лица в изображения един ден ще имат много по-сериозна тежест, а в много части на света вече имат такава. В много държави, електронните подписи, службите за издаване на документи и проверяване на самоличността, кредитните институции и редица други организации, разчитат именно на най-съвременните системи за лицево разпознаване. А наличието на грешки и расови пристрастия, когато става въпрос за системи, които претендират за толкова ключови функции, може да бъде катастрофално.



Източник: www.kaldata.com