Европейският парламент има законодателите в Европейския съюз да забранят автоматизирането в публични пространства и да въведат строги предпазни мерки за полицейското използване на изкуствен интелект. Евродепутатите гласуваха в подкрепа на с 377-248, при 62 въздържали се.

Евродепутатите казаха, че гражданите трябва да бъдат наблюдавани само когато са заподозрени в престъпление. Те цитират притеснения и твърдят, че са необходими както човешки надзор, така и правна защита, за да се избегне дискриминация. Политиците отбелязаха, че има доказателства, които предполагат, че системите за идентификация, базирани на AI, неправилно идентифицират, ЛГБТИ+ хора, възрастни хора и на по-високи нива. В резултат на това евродепутатите казват, че “алгоритмите трябва да бъдат прозрачни, проследими и достатъчно документирани”, като опциите с отворен код се използват, когато е възможно.

 

В резолюцията се посочва, че „тези, които са обект на системи, задвижвани от AI, трябва да прибягнат до отстраняване“. Съгласно правото на ЕС, според документа, „едно лице има право да не бъде подложено на решение, което поражда правни последици по отношение на тях или оказва значително влияние върху тях и се основава единствено на автоматизирана обработка на данни“.

Освен това евродепутатите призоваха длъжностните лица на ЕС да забранят частни бази данни за разпознаване на лица (някои правоприлагащи органи в Европа използват такава), както и „предсказваща полиция въз основа на поведенчески данни“. Те също така призоваха Европейската комисия да забрани и каза, че и другите системи за граничен контрол, които използват автоматично разпознаване, трябва да бъдат затворени.

Одобрението на резолюцията следва от регулаторите на ЕС за защита на данните това лято. Европейският съвет за защита на данните и Европейският надзорен орган по защита на данните заявиха, че ЕК трябва да забрани на системите за изкуствен интелект да използват биометрични данни, за да категоризират хората „в клъстери въз основа на етническа принадлежност, пол, политическа или сексуална ориентация“ или всяка друга класификация, която може да доведе до дискриминация.

През април ЕК прие законопроект, наречен Закон за изкуствения интелект, който ще въведе широка регулаторна рамка за AI. Сред мерките са забраната за дистанционна биометрична идентификация (като разпознаване на лица) в публични пространства, освен ако не се използва за справяне с големи престъпления, включително тероризъм и отвличания.