IBM končí s prodejem technologií pro rozpoznávání obličeje

Jako jedna z reakcí na protesty proti rasismu, odehrávajících se ve Spojených státech, se v posledních dnech společnost IBM rozhodla ustoupit od distribuce technologií zaměřených na rozpoznávání obličejů. Jedním z faktorů je problematika omezené funkčnosti těchto systémů u etnického obyvatelstva, příslušníků menšin a žen. V minulosti se už několikrát ukázalo, že technologie dosud fungují s velkou chybovostí a to zejména z důvodu nereprezentativních vstupních dat.

IBM se nadále nechce podílet na technologiích, které podle společnosti slouží k plošnému dohledu, rasovému rozřazování, porušování základních lidských práv a svobod nebo jiných přístupech, které by porušovaly hodnoty a principy IBM, tedy důvěru a transparenci.

Umělá inteligence, díky které má rozpoznávání tváří fungovat lépe, často vycházela ze snímků vybraných vývojáři. Tato data však byla zavádějící, jelikož se většinou jednalo o bílé muže a neodráželo to tak různé odstíny kůže ani pohlaví zastoupená ve společnosti. Kvůli tomu nebyla technologie schopna správně rozpoznávat tváře. U některých skupin obyvatelstva docházelo k chybovosti kolem 30 procent.

„Věříme, že je na čase abychom začali s celostátní debatou, zda by měla být technologie rozpoznávání obličejů využívána ze strany státní moci,“ uvedl Krishna v prohlášení. Dosud v Americe neexistuje federální zákon, který by použití technologie omezoval, či jinak upravoval. Jednotlivá města a státy tak přistupují k různým řešením – někde se použití výrazně omezí, jinde dostane zelenou.

IBM je první z velkých technologických firem, která se rozhodla pro nerozvíjení technologie rozpoznávání obličejů. Amazon dva dny po oznámení společnosti IBM oznámil, že v následujícím roce přerušuje distribuci systému Rekognition pro americkou policii. V roce 2018 Americká unie pro občanské svobody (ACLU) demonstrovala nedokonalost systému, když dokázala, že Rekognition špatně přiřadil 28 členů Kongresů k zločinců, kteří byli vybraní z 25 tisíc policejních identifikačních fotek po zatčení.

Podle kritiků z ACLU technologie dochází při rozpoznávání identity k porušování soukromí například v případě společnosti Clearview AI – ta v Illinoiss spojuje biometrické údaje s internetovou stopou zaznamenané osoby. Zástupci ACLU tvrdí, že sbírání těchto dat bez oznámení nebo bez získání souhlasu od daného člověka znamená porušení místních zákonů. „Použití rozpoznávací technologie Clearview získal více než tři miliardy identifikačních fotek, které jsou dostupné online. To vše bez vědomí- více či méně – těch, co jsou na fotkách,“ tvrdí představitelé ACLU.

Převzato z webu Euro.cz. Autor: Filip Zelenka