Vonkajšie hranice Únie by mohla chrániť umelá inteligencia

Kontrola na hranici. [EPA-EFE/Kerstin Joensson]

Projekt financovaný Európskou úniou vyvíja „inteligentný kontrolný systém“, zameraný na kontrolu osôb z tretích krajín, ktoré chcú prekročiť vonkajšie hranice Únie. Jedným z nástrojov systému je aj sofistikovaná analýza mimiky tváre.

Inteligentný prenosný systém kontroly na hraniciach (The Intelligent Portable Border Control System alias iBorderCtrl) predstavuje sériu niekoľkých procesov digitálnych procedúr, ktoré majú za úlohu zoskenovať tváre a upozorniť na akékoľvek „podozrivé“ reakcie, či potenciálne klamlivé tvrdenie osôb, ktoré chcú vstúpiť do Schengenského priestoru.

Systém založený na umelej inteligenciu sleduje až 38 „mikro-pohybov“ na tvári ľudí – smerovanie pohľadu oči, dilatácia zreničiek, nepatrné zmeny v hlase a ďalšie pre človeka nezaznamenateľné zmeny výrazu. Tie sa získavajú v priebehu rozhovoru a série otázok od pracovníkov na hraničných prechodoch.

Spoločnosť iBorderCtrl vznikla v rámci programu Európskej únie, zameraného na výskum a inováciu Horizont 2020 a zúčastňuje sa na ňom 13 partnerských inštitúcií z celej Európy.

Európska komisia prispieva na vývoj nového nástroja sumou 4,5 milióna eur. Systém bol dokončený v septembri 2016 a finalizovala ho luxemburská spoločnosť European Dynamics. Dokončenie testovacieho fázy je naplánované na august budúceho roka.

Umelá inteligencia je parným strojom dneška, hovorí Komisia

Európska komisia predložila v stredu (25. apríla) sériu opatrení, ktoré majú umožniť, aby umelá inteligencia slúžila európskym občanom a posilnila konkurencieschopnosť Európskej únie v tejto oblasti.

So zámerom spoločne zdokonaliť zabezpečenie európskych hraníc a prispieť k prevencii zločinu a terorizmu má podľa Komisie nový systém aj zrýchliť proces kontroly osôb prichádzajúcich do EÚ, ktorých počet sa každým rokom zvyšuje.

„Využívame existujúce a overené technológie, rovnako ako novinky, aby sme posilnili pracovníkov na hraniciach a zvýšili presnosť a efektivitu hraničných kontrol,“ povedal koordinátor projektu George Boultadakis z European Dynamics Komisii po predstavení prvej verzie systému.

„IBorderCtrl bude zbierať dáta nielen z oblasti klasickej biometrie, ale bude sledovať aj ukazovatele podvodného správania,“ dodal.

Systém nemá nahradiť pohraničnú stráž

Pilotný projekt sa skladá z dvojfázového procesu a funguje na dobrovoľnej báze. V prvej časti musia tí, ktorí chcú vstúpiť do EÚ, ešte pred osobnou prehliadkou vyplniť test, ktorý je súčasťou online žiadosti, a to ešte doma. Zároveň musia do databázy nahrať niekoľko dokumentov ako kópiu pasu, víza alebo doklad o svojich finančných prostriedkoch.

Následne osoba zodpovie otázky „ušité na mieru“ podľa ich individuálnej žiadosti, a to v rámci rozhovoru cez webkameru s animovanou reprezentáciou pohraničného strážcu. Odpovede a reakcie následne zanalyzuje umelá inteligencia sa schopnosťou rozpoznávať snahu systém oklamať, ktorú vyvinula Manchester Metropolitan University.

Podľa Komisie systém nemá nahradiť pohraničnú stráž. Pracovníci stráže majú mať k dispozícii vreckové zariadenia, pomocou ktorých sa automaticky overí informácia a porovnajú sa obrázky tváre zachytené v priebehu prvej fázy „domácej“ kontroly s údajmi v pase, či fotografiami, získanými pri predchádzajúcich prekročeniach hraníc.

Únia pripravuje usmernenia o etike pri využívaní umelej inteligencie

Európska komisia oznámila, že zriaďuje skupinu pre umelú inteligenciu a za pomoci expertov začína pracovať na návrhu usmernení o etike pri jej využívaní. Informovala o tom Európska skupina pre etiku vo vede a nových technológiách (EGE).

Výsledky sú potom dostupné na hraničných checkpointoch, kde cestujúci počas odovzdávania pasov a víz prejdú druhou kontrolou.

„Po opätovnom zhodnotení dokumentov žiadateľa, odobratí odtlačkov prstov, skenovaní tváre a ďalších krokoch, je potenciálne riziko prijatie cestujúceho prepočítané. Až následne prevezme od automatického systému iniciatívu skutočný strážca,“ dodala Komisia.

„Systém nerobí úplne automatické rozhodnutia, iba vedie akési rizikové skóre,“ vysvetlila Keeley Crockettová z Manchester Metropolitan University.

Jednotlivci označení ako „nízkorizikoví“ prejdú pred vstupom do EÚ už len krátkym zhodnotením poskytnutých informácií. Pokiaľ ale systém zistí niečo podozrivé, žiadatelia „s vysokým rizikom“ budú musieť podstúpiť oveľa detailnejšie kontrolu.

Projekt bude testovaný v reálnych podmienkach, a to v Maďarsku, Grécku a Litve. Británia, Nemecko, Poľsko, Španielsko a Cyprus vyjadrili svoj záujem tiež sa do projektu zapojiť.

Presnosť a „zaujatosť“ systému

Ako uviedol jeden z členov tímu iBorderCtrl pre časopis New Scientist, prvé testy odhalili, že tento digitálny pohraničný strážca mal predbežne 76 percentnú úspešnosť. Tím si podľa neho verí a očakáva, že úspešnosť dosiahne hodnotu 85 percent.

Kritici však poukazujú na to, že k chybám môže dôjsť v rozličných aspektoch.

Obavy o presnosť systému vznikajú vzhľadom na to, že účasť je dobrovoľná, a pre tých, ktorí ochotne spolupracujú, nie je kontrola tak prísna.

„V takých podmienkach mi nie je jasné, na akých základoch sa bude hodnotiť odolnosť, spoľahlivosť a presnosť systému, ani ako budú relevantné algoritmy, vytrénované na detekciu znakov klamlivého správania,“ povedala Antoinette Rouvroyová, výskumníčka z Centra pre výskum informácii, práva a spoločnosti (CRIDS).

„Inak by sme museli predpokladať, že ilegálni imigranti a potenciálni kriminálnici by sa dobrovoľne prihlásili k automatickej kontrole, čo nie je veľmi pravdepodobné,“ dodala.

Vladimír Šucha: Nástup umelej inteligencie nepotrvá roky, ale mesiace

Ak má Európa snahu modelovať budúci vývoj ľudstva, musia členské krajiny EÚ reagovať na výzvy spojené s rozvojom umelej inteligencie spoločne. Pozícia Slovenska v rámci EÚ je v tejto oblasti slabá, hovorí generálny riaditeľ Spoločného výskumného centra.

Štúdie v minulosti dokázali, že algoritmy na rozpoznávanie tvárí majú rozsiahly problém so zaujatosťou a neprimerane postihujú predovšetkým ženy a menšiny.

Podľa tohtoročnej štúdie môžu ako príklad slúžiť algoritmy vytvorené spoločnosťami IBM alebo Microsoft, ktoré mali chybovosť až o 35 percent vyššiu pri rozpoznávaní žien s tmavšou pleťou než u mužov sa svetlejšou pokožkou.

„Predtým, než začnú systémy s umelou inteligenciou využívať vlády, na mieste je dôkladná analýza nevyhnutných „zaujatostí“, typických pre všetky systémy detekcie, klasifikácie a zhodnotenia ľudí a ich správania,“ povedala Rouvroyová.

„Digitalizácia je prepis reality a žiadny neutrálne prepis reality neexistuje,“ uzavrela.