Komisia obmedzí technológiu rozpoznávania tváre. Nové pravidlá ju považujú za rizikovú

Ilustračný obrázok. [Pixabay]

Európska komisia navrhla prvú podobu pravidiel o využívaní umelej inteligencie, pomocou ktorých chce obmedziť jej nepriaznivé dopady. Zakázať chce systémy sociálneho hodnotenia, známe z Číny. Vysokorizikové by mali byť aj triediace softvéri pri uchádzačoch o prácu, či o bankovú pôžičku.

„Pokiaľ ide o umelú inteligenciu, dôvera občanov voči nim je nutnosť a nie len výhoda. Prijatím týchto prelomových pravidiel udáva EÚ smer vývoja nových celosvetových noriem, ktoré zaistia umelej inteligencii dôveryhodnosť,“ vyhlásila podpredsedníčka Komisie pre hospodársku súťaž a eurokomisárka pre digitalizáciu Margrethe Vestager.

Komisia prízvukuje, že zakázané má byť konkrétne využívanie AI, nie technológia ako taká.

Navrhované nariadenie zavádza niekoľko kategórií systémov umelej inteligencie podľa ich rizikovosti. Ako neprijateľné označuje tie, ktoré ohrozujú životy, bezpečie či práva ľudí. Zakázané preto majú byť v EÚ napríklad systémy umožňujúce vládam takzvané sociálne hodnotenia, ktoré bežne používa na sledovanie svojich občanov napríklad Peking. Zákaz sa má týkať napríklad aj hračiek s hlasovými asistentov, ktoré navádza deti a mladých ľudí k nebezpečnému správaniu.

Ďalšou skupinou sú technológie s vysokým rizikom, ktoré budú povolené len pri splnení prísnych požiadaviek. Medzi ne patrí napríklad softvér triediaci uchádzačov o prácu či o bankovú pôžičku, hodnotiace skúšky v škole alebo systémy, overujúce spoľahlivosť dôkazov na súde.

Zaradené sú tu aj všetky systémy biometrickej identifikácie, vrátane rozpoznávania tvárí. Ich všeobecné využívanie bude úplne zakázané. Úrady k nemu budú môcť siahnuť len vo výnimočných prípadoch, napríklad pri pátraní po deťoch či odhaľovanie teroristických útokov, a to až po rozhodnutí súdu.

Etika a umelá inteligencia: Experti formulovali „kritické výzvy“ novej technológie

Expertná skupina na vysokej úrovni pre umeleckú inteligenciu, ktorú zriadila Európska komisia, uverejnila dlho očakávanú správu o umelej inteligencii. Upozorňuje na otázky identifikácie, bodovacích systémov pre občanov, či robotov zabijakov.

Návrh z pera Komisie obsahuje aj kategórie technológií s obmedzeným a minimálnym rizikom. Ako technológiu s obmedzeným rizikom radí európska exekutíva napríklad chatboty, teda online chatových poradcov, známych napríklad z e-shopov. V prípade minimálneho ide napríklad o spamové filtre.

Technológie, ktoré nie sú vysoko rizikové, však nariadenie nijako nereguluje. Poskytovatelia týchto technológií ale môžu posilniť svoju dôveryhodnosť a dobrovoľne vypracovať tzv. Kódex správania, teda sadu postupov a hodnôt, podľa ktorých budú fungovať.

Regulácia by nemala zásadne obmedziť používanie technológií, ktoré rozvíjajú zdravotnú starostlivosť, bezpečnosť v doprave či prevenciu kriminality.

Úrady radia eurokomisii počkať s povoľovaním pre technológie na automatizované rozpoznávanie tváre

Európsky dozorný úrad na ochranu dát odporúča, aby sa v Európskej únii na verejných priestranstvách zatiaľ zakázalo využívanie modernej technológie na rozpoznávanie tváre, ale aj softvérov na zachytávanie hlasu, či úderov do klávesnice. Nateraz presadzuje moratórium.

Na európskej úrovni by podľa návrhu Komisie mala vzniknúť nová Európska rada pre umelú inteligenciu, zložená sa zástupcov národných úradov a Európsky inšpektor na ochranu údajov, ktorý má pomôcť so zavádzaním nových pravidiel. Dohliadať na ne však podľa návrhu majú vnútroštátne orgány, ktoré dozerajú na trh.

Tlak na zmenu návrhu je z oboch strán

Firmám, ktoré porušia pravidlá, bude hroziť pokuta do výšky šesť percent ich ročného obratu, maximálne do výšky 30 miliónov eur, uvádza návrh.

„K umelej inteligencií pristupujeme vyvážene a pozorne zvažujeme všetky riziká. Ponúkame rôzne koncepcie verejným inštitúciám a žiadame od nich úplnú transparentnosť,“ povedala podpredsedníčka Komisie a eurokomisárka pre hodnoty a transparentnosť, Věra Jourová. Na jednej strane by tieto pravidlá mali zabezpečiť bezpečnosť súkromia, na druhej strane by nemali príliš obmedzovať činnosť pokrokových technologických spoločností, myslí si Jourová.

Technológia na rozpoznávanie tváre môže byť v Únii obmedzená, firmy chcú regulácii menej

Riaditeľ spoločnosti Google vyzval na „medzinárodné zosúladenie“ budúcich pravidiel o umelej inteligencii. Pozície EÚ a Spojených štátov sa však v tejto otázke značne líšia, Eurokomisia má údajne zvažovať dočasný zákaz technológii na rozpoznávanie tváre na verejných priestranstvách.

Technologické firmy, ktoré rozvíjajú umelú inteligenciu a vidia v nej potenciál rastu v budúcnosti, sa k návrhom Komisie stavajú skôr skepticky. Podobne viacerí odborníci tvrdia, že európske firmy sa môžu dostať do nevýhodnej pozície voči obchodným spoločnostiam z iných častí sveta. Očakáva sa preto, že v priebehu rokovaní medzi Európskym parlamentom a členskými štátmi budú technologickí giganti intenzívne lobovať, aby sa niektoré opatrenia zmiernili. Vzhľadom na tieto skutočnosti je zrejmé, že rokovania budú trvať dlho a k dohode môže dôjsť až o niekoľko rokov.

Tlak na zmenu nariadení však príde aj z druhej strany. Konkrétne časť europoslancov zastáva názor, že niektoré časti návrhu nie sú dôsledne pripravené.

„Do hry sa musí zapojiť aj tretia strana, ktorá nezávisle posúdi, či systémy s vysokým rizikom zodpovedajú predpisom,“ tvrdí europoslanec za Pirátov a podpredseda Európskeho parlamentu, Marcel Kolaja (Zelení/EFA). Europoslanec je toho názoru, že súčasný návrh nechráni dostatočne uchádzačov o prácu, ktorí sú pri hodnotení diskriminovaní umelou inteligenciou. Kojala je spolu s niektorými kolegami pripravený  čo najskôr začať pracovať na úprave súčasného návrhu Komisie.