Expertná skupina na vysokej úrovni pre umeleckú inteligenciu, ktorú zriadila Európska komisia, uverejnila dlho očakávanú správu o umelej inteligencii. Upozorňuje na otázky identifikácie, bodovacích systémov pre občanov, či robotov zabijakov.
Správa navrhuje, ako môžu vývojári a používatelia zabezpečiť, aby vyvinutá umelá inteligencia (AI) rešpektovala základné práva, platné predpisy a etické hodnoty. Spoločne ju pripravilo 52 odborníkov z akademickej, obchodnej a občianskej spoločnosti, ktorí zároveň upozornili na niekoľko „kritických výziev“ budúceho vývoja AI.
Bodovací systém pre občanov
Jednou z oblastí je takzvané „normatívne hodnotenie občanov“, ktoré autori definujú ako všeobecné hodnotenie „morálky osobnosti“ a „etickej integrity“ ľudí tretími stranami.
V správe sa uvádza, že systémy hodnotenia občanov ohrozujú slobodu a autonómiu občanov vtedy, keď ich vykonávajú „vo veľkom rozsahu verejné orgány“.
Správa však nehovorí priamo o tom, že proces by mal byť zakázaný. Skôr zdôrazňuje prípady, v ktorých sa „hodnotenie občanov uplatňuje v obmedzenom sociálnom okruhu“ a že tieto by mali zodpovedať vyššej úrovni transparentnosti.
China's capital will adopt a "social credit" system by the end of 2020 that will give you grades for your behavior pic.twitter.com/I6eCOgamDL
— TicToc by Bloomberg (@tictoc) December 8, 2018
V súčasnosti sa hodnotenie občanov na masovej, štátom kontrolovanej úrovni uplatňuje v Číne v rámci systému sociálneho kreditu. Na základe niekoľkých podmienok, ktoré určia čínske orgány, plánuje vláda systematizovať hodnotenie hospodárskeho a sociálneho príspevku občanov.
V súčasnosti prebieha skúšobná fáza a Peking dúfa, že do roku 2020 rozšíri tento systém hromadne.
Skrytá umelá inteligencia
V inej časti správy, ktorá sa zaoberá systémami „skrytej AI“, dokument poznamenáva, že vývojári technológií umelej inteligencie by mali „zabezpečiť, aby ľudia boli informovaní – alebo schopní požadovať a overiť si, že komunikujú s umelou inteligenciou“.
Keďže androidy sa vo všeobecnosti stávajú čoraz „ľudskejšími“, EÚ sa snaží zabezpečiť, aby sa roboty nikdy nemohli zameniť za ľudí, a tým bolo jasne zaručené morálne a etické rozdelenie medzi zásadami, správaním a hodnotami ľudí a robotov.
Zahrnutie takýchto „hyperreálnych“ androidov do spoločnosti „môže zmeniť naše vnímanie ľudí a ľudskosti,“ uvádza správa.
„Je treba mať na pamäti, že zámena ľudí za stroje môže mať viacero dôsledkov, vrátane naviazanosti, vplyvu alebo zníženia hodnoty človeka. Rozvoj humanoidných a androidných robotov by sa preto mal podrobiť dôkladnému etickému posúdeniu.“
Identifikačné technológie
Ďalšou oblasťou, ktorej sa expertná skupina venovala, bolo použitie AI v identifikačných technológiách, vrátane softvérov na rozpoznávanie tváre.
Takúto technológiu už skúšajú policajné jednotky v Spojenom kráľovstve. Softvér sa snažia využiť na skenovanie tvárí návštevníkov Londýna v nádeji, že budú schopní jednoducho identifikovať hľadaných zločincov.
Expertná skupina na vysokej úrovni tvrdí, že etické otázky, súvisiace s touto formou technológie, sa týkajú najmä nedostatku súhlasu od osôb, ktoré sú identifikované.
Roboty – zabijaci
V správe sa objavuje aj otázka smrtiacej autonómnej zbrojnej sústavy (LAWS), známejšie ako „zabijacke roboty“. Takéto systémy sú schopné pracovať bez ľudskej kontroly a patria medzi ne aj samo odpaľovacie systémy.
V septembri Európsky parlament prijal uznesenie, v ktorom požaduje medzinárodný zákaz takýchto systémov a zdôrazňuje, že „stroje nemôžu robiť rozhodnutia, ktoré pripomínajú ľudské“, a že ľudstvo by malo zostať zodpovedné za vojenské rozhodnutia.
Uznesenie Európskeho parlamentu nasledovalo po neúspechu v OSN, kde sa nedospelo k dohode o všeobecnom zákaze systémov smrtiacej autonómnej zbrojnej sústavy. Krajiny na čele s Ruskom a Spojenými štátmi americkými, vrátane Južnej Kórey a Izraela sa postavil proti zákazu.
Vo všeobecnosti závery z etických usmernení expertnej skupiny podporujú ľudský prístup k rozvoju umelej inteligencie, rešpektujúc základné práva a spoločenské hodnoty.
Hlavným dlhodobým cieľom je podporiť dôveryhodnú AI.
„AI môže priniesť veľké výhody našim spoločenstvám, pomôcť diagnostikovať a liečiť rakovinu, či znižovať spotrebu energie“, uviedol v utorok (18. decembra) viceprezident pre digitálny jednotný trh Andrus Ansip.
„No pre to, aby ľudia prijali a používali systémy, založené na AI, musia im dôverovať, vedieť, že ich súkromie je rešpektované a že rozhodnutia nie sú zaujaté.“
Súčasný návrh správy o etických usmerneniach predstavujú predbežné indície. Konečné usmernenia majú byť zverejnené v marci 2019.