Etika a umelá inteligencia: Experti formulovali „kritické výzvy“ novej technológie

V súčasnosti sa hodnotenie občanov umelou inteligenciou na štátom kontrolovanej úrovni uplatňuje v Číne v rámci systému sociálneho kreditu. [Twitter]

Expertná skupina na vysokej úrovni pre umeleckú inteligenciu, ktorú zriadila Európska komisia, uverejnila dlho očakávanú správu o umelej inteligencii. Upozorňuje na otázky identifikácie, bodovacích systémov pre občanov, či robotov zabijakov.

Správa navrhuje, ako môžu vývojári a používatelia zabezpečiť, aby vyvinutá umelá inteligencia (AI) rešpektovala základné práva, platné predpisy a etické hodnoty. Spoločne ju pripravilo 52 odborníkov z akademickej, obchodnej a občianskej spoločnosti, ktorí zároveň upozornili na niekoľko „kritických výziev“ budúceho vývoja AI.

Eurokomisia a krajiny Únie majú koordinovaný plán na rozvoj umelej inteligencie

Európska komisia predstavila koordinovaný plán, ktorý vypracovala s členskými štátmi EÚ na podporu rozvoja a využívania umelej inteligencie v Európe, čo je oblasť pre ktorú chce do roku 2020 zohnať 20 miliárd eur.

Bodovací systém pre občanov

Jednou z oblastí je takzvané „normatívne hodnotenie občanov“, ktoré autori definujú ako všeobecné hodnotenie „morálky osobnosti“ a „etickej integrity“ ľudí tretími stranami.

V správe sa uvádza, že systémy hodnotenia občanov ohrozujú slobodu a autonómiu občanov vtedy, keď ich vykonávajú „vo veľkom rozsahu verejné orgány“.

Správa však nehovorí priamo o tom, že proces by mal byť zakázaný. Skôr zdôrazňuje prípady, v ktorých sa „hodnotenie občanov uplatňuje v obmedzenom sociálnom okruhu“ a že tieto by mali zodpovedať vyššej úrovni transparentnosti.

V súčasnosti sa hodnotenie občanov na masovej, štátom kontrolovanej úrovni uplatňuje v Číne v rámci systému sociálneho kreditu. Na základe niekoľkých podmienok, ktoré určia čínske orgány, plánuje vláda systematizovať hodnotenie hospodárskeho a sociálneho príspevku občanov.

V súčasnosti prebieha skúšobná fáza a Peking dúfa, že do roku 2020 rozšíri tento systém hromadne.

Skrytá umelá inteligencia

V inej časti správy, ktorá sa zaoberá systémami „skrytej AI“, dokument poznamenáva, že vývojári technológií umelej inteligencie by mali „zabezpečiť, aby ľudia boli informovaní – alebo schopní požadovať a overiť si, že komunikujú s umelou inteligenciou“.

Keďže androidy sa vo všeobecnosti stávajú čoraz „ľudskejšími“, EÚ sa snaží zabezpečiť, aby sa roboty nikdy nemohli zameniť za ľudí, a tým bolo jasne zaručené morálne a etické rozdelenie medzi zásadami, správaním a hodnotami ľudí a robotov.

Zahrnutie takýchto „hyperreálnych“ androidov do spoločnosti „môže zmeniť naše vnímanie ľudí a ľudskosti,“ uvádza správa.

„Je treba mať na pamäti, že zámena ľudí za stroje môže mať viacero dôsledkov, vrátane  naviazanosti, vplyvu alebo zníženia hodnoty človeka. Rozvoj humanoidných a androidných robotov by sa preto mal podrobiť dôkladnému etickému posúdeniu.“

Vladimír Šucha: Nástup umelej inteligencie nepotrvá roky, ale mesiace

Ak má Európa snahu modelovať budúci vývoj ľudstva, musia členské krajiny EÚ reagovať na výzvy spojené s rozvojom umelej inteligencie spoločne. Pozícia Slovenska v rámci EÚ je v tejto oblasti slabá, hovorí generálny riaditeľ Spoločného výskumného centra.

Identifikačné technológie

Ďalšou oblasťou, ktorej sa expertná skupina venovala, bolo použitie AI v identifikačných technológiách, vrátane softvérov na rozpoznávanie tváre.

Takúto technológiu už skúšajú policajné jednotky v Spojenom kráľovstve. Softvér sa snažia využiť na skenovanie tvárí návštevníkov Londýna v nádeji, že budú schopní jednoducho identifikovať hľadaných zločincov.

Expertná skupina na vysokej úrovni tvrdí, že etické otázky, súvisiace s touto formou technológie, sa týkajú najmä nedostatku súhlasu od osôb, ktoré sú identifikované.

Roboty – zabijaci

V správe sa objavuje aj otázka smrtiacej autonómnej zbrojnej sústavy (LAWS), známejšie ako „zabijacke roboty“. Takéto systémy sú schopné pracovať bez ľudskej kontroly a patria medzi ne aj samo odpaľovacie systémy.

V septembri Európsky parlament prijal uznesenie, v ktorom požaduje medzinárodný zákaz takýchto systémov a zdôrazňuje, že „stroje nemôžu robiť rozhodnutia, ktoré pripomínajú ľudské“, a že ľudstvo by malo zostať zodpovedné za vojenské rozhodnutia.

Uznesenie Európskeho parlamentu nasledovalo po neúspechu v OSN, kde sa nedospelo k dohode o všeobecnom zákaze systémov smrtiacej autonómnej zbrojnej sústavy. Krajiny na čele s Ruskom a Spojenými štátmi americkými, vrátane Južnej Kórey a Izraela sa postavil proti zákazu.

Využívanie umelej inteligencie v dátových centrách sa posúva na ďalšiu úroveň

Google začal používať umelú inteligenciu na kontrolu chladiacich systémov svojich dátových centier. Toto opatrenie, ktoré nahradilo zamestnancov z mäsa a kostí, je spôsob, akým chce znižovať emisie a spotrebu energie.

Vo všeobecnosti závery z etických usmernení expertnej skupiny podporujú ľudský prístup k rozvoju umelej inteligencie, rešpektujúc základné práva a spoločenské hodnoty.

Hlavným dlhodobým cieľom je podporiť dôveryhodnú AI.

„AI môže priniesť veľké výhody našim spoločenstvám, pomôcť diagnostikovať a liečiť rakovinu, či znižovať spotrebu energie“, uviedol v utorok (18. decembra) viceprezident pre digitálny jednotný trh Andrus Ansip.

„No pre to, aby ľudia prijali a používali systémy, založené na AI, musia im dôverovať, vedieť, že ich súkromie je rešpektované a že rozhodnutia nie sú zaujaté.“

Súčasný návrh správy o etických usmerneniach predstavujú predbežné indície. Konečné usmernenia majú byť zverejnené v marci 2019.