Popularita nových generatívnych modelov, ako je ChatGPT, zvýšila pozornosť na spoločenské riziká umelej inteligencie. Schopnosť AI dopĺňať, ovplyvňovať či nahrádzať ľudské chápanie a rozhodovanie priniesla so sebou množstvo nových etických otázok. Medzi výzvy, s ktorými sa musíme vysporiadať, patria napríklad riziko neúmyselnej diskriminácie v dôsledku neférových rozhodnutí AI, informovanie dotknutých osôb o tom, že dané rozhodnutie bolo vykonané algoritmom, či možné porušovanie autorských práv generatívnymi modelmi AI. Problémom algoritmov AI je aj miera ich vysvetliteľnosti a skutočnosť, že v niektorých prípadoch nevieme nahliadnuť do ich útrob tak, aby sme pochopili, ako sa rozhodujú.
Kedy a koho sa bude regulácia AI týkať?
Firmy a organizácie po celom svete preto nesúperia len v hľadaní nových schopností a uplatnení AI, ale aj v tom, ako predísť jej potenciálnym nežiaducim dopadom. V týchto dňoch prichádza EÚ s prelomovou reguláciou nazvanou AI Act, ktorá ako prvá na svete stanovuje v tejto oblasti komplexné pravidlá. V máji schválila Európska rada jej znenie a v lete sa očakáva jej zverejnenie. Toto nariadenie sa nebude transponovať do legislatívy členských štátov ako napríklad smernica NIS2, ale bude priamo platné na celom území EÚ 20 dní po jej oficiálnom zverejnení. Už 6 mesiacov od toho dňa, teda začiatkom roka 2025, uplynie lehota na splnenie prvých súvisiacich povinností.
Regulácia sa týka tých, ktorí AI v EÚ vyvíjajú, používajú, dovážajú či distribuujú, bez ohľadu na to, kde sídlia. Preto spadá napríklad aj na algoritmus, ktorý je vyvinutý či prevádzkovaný mimo EÚ, napríklad na čínsky softvér v americkom cloude, ak sa používa v EÚ.
Ktoré použitia AI sú regulované a ako?
Systémy umelej inteligencie sú definované veľmi široko, regulácia za ne pokladá akýkoľvek softvér, ktorý vytvára predikcie, obsah, odporúčania alebo rozhodnutia, ktoré ovplyvňujú fyzický či virtuálny priestor. Preto platí aj na softvér, ktorý by mnohí nepokladali za AI, ako napríklad na jednoduchý skript napísaný programátorom.
Svoju pôsobnosť však regulácia zásadne zužuje klasifikáciou AI podľa súvisiacich rizík. Použitie technológií v najrizikovejšej skupine je zakázané, sem patria napríklad manipulatívne či klamlivé spôsoby ovplyvňovania ľudí, alebo takzvaný systém sociálneho scoringu, kedy štát hodnotí občanov na základe ich chovania.
Zásadne obmedzené je použitie biometrie, nie je možné ju použiť na identifikáciu osôb vo verejnom priestore v reálnom čase, určenie rasy, viery či sexuálnej orientácie, alebo napríklad na rozpoznanie emócií ľudí na pracovisku a v školách.
Najviac sa regulácia venuje vysoko rizikovým AI systémom. Sem patria napríklad systémy na riadenie kritickej infraštruktúry ako sú doprava a energetika, riadenie ľudských zdrojov, automatizované spracovanie poistných udalostí, prideľovanie úverov a rôznych sociálnych benefitov, používanie AI policajnými zložkami alebo pri hraničných kontrolách.
Tieto systémy sú povolené, ale musia spĺňať niekoľko náležitostí. Pred nasadením na trh musia prejsť posúdením zhody a byť zaregistrované v EÚ databáze, ktorá sa na tento účel zriadi. Je nutné mať pokrytú analýzu rizík, logovanie a kybernetickú bezpečnosť. Nad činnosťou týchto algoritmov musí byť zabezpečený ľudský dohľad. Osobitná pozornosť je venovaná dátam, ktoré sa používajú na trénovanie algoritmov, a musia byť vykonané kontroly, ktoré overia ich férovosť a nezaujatosť.
Zostávajúce systémy sú považované za systémy s obmedzeným alebo minimálnym rizikom. Pre tieto systémy je požadovaná transparentnosť, čiže používateľ musí byť informovaný, že to, s čím interaguje, je generované AI. Týka sa to napríklad chat botov, ale aj takzvaných deep fake obrázkov, zvukov a videí, pre ktoré je povinné, aby používatelia vedeli, že za nimi stojí umelá inteligencia.
Aké sú postihy za nesúlad s reguláciou AI?
Maximálne pokuty za nedodržanie nariadenia sú vysoké. Pohybujú sa v rozpätí od 7,5 milióna eur do 35 miliónov eur alebo 1% až 7% z celkového ročného obratu, v závislosti od závažnosti porušenia.
Regulácia umelej inteligencie je teda v EÚ nastavená tak, aby sa stala významným míľnikom v celej histórii jej vývoja. Firmy a organizácie na Slovensku, ktoré chcú využiť potenciál AI, by už dnes mali posudzovať súvisiace riziká a pripravovať sa na zmeny, ktoré táto regulácia prinesie.
Národná akadémia pre kybernetickú a informačnú bezpečnosť (NAKIB) vzdeláva v oblastiach kybernetickej bezpečnosti, biznis kontinuity a ochrany osobných údajov. Kurzy zamerané na súlad s reguláciami EÚ sú vedené odborníkmi s dlhoročnou praxou a sú ako jediné akreditované Ministerstvom školstva.