5. září 2024 byla podepsána první mezinárodní právně závazná smlouva o využití umělé inteligence (AI). Evropská unie, Spojené státy, Spojené království a sedm dalších zemí se dohodly na pravidlech regulujících používání AI systémů.
Jde o klíčový krok směrem k regulaci a omezení využívání umělé inteligence (AI) na globální úrovni. Tato smlouva má velký význam, protože jejím hlavním cílem je zajistit, že AI systémy budou využívány zodpovědně, a přitom minimalizovat potenciální negativní důsledky, které by mohly ohrozit společnost.
Hlavní oblasti regulace
Smlouva se soustředí na několik klíčových oblastí:
- Automatizace: Regulace využívání AI v průmyslu a na pracovištích, aby byla zajištěna spravedlivá konkurence a minimalizován dopad na zaměstnanost. Toto omezení cílí na to, aby firmy nemohly masivně nahrazovat lidskou práci, aniž by zohlednily sociální a ekonomické důsledky.
- Etika a odpovědnost: AI musí být navržena a provozována v souladu s etickými normami. To zahrnuje například zákaz používání AI pro nelegální nebo neetické účely, jako je manipulace veřejným míněním, diskriminace nebo sledování občanů bez jejich souhlasu.
- Transparentnost a kontrola: Firmy, které vyvíjejí a používají AI systémy, budou muset splňovat přísné požadavky na transparentnost. To zahrnuje povinnost odhalit, jak systémy AI fungují, jak jsou trénovány a jaká data používají, aby byla zajištěna kontrolovatelnost jejich výsledků.
- Bezpečnostní otázky: Smlouva klade důraz na to, aby AI systémy byly bezpečné a nemohly být zneužity pro kriminální nebo teroristické účely. To zahrnuje zabezpečení proti kybernetickým útokům a zneužití AI k vytváření nebezpečných technologií, jako jsou autonomní zbraně.
Bude AI cenzurována?
I když smlouva přináší omezení, nelze mluvit o klasické cenzuře. Cílem není zabránit využívání AI jako takové, ale spíše ji regulovat tak, aby byla využívána odpovědně a spravedlivě. Regulace se zaměřuje na oblasti, kde by AI mohla být zneužita nebo způsobit škodu – například v oblastech šíření dezinformací, sledování bez souhlasu, nebo ve vojenských aplikacích. Tato opatření mají za cíl ochránit jednotlivce i společnosti před nežádoucími dopady nekontrolovaného vývoje AI.
Jaké dopady lze očekávat?
Dohoda pravděpodobně zpomalí některé aspekty rychlého rozvoje AI, zejména v oblasti, kde existují etické a právní problémy. Nicméně bude zároveň podporovat vývoj technologií, které přispívají k obecnému dobru a zlepšují kvalitu života. Regulace bude mít dopad na firmy, vývojáře a uživatele AI, kteří budou muset dodržovat nová pravidla a zajišťovat, že jejich systémy jsou v souladu s mezinárodními standardy.
Tento krok je klíčovým příkladem toho, jak se světové vlády snaží zaujmout aktivní přístup k řešení výzev spojených s umělou inteligencí a ochránit tak společnost před možnými riziky spojenými s její nekontrolovanou expanzí.
Autor článku: AI