Umělá inteligence (AI) je dnes všude kolem nás – od asistentů v chytrých telefonech po systémy, které dokáží analyzovat velká množství dat v medicíně či finančnictví. Technologie má potenciál zásadně měnit naše životy, ale zároveň vzbuzuje i obavy týkající se bezpečnosti, etiky i ochrany osobních údajů. Oprávněně?
Evropa se pouští do kontroly umělé inteligence
Evropská unie vytvořila Akt o umělé inteligenci (Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828 (akt o umělé inteligenci), první komplexní regulaci AI na světě, která má zajistit, že tento vývoj bude v souladu s evropskými hodnotami, jako je ochrana soukromí a lidských práv.
Na jedné straně přináší tento akt jasně definované požadavky na transparentnost a sledovatelnost systémů AI. Lidé mají právo vědět, jak AI dospěla k určitému rozhodnutí, a firmy mají povinnost zajistit, aby jejich systémy nemohly být zneužity k manipulaci nebo diskriminaci. Na druhé straně se ale ozývají hlasy, které varují, že by takto přísná regulace mohla omezit konkurenceschopnost Evropy ve vývoji AI.
Dohled, audity a certifikace – vítaná ochrana, nebo brzda pro malé firmy?
Pro kritiky představuje Akt potenciální zátěž pro menší firmy a start-upy. Podle nových pravidel musejí vývojáři zajistit, že jejich systémy splňují řadu technických a etických standardů, což zahrnuje i bezpečnostní audity a certifikace.
To samozřejmě něco stojí a pro menší hráče na trhu může být tato regulace natolik nákladná, že na ni jednoduše nedosáhnou.
Hrozí tedy, že zatímco velké technologické společnosti zvládnou přizpůsobení se pravidlům, menší podniky zůstanou pozadu – což může vést k monopolizaci trhu a oslabení inovací. Podobně jako se tak již stalo u internetových vyhledávačů.
Je otázkou, zda regulace skutečně posílí bezpečnost a odpovědnost, nebo spíše povede k tomu, že se Evropa stane nehostinným místem pro rozvoj nových technologií a slibné projekty se přesunou do méně regulovaných částí světa.
Dopady EU Aktu o umělé inteligenci: Evropská unie jako etický kompas?
EU se regulací snaží nastavit globální standard pro využití AI. Vzniká zde snaha promítnout evropské hodnoty jako ochrana soukromí, bezpečnost a etika i do dalších částí světa. Pro EU by to znamenalo, že její normy budou respektovány i mimo evropský kontext, což může posílit její vliv na globální scéně.
Mohlo by vás zajímat:
Na druhou stranu se můžeme ptát, zda tato snaha nevychází z příliš velkého sebevědomí EU. Technologický svět se vyvíjí rychle a často i nevyzpytatelně, a pokud se Evropa příliš zaměří na regulaci, může ztratit krok s těmi, kdo se zaměří na rychlý vývoj a inovace.
Odpovědné používání AI nebo přehnaná byrokracie?
Cílem je zodpovědné využívání AI bez rizika pro lidská práva či bezpečnost občanů. Avšak rozsáhlá regulace přináší byrokratické překážky a značné náklady na splnění všech požadavků. Místo aby AI sloužila jako nástroj pro zjednodušení a efektivitu, hrozí, že regulační tlak z AI udělá nástroj, který si budou moci dovolit jen velké a bohaté společnosti.
Co nás čeká?
Akt je bezesporu ambiciózním krokem, který si klade za cíl definovat bezpečné hranice pro rozvoj AI. Zda EU zvolila správnou rovnováhu mezi regulací a podporou inovací, ukáže až čas. Přestože jde o nutný krok směrem k odpovědné technologii, je třeba sledovat, zda nepovede ke zpomalení vývoje a odlivu talentů z Evropy.
Regulace je důležitá, ale EU se nachází na tenké hranici mezi ochranou a přehnanou kontrolou, která by mohla omezit budoucnost technologií AI na starém kontinentu.
Text vznikl v rámci předmětu Na semestr novinářem!
Luděk Jirman je projektový manažer a konzultant s více než dvacetiletou praxí v oblasti digitálních technologií, marketingu a vývoje softwaru. Má zkušenosti s vedením vývojových týmů, projektovým managementem a inovativními řešeními. Aktuálně si rozšiřuje odborné vzdělání na Vysoké škole Cevro, kde studuje obor Právo v obchodních vztazích a postgraduální program P.G.D.J. zaměřený na fungování (nejen) českých médií.
Comments