Zákon o umělé inteligenci: Co potřebujete vědět?
Akt o AI stanovuje pravidla pro vývoj a používání AI systémů, aby technologie sloužila lidem, a ne je ohrožovala. Zákon se zaměřuje na rizika, která AI přináší, a zavádí opatření pro jejich zmírnění. Firmy, které vyvíjejí nebo používají AI v Evropě, budou muset dodržovat pravidla, jinak jim hrozí vysoké pokuty.
Celé znění naleznete zde.
Hlavním cílem Aktu o AI je:
- ochrana lidských práv a bezpečnosti;
- podpora inovací a spravedlivého trhu;
- zajištění transparentnosti a odpovědnosti v používání AI.
Jak se Akt o AI dotkne firem?
Zákon rozděluje AI systémy do čtyř kategorií podle úrovně rizika:
- Zakázané systémy (např. masové sledování nebo sociální skórování).
- Vysoce rizikové systémy (např. AI ve zdravotnictví nebo náboru pracovníků).
- Omezené riziko (např. chatboti).
- Minimální riziko (např. spam filtry).
Firmy budou muset přizpůsobit své systémy podle rizika. Například vysoce rizikové systémy musí splňovat přísné požadavky na bezpečnost, transparentnost a dohled.
S růstem využívání AI technologií ve firmách se mění i požadavky na dovednosti zaměstnanců. Akt o AI přináší novou odpovědnost nejen pro vývojáře AI, ale i pro ty, kdo s AI systémy pracují.
Zaměstnanci, kteří AI systémy přicházejí do styku, například v náboru nebo při řízení kritické infrastruktury, musejí mít odpovídající AI gramotnost.
Co je AI gramotnost?
AI gramotnost je schopnost zaměstnanců porozumět, jak AI funguje, jak se používá a jaké jsou její limity a rizika.
V souladu s požadavky Aktu o AI budou muset zaměstnavatelé zajistit, aby klíčoví pracovníci měli potřebné znalosti a dovednosti, které jim umožní s AI pracovat zodpovědně. Toto se týká zejména práce se systémy s vysokým stupněm rizika. To zahrnuje:
- Porozumění technologiím AI – jak AI systémy fungují, jak jsou navrženy a jaké výstupy poskytují.
- Bezpečnost a etika – zaměstnanci musejí být schopni rozpoznat rizika spojená s AI a umět na ně reagovat.
- Odborná příprava – firmy musejí zajistit školení zaměřená na bezpečné a etické používání vysoce rizikových AI systémů, včetně toho, jak sledovat a kontrolovat jejich fungování.
Například pokud firma používá AI pro nábor pracovníků, musí zajistit, že zaměstnanci rozumějí tomu, jak systém funguje, jaká data analyzuje a jak mohou ovlivnit jeho výstupy, aby nedocházelo k diskriminaci.
Proč je vzdělávání v oblasti AI důležité?
Technologie AI se rychle mění a zaměstnanci, kteří s nimi pracují, musejí být neustále vzděláváni a školeni.
Nestačí jen základní porozumění, ale také schopnost odhalit možné chyby nebo rizika a zajistit, že AI technologie budou fungovat v souladu s právními požadavky.
Firmy, které investují do vzdělávání, budou lépe připravené nejen na dodržování pravidel Aktu o AI, ale také na nové výzvy a příležitosti, které AI přináší.
Vzdělávání zaměstnanců v oblasti AI se stává klíčovým pro jejich schopnost úspěšně implementovat a kontrolovat tyto technologie v praxi a pro firmy se stává nezbytností.
Sankce za nedodržení pravidel
Akt o AI zavádí přísné pokuty za nedodržování pravidel. Firmy, které nesplní požadavky, mohou čelit sankcím až do výše 7 % globálního ročního obratu nebo 35 milionů eur – podle toho, která částka je vyšší v případě porušení pravidel týkajících se zakázené AI.
Za většinu ostatních porušení hrozí pokuta až 3 % ročního obratu nebo 15 milionů eur.
To zdůrazňuje důležitost investic do správného nastavení AI systémů a vzdělávání zaměstnanců.
Jak vám můžeme pomoci?
S našim adopčním programem zaměřeným na Microsoft 365 Copilot můžete seznámit své zaměstnance se základy práce s AI a umožnit jim, aby si na novou technologii zvykli – chápali její principy i rizika.
Nově jsme připravili unikátní aplikaci Skillstai, která nabízí bohatou zásobu materiálů (od videí až po rozsáhlou knihovnu připravených promptů) pro personalizované vzdělávání.
Aplikace je určena pro platformu Microsoft Teams, takže můžete studovat, inspirovat se a rozvíjet bez složitého hledání. Aplikace vám nabídne vaši vlastní vzdělávací cestu.
Pokud se chcete dozvědět více o požadavcích, vymahatelnosti, účinnosti a sankcích, které Akt o AI přináší, stáhněte si náš přehled v PDF.
