Proč a jak nastavit pravidla pro užívání AI ve Vaší společnosti
Umělá inteligence (AI) se v posledních letech rychle rozvíjí a proniká do všech oblastí života, včetně pracovního prostředí. AI může být pro zaměstnavatele i zaměstnance cenným nástrojem, který může zlepšit efektivitu a produktivitu práce. Využívání AI při práci však přináší i celou řadu rizik, která je třeba ošetřit. Zaměstnavatelé, kteří se rozhodnou svým zaměstnancům umožnit užívání AI při práci, si proto často kladou otázku, jak nastavit v jejich společnosti pravidla pro užívání AI a zda je vůbec třeba nějaká pravidla zavádět.
Je třeba zavádět pravidla?
Pokud chceme ve společnosti zavádět pravidla užívání AI při práci, měli bychom se vždy nejdříve zamyslet, v čem nám tato pravidla mají pomoci.
Mnoho zaměstnanců využívá AI při plnění svých každodenních pracovních úkolů a související administrativy. AI pomáhá zaměstnancům při vyhledávání informací, které ke své práci potřebují, usnadňuje jim plánování jejich schůzek a organizaci jejich kalendáře, vylepšuje jejich psané texty nebo pomáhá překonat tvůrčí blok či navrhnout možná řešení nejrůznějších problémů. AI zaměstnanci využívají rovněž pro překládání textů do cizích jazyků, pro zpracování nebo analýzu dat. Způsobů užití umělé inteligence pro usnadnění práce je celá řada a s vývojem nových AI nástrojů se možnosti užívání každým dnem rozšiřují a zvyšuje se i počet jejich uživatelů.
Užívání AI může pomoci k efektivnějšímu, pro zaměstnance snazšímu a rychlejšímu plnění pracovních úkolů. Zároveň však užívání AI klade zvýšené nároky na zaměstnance, kteří AI při své práci používají, pokud jde o jejich pozornost a znalost limitů a rizik užívání AI a v neposlední řadě potřebu kritického hodnocení výstupů získaných za využití AI. Zaměstnavatel by proto měl svým zaměstnancům poskytnout dostatečné informace a stanovit pravidla, která jim pomohou nástroje AI bezpečně a efektivně využívat.
Pomocí pravidel lze definovat odpovědnost zaměstnanců za výstupy zpracované za použití AI nebo stanovit postupy pro bezpečné zavádění a užívání nových AI nástrojů ve společnosti. Správně nastavená pravidla mohou eliminovat rizika plynoucí z užívání AI v oblasti ochrany obchodního tajemství a důvěrných informací či ochrany osobních údajů. Pravidla mohou rovněž zavést postupy, které zaměstnavateli pomohou získat informace o tom, jaké nástroje jeho zaměstnanci užívají či chtějí při práci užívat a jak jim užívání těchto nástrojů jejich práci usnadňuje. Zároveň mohou pravidla sloužit jako návod pro zaměstnance, kteří se užití AI obávají, ale věří, že by jim AI mohla v práci pomáhat.
Proces zavádění pravidel pro regulaci užívání AI ve společnosti bude zahrnovat celou řadu jednotlivých kroků, od zvažování AI nástrojů, které budou využívány, přes stanovení odpovědných osob pro jednotlivé úkoly, identifikaci možných rizik až po samotnou implementaci pravidel ve společnosti. V následujícím textu se však s ohledem na téma tohoto článku zaměříme pouze na identifikaci nejčastějších rizik z právního pohledu a příklady pravidel, která lze k eliminaci těchto rizik ve společnosti zavést.
Jaká jsou nejčastější rizika užívání AI při práci?
V každé společnosti mohou existovat různá rizika související s užíváním AI při práci, ať již z důvodu, že společnost má nastaveny specifické interní procesy a pravidla, nebo proto, že podniká ve specificky regulovaném odvětví, či z mnoha jiných důvodů, přičemž záleží i na tom, pro jaké činnosti a v jakém rozsahu plánuje společnost užívání AI nástrojů svým zaměstnancům umožnit. Níže je uveden alespoň základní přehled rizik, která se nejčastěji v souvislosti s užíváním AI ve společnostech objevují:
- užívání neprověřených nástrojů
- porušení obchodních podmínek AI nástroje
- nedostatečné zabezpečení a neoprávněný přístup k datům
- porušení NDA, vyzrazení obchodního tajemství
- porušení povinností při zpracování osobních údajů
- porušení práv duševního vlastnictví
- generování nepřesného, chybného či nevhodného obsahu
Jaká pravidla zavést a na co se při jejich implementaci zaměřit?
Poté, co si ve společnosti analyzujeme nejčastější rizika, můžeme se zaměřit na vymýšlení pravidel, která by pomohla tato rizika snižovat. Je přitom důležité hledat řešení, které umožní využívání AI, ale zároveň bude bezpečné a v souladu s právními předpisy, etickými kodexy a dalšími interními pravidly ve společnosti. Pravidla je přitom vhodné formulovat jasně a srozumitelně prostřednictvím vnitřních předpisů, s nimiž budou všichni zaměstnanci ve společnosti seznámeni a které pro ně budou při užívání AI při práci závazné. Níže jsou navržena alespoň některá pravidla, která lze ve společnosti implementovat ke snížení jednotlivých výše uvedených rizik:
- užívání neprověřených nástrojů
Vzhledem k závratnému tempu, jakým se na trhu objevují každým dnem nové AI nástroje, hrozí, že zaměstnanci si pro svou práci zvolí nástroj, který bude nespolehlivý, nebo bude dokonce představovat bezpečnostní hrozbu z hlediska kybernetické bezpečnosti, nebo bude v rozporu s etickým kodexem či jinými principy, na kterých si společnost zakládá.
K předejití užívání takových nástrojů ze strany zaměstnanců lze nastavit různá pravidla v podobě zákazu užívat jakékoliv AI nástroje s výjimkou AI nástrojů přímo předepsaných či schválených společností, kdy lze např. sestavit seznam prověřených AI nástrojů, které mohou zaměstnanci užívat. V této souvislosti je také vhodné zavést interní schvalovací postupy pro užívání AI nástrojů, v jejichž rámci bude následně docházet k prověřování jednotlivých AI nástrojů navržených zaměstnanci či vedením společnosti k užívání ve společnosti. Pokud bude daný nástroj v rámci stanovených procesů schválen, bude zařazen na seznam prověřených AI nástrojů a zaměstnanci jej budou moci při své práci využívat.
- porušení obchodních podmínek AI nástroje
Obchodní podmínky či podmínky užívání jsou dokumenty, které jsou často dlouhé, psané drobným písmem a právnickým jazykem, což v mnoha případech vede uživatele k tomu, že potvrdí svůj souhlas s těmito podmínkami, aniž by se s nimi ve skutečnosti seznámil. Přitom právě v těchto dokumentech jsou obsaženy klíčové informace o tom, jakým způsobem a pro jaké účely lze daný AI nástroj využívat.
Aby se společnost, resp. zaměstnanci užívající AI nástroje při práci, vyvarovala porušování obchodních či jiných podmínek AI nástroje, je vhodné zavést již zmiňované procesy na schvalování AI nástrojů, jejichž součástí bude rovněž prověření smluvních podmínek, které se na užívání daného AI nástroje vztahují. Dále je vhodné stanovit samotným zaměstnancům, tj. uživatelům daného AI nástroje povinnost seznámit se s podmínkami užívání daného nástroje a zároveň povinnost tyto podmínky při užívání AI nástroje při práci dodržovat.
- nedostatečné zabezpečení a neoprávněný přístup k datům
Stejně jako při užívání jakýchkoliv jiných technologií, i při užívání AI nástrojů je třeba myslet na zabezpečení přístupu k uživatelským účtům a datům, která uživatel do AI nástroje vkládá. K zabezpečení by tak měli mít zaměstnanci povinnost nastavovat si silná hesla, nikomu tato hesla nesdělovat, přihlašovat se ke svým účtům pouze ze schválených a důvěryhodných zařízení, užívat antivirovou ochranu, provádět pravidelné aktualizace systému a respektovat další obdobná pravidla, která jsou pro užívání technologií již ve společnosti zavedena.
- porušení NDA, vyzrazení obchodního tajemství
Data zadávaná do AI nástrojů jsou ve většině případů ukládána na serverech provozovatele daného AI nástroje či třetích subjektů, přičemž v mnoha případech jsou vkládaná data rovněž užívána k dalšímu trénování umělé inteligence či jsou podrobována analýzám a vyhodnocování funkčnosti AI nástroje ze strany pracovníků poskytovatele AI nástroje. Data vložená do AI nástroje se proto mohou dostat ke třetím osobám, aniž by o tom uživatel, který data do AI nástroje vložil, měl vůbec ponětí.
Tato skutečnost může mimo jiné představovat riziko úniku důvěrných informací, které má společnost a její zaměstnanci k dispozici, což může znamenat porušení případných dohod o mlčenlivosti a ochraně důvěrných informací (NDA). Při zadávání interních dat ze strany zaměstnanců, pak naopak hrozí vyzrazení obchodního tajemství samotné společnosti.
Jako jedno z klíčových pravidel užívání AI při práci by proto měl být stanoven přísný zákaz vkládání jakýchkoliv dat, která mají povahu obchodního tajemství či jakýchkoliv důvěrných informací. Bude-li zaměstnanec žádat AI nástroj o radu při řešení pracovního úkolu, měl by pro zadání užívat výhradně simulovaná data a v dotazu neuvádět žádné konkrétní parametry výrobků či služeb ani odkazy na konkrétní společnost či její dodavatele, odběratele a jiné smluvní partnery.
- porušení povinností při zpracování osobních údajů
Pravidla pro nakládání s osobními údaji kladou na osobu, která údaje zpracovává nebo jejich zpracováním pověří další osobu, celou řadu povinností a zásad, které je třeba pod hrozbou přísných sankcí dodržovat. Mezi základní zásady patří např. transparentnost či zákonnost a účelové omezení zpracování, zásada minimalizace či omezení uložení. Správce osobních údajů má rovněž povinnost uzavírat smlouvu se zpracovateli a respektovat rovněž pravidla pro předávání údajů do třetích zemí.
Pokud zaměstnanec zadá do AI nástroje data, která jsou osobními údaji, dochází tím k jejich zpracování a je třeba dodržet veškeré povinnosti plynoucí s GDPR[1] a dalších právních předpisů na ochranu osobních údajů. Dodržení některých povinností při zpracování osobních údajů – zejména pokud jde o povinnosti, které byly uvedeny výše – přitom může být s ohledem na fungování různých AI nástrojů velmi obtížné, ne-li nemožné. Data, která zaměstnanci do AI nástrojů vkládají, by proto měla být vždy anonymizována, aby neobsahovala osobní údaje jakýchkoliv osob, ať už jde o zákazníky, dodavatele nebo o kolegy či jiné zaměstnance společnosti.
- porušení práv duševního vlastnictví
V důsledku užívání AI nástrojů může docházet k porušení práv duševního vlastnictví osob, jejichž díla či jiné chráněné prvky byly neoprávněně využity pro trénování příslušného AI nástroje. V praxi dále nemusí být jednoduché s jistotou určit, zda je výstup generovaný umělou inteligenci předmětem ochrany práv duševního vlastnictví a kdo má případně k výstupu práva nebo jak s takovým výstupem může nakládat.
Na zodpovězení mnoha otázek týkajících se práv duševního vlastnictví si pravděpodobně budeme muset počkat, ať již v podobě rozhodnutí soudů či stanovení pravidel ve vztahu k umělé inteligenci. K eliminaci rizik plynoucích z ochrany práv duševního vlastnictví je však vhodné prověřovat AI nástroje, které se společnost rozhodne užívat, a zaměstnance v této oblasti řádně proškolit. V rámci prověřování AI nástroje je rovněž třeba zkoumat, zda poskytovatel AI nástroje při trénování příslušného nástroje dbal na ochranu práv duševního vlastnictví třetích osob, jak je upravena odpovědnost za případné porušení práv třetích osob při užívání daného nástroje a dále jak poskytovatel AI nástroje sám ve svých podmínkách stanoví práva k výstupům generovaným tímto nástrojem.
- generování nepřesného, chybného či nevhodného obsahu
Výstupy AI nástrojů, které generují obsah na základě strojového učení, jsou výrazně ovlivněny kvalitou dat, na nichž se příslušný model trénoval. Jestliže tak data, která byla pro trénování daného AI nástroje použita, nebyla žádným způsobem ověřována, zejména pokud jde o kvalitu a pravdivost, případně pokud AI čerpá přímo ze zdrojů dostupných na internetu bez bližšího prověření, mohou generované výstupy obsahovat celou řadu chyb, nepřesností, či dokonce vulgárního nebo jinak nevhodného obsahu.
Jakékoliv výstupy z AI nástrojů je třeba podrobit dohledu příslušných zaměstnanců, kteří daný nástroj při své práci využívají. V rámci pravidel pro užívání AI nástrojů je vhodné upravit odpovědnost zaměstnanců za jimi odváděnou práci bez ohledu na to, zda jimi odevzdávaný výkon byl vypracován s použitím AI nástroje schváleného zaměstnavatelem. Je vhodné zejména vést zaměstnance k tomu, aby výstupy z AI nástroje nepoužívali bez bližšího ověřování informací, ale naopak si každý výstup ověřili z více zdrojů, vše zkontrolovali, kriticky zhodnotili a upravili dle potřeby. Uvedené platí tím spíše, má-li být výsledkem práce zaměstnance kreativní výstup, neboť v takovém případě lze AI nástroj využít maximálně pro inspiraci či závěrečnou úpravu, nikoliv však pro zpracování celého pracovního úkolu. Vhodné může být rovněž již při prověřování jednotlivých AI nástrojů zkoumat, z jakých zdrojů daný nástroj vychází a zda je schopen uvádět odkazy na zdroje, z nichž generovaný výstup vzešel.
A co dál?
Je důležité si uvědomit, že přijetím pravidel proces regulace AI ve společnosti nekončí. Aby pravidla splnila svůj účel, je třeba s nimi všechny zaměstnance nejen seznámit, ale řádně jim fungování a důležitost pravidel vysvětlit a v jejich aplikaci je případně proškolit. Součástí pravidel by měly být rovněž postupy pro řešení bezpečnostních a jiných incidentů, které mohou v souvislosti s užíváním AI nástrojů vzniknout, aby v případě, že k incidentu dojde, zaměstnanci vždy věděli, jak postupovat a na koho se obrátit, aby mohly být dopady daného incidentu co nejvíce minimalizovány.
Vzhledem k tomu, že vývoj umělé inteligence je v současné době neuvěřitelně rychlý, je také třeba již přijatá pravidla nadále revidovat a případně upravovat v reakci na technologický pokrok i poznatky z praxe samotné společnosti. Je proto vhodné mít zavedeny interní postupy, kterými mohou zaměstnanci podávat podněty ke zlepšení nastavených pravidel a sdílet své zkušenosti s užíváním AI při práci. To může pomoci nejen větší efektivitě, ale i bezpečnosti užívání AI ve společnosti.
Závěr
Užívání AI s sebou přináší spoustu výhod, ale také celou řadu rizik. Neuvážené užívání AI ze strany zaměstnanců bez dostatečné opatrnosti a znalostí může zaměstnavateli způsobit celou řadu problémů. Je proto důležité, aby zaměstnavatelé, kteří umožní svým zaměstnancům užívat při práci AI, stanovili jasná pravidla pro její užívání, jejichž prostřednictvím budou snížena rizika, která z užívání AI plynou. S těmito pravidly je poté třeba zaměstnance seznámit, řádně je proškolit a zavedená pravidla revidovat a upravovat v reakci na neustále se vyvíjející technologie a rovněž potřeby dané společnosti.
Správně nastavená pravidla pro užívání AI jsou proto důležitým nástrojem, který může pomoci zaměstnavatelům minimalizovat rizika spojená s AI a zároveň podpořit její bezpečné a zodpovědné používání. Při stanovení pravidel pro užívání AI je však důležité zohlednit specifické potřeby a rizika každé společnosti. Informace obsažené v tomto článku však mohou posloužit jako výchozí bod při hledání cesty a nastavování pravidel i pro Vaši společnost.
Mgr. Dominika Valentová,
advokátní koncipientka
Doležal & Partners s.r.o., advokátní kancelář
Růžová 1416/17, 110 00, Praha 1
Koliště 1912/13, 602 00, Brno
Tel.: +420 222 544 201
e-mail: office@dolezalpartners.com
[1] Nařízení Evropského parlamentu a Rady č. 2016/679 ze dne 27.04.2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES.
© EPRAVO.CZ – Sbírka zákonů, judikatura, právo | www.epravo.cz
