Na začátku srpna letošního roku začalo platit AI Act, evropské nařízení, jehož cílem je větší transparentnost obsahu, vytvořeného nebo upraveného pomocí nástrojů umělé inteligence. Obsah, který působí reálně, musí být jasně označen. Nařízení se netýká jen fotek nebo videí, ale také chatovací asistentů v internetových obchodech. Vývojáři a provozovatelé mají na uvedení nařízení do praxe tříměsíční přechodné období. Dodržování nařízení se přitom dotýká profesní sféry, nikoliv soukromých osob.
Podle Lukáše Kačeny, vládního zmocněnce pro umělou inteligenci je transparentnost jedním ze základní předpokladů důvěry v umělou inteligenci. “Uživatelé by měli být schopni poznat, kdy komunikují se systémem umělé inteligence nebo kdy jsou vystaveni obsahu, který byl vytvořen či upraven pomocí AI. Jen pokud mají lidé k dispozici jasné informace o původu obsahu, mohou si vytvořit vlastní úsudek a odpovědně se rozhodovat o tom, jak s takovým obsahem naloží. Právě proto AI Akt zavádí pravidla, která mají posílit informovanost veřejnosti a přispět k bezpečnému a důvěryhodnému využívání umělé inteligence v praxi,“ uvedl v červenci v oficiálním sdělení.
Na dodržování pravidel v Česku dohlíží mimo jiné Český telekomunikační úřad (ČTÚ). Ten také vydal doporučení pro firmy, e-shopy, banky či operátory, kteří AI využívají, jak postupovat. „Prvním krokem je správně určit vlastní roli. Dále pak identifikovat konkrétní povinnosti, které se na daný subjekt vztahují. Třetím krokem je následné nastavení procesů a opatření zajišťujících soulad s požadavky AI Actu,” uvádí úřad na webu.
poskytovatel – ten, kdo AI systém vyvíjí nebo si ho nechává vyvinout a uvádí ho na trh nebo do provozu pod svým jménem či značkou. Patří sem například vývojáři AI řešení nebo společnosti, co si na míru nechají AI produkt vyvinout pro svou potřebu.
zavádějící subjekt – ten, kdo AI systém používá v rámci své profesní činnosti. Patří sem firmy, úřady, média, reklamní agentury, školy, nemocnice nebo jiné organizace, které rozhodují, k čemu a jak AI systém použijí.
Dvě hlavní povinnosti
První povinnost pak ukládá poskytovateli navrhnout a vyvinout AI systém tak, aby fyzická osoba byla informována, že komunikuje s umělou inteligencí.
Druhou povinností je technické označování AI obsahu. Česká asociace umělé inteligence ale koncem července na webu uvedla, že „tato povinnost neznamená, že každý uživatel musí k AI obrázku ručně přidat viditelnou ikonku”. „Jde o technickou povinnost poskytovatele systému. Výstupy systému mají být označeny ve strojově čitelném formátu a mají být detekovatelné jako uměle vytvořené nebo manipulované,” píše. Cílem tedy je, aby bylo možné zpětně ověřit, jestli daný obsah vznikl nebo byl upraven za pomocí umělé inteligence.
Způsoby označení musí být ale podle ČTÚ jasné a rozlišitelné: „V praxi lze využít například označení nebo ikony typu „AI generated“ pro plně generovaný obsah nebo „AI modified“ pro obsah upravený pomocí AI.”
Právnička Nikola Šedová na webu Dostupný advokát dodává, že označení není nutné, pokud text prošel skutečnou lidskou či redakční kontrolou a konkrétní osoba nebo vydavatel za jeho zveřejnění převzali odpovědnost. „Běžné opravy pravopisu, barevné filtry nebo drobné kosmetické úpravy fotografií proto zpravidla samy o sobě povinnost označení nezakládají,” dodává.
Největším rizikem jsou deepfakes
Zvláštní důraz je pak kladen na deepfakes a texty zveřejňované s cílem informovat veřejnost o záležitostech veřejného zájmu. Pokud je takový typ obsahu vytvořen nebo významně upraven za pomocí AI, musí o tom veřejnost vědět. Deepfake totiž představují riziko u důležitých společenských či politických témat, například voleb. Pomocí umělé inteligence lze šířit manipulativní nebo klamavé materiály snadno a rychle, připomíná Česká televize.
Česká asociace umělé inteligence ale upozorňuje, že podle AI Actu není jakýkoli AI obrázek, AI video nebo syntetický hlas deepfake. „Musí jít o AI generovaný nebo AI manipulovaný obrazový, zvukový nebo video obsah, který se podobá existujícím osobám, objektům, místům, subjektům nebo událostem a zároveň by se mohl člověku nepravdivě jevit jako autentický nebo pravdivý.” Rozhodující je tedy to, zda může u publika vyvolat dojem autentického záznamu reality.
„Typickým deepfakem může být syntetické video veřejně známé osoby, která říká něco, co nikdy neřekla, AI generovaný hlas konkrétní osoby nebo realistická fotografie události, která se nestala. Naopak čistě fantasy obsah, zjevně nerealistická animace nebo stylizovaná scéna, kterou publikum nemůže rozumně chápat jako autentický záznam reality, deepfakem typicky nebude,” uvádí příklad.
„Evropané mají právo vědět, zda to, co vidí, slyší nebo čtou, bylo vytvořeno nebo pozměněno umělou inteligencí, zejména pokud takový obsah může ovlivňovat veřejnou debatu,“ citovala místopředsedkyni Evropské komise Hennu Virkkunen Česká televize.
Kodex zásad transparentnosti obsahu vytvořeného umělou inteligencí je k dispozici na webu Evropské komise. Podrobný popis pravidel uvádí také zmiňovaná Česká asociace umělé inteligence.
Zdroje:
https://dostupnyadvokat.cz/blog/pravidla-pro-oznacovani-ai
https://digital-strategy.ec.europa.eu/cs/policies/code-practice-ai-generated-content