Changes from report parliamentary committee draft to plenary report

Added71. zdůrazňuje, že aplikace využívající umělou inteligenci mohou shromažďovat a zpracovávat údaje dětí bez informovaného souhlasu nebo povědomí dítěte nebo jeho zákonných zástupců, zejména pokud jde o práva dítěte jako subjektu údajů;

Added72. poukazuje na potenciální rizika programů generativní umělé inteligence, které by mohly být zneužívány k podpoře pohlavního zneužívání dětí predátory, ale také vytvářet pomocí technologie deepfake sexualizovaný materiál nezletilých osob zneužitelný při kybernetické šikaně mezi vrstevníky, a upozorňuje na to, že poskytovatelé služeb a platforem, kteří tyto nástroje nabízejí, musí proti tomuto fenoménu zakročit;

Added73. je si vědom významné hrozby, kterou představují svlékací aplikace využívající umělou inteligenci, jako je aplikace „Undress“, která uživatelům umožňuje generovat zmanipulované obrázky jednotlivců bez jejich souhlasu, čímž porušuje jejich soukromí a důstojnost; konstatuje, že tyto technologie mohou usnadňovat genderově podmíněné kybernetické násilí; apeluje na Komisi, aby urychleně přijala kroky k řešení těchto etických a právních výzev, které tyto technologie představují;

Added74. zdůrazňuje, že nezletilí jsou obzvláště zranitelní vůči návykovým designovým prvkům interaktivních aplikací a her využívajících umělé inteligence, které mohou být často záměrně vyvíjeny s cílem maximalizovat interakci; zdůrazňuje, že doporučovací algoritmy založené na umělé inteligenci mohou vést u nezletilých k trávení nadměrného času u obrazovky a vytvářet jejich závislost, což brání jejich kognitivnímu, emocionálnímu a sociálnímu rozvoji a komplikuje rozvoj jejich individuálních dovedností a schopností;

Added75. zdůrazňuje, že akt o umělé inteligenci je důležitým nástrojem k řešení systémových rizik, která systémy umělé inteligence představují, zejména pro veřejné zdraví, bezpečnost, veřejnou bezpečnost, základní práva nebo společnost jako celek, a pro stanovení minimální úrovně bezpečnosti a důvěryhodnosti umělé inteligence v EU, včetně systémů AI, které se používají při vytváření obsahu, v doporučovacích systémech a při interakci uživatelů na on-line platformách; vyzývá k urychlenému zavedení povinností vyplývajících z aktu o umělé inteligenci a k jejich vymáhání s cílem zajistit důvěryhodnost a bezpečnost umělé inteligence, a to i pro nezletilé osoby; vyzývá Komisi a orgány členských států, aby důrazně prosazovaly ustanovení aktu o umělé inteligenci, která se zabývají manipulativními a klamavými chatboty;

Added76. zdůrazňuje klíčový význam kodexu zásad pro obecné modely umělé inteligence (GPAI), který je základním kamenem účinného provádění povinností vyplývajících z aktu o umělé inteligenci v oblasti zmírňování systémových rizik, zejména pokud jde o ochranu základních práv a řešení rizik, jimž jsou vystaveni nezletilí;

Added77. konstatuje, že agenti umělé inteligence, společníci a chatboty pro nezletilé jsou na internetu využívány stále častěji a mohou představovat významná rizika z hlediska práv nezletilých osob a jejich zdravého vývoje; zdůrazňuje, že Komise by měla v rámci probíhajícího hodnocení právních předpisů v oblasti ochrany spotřebitele zvážit přijetí dalších záruk, norem transparentnosti a zákazu antropomorfních prvků, aby se zabránilo podněcování dětí k nákupu a zajistila se jim možnost přestat bez problémů chatboty umělé inteligence používat;

Added78. vyzývá členské státy, aby urychleně jmenovaly příslušné orgány odpovědné za prosazování zákazů u zakázaných praktik a aby akt o umělé inteligenci důsledně a účinně prosazovaly, zejména pokud jde o ustanovení o ochraně nezletilých osob; zdůrazňuje, že příslušné orgány by měly věnovat zvláštní pozornost systémům umělé inteligence, zejména těm, které jsou zaváděny platformami sociálních médií, a prošetřit, zda systémy umělé inteligence, u nichž je pravděpodobné, že budou interagovat s nezletilými osobami, nezneužívají zranitelnosti nezletilých osob nebo nenarušují jejich chování tak, že to dotčené osobě nebo jiné osobě způsobuje, nebo by s přiměřenou pravděpodobností mohlo způsobit, významnou újmu, jak zakazuje akt o umělé inteligenci;

Added79. podtrhuje význam podpory financování výzkumu umělé inteligence pro děti a s dětmi, jakož i podpory pobídek k překlenování digitální propasti;

AddedMediální a digitální gramotnost a vzdělávání

Added80. uznává význam mediální a digitální gramotnosti pro to, aby se nezletilé osoby mohly bezpečně a odpovědně pohybovat v online prostředí a používat kritického myšlení; připomíná, že členské státy a Evropská unie mají pravomoc přijímat konkrétní opatření v této oblasti, a to i ve vzdělávacích zařízeních; doporučuje začlenění mediální a digitální gramotnosti do vnitrostátních osnov a rozvoj programů průběžné odborné přípravy pro učitele a pedagogy; zdůrazňuje, že je nezbytné propojit mediální gramotnost se základními dovednostmi, jako je porozumění psanému projevu, a vyzdvihuje význam gramotnosti v oblasti umělé inteligence a digitální gramotnosti jako předpokladů pro vytvoření bezpečnějšího internetového prostředí a pro rozpoznávání rizik na internetu; zdůrazňuje, že je třeba posoudit potenciální škody i hledat dostupné mitigační nástroje a zároveň prozkoumat pozitivní úlohu, kterou může digitální prostředí hrát v přístupu k informacím, vzdělávání a občanské účasti; uznává úlohu veřejnoprávních sdělovacích prostředků při poskytování rozmanitého a kvalitního obsahu nezletilým osobám s cílem posilovat vzdělávací a kulturní cíle; doporučuje, aby digitální platformy šířily kulturní rozmanitost a vzdělávací materiály, zejména od evropských tvůrců a veřejných institucí;

Added81. zdůrazňuje, že ochrana nezletilých osob na internetu je sdílenou odpovědností, která vyžaduje zapojení rodičů, pověřených osob, veřejných orgánů, platforem a škol; zdůrazňuje, že je třeba uvolnit odpovídající zdroje, a vyzývá ke strukturované spolupráci mezi vzdělávacími systémy, digitálními platformami a regulačními orgány s cílem zajistit vysoce kvalitní programy digitální a mediální gramotnosti; vyzývá Komisi, aby podporovala výměnu osvědčených postupů a přeshraniční spolupráci s cílem zajistit bezpečné a odpovědné online prostředí;

Added82. vyzdvihuje nutnost poskytnout rodičům a pověřeným osobám odpovídající informace a pokyny, které jim pomohou podpořit své děti v digitálním světě; vyzývá k zavedení vzdělávacích a osvětových iniciativ pro rodiče, pověřené osoby, učitele a pedagogy, které budou financovány z fondů EU a budou se mimo jiné zaměřovat na dopady nadměrného využívání sociálních médií, vystavení škodlivému obsahu a závislosti na internetu; zdůrazňuje, že nezletilé osoby jsou vůči dezinformacím na internetu obzvláště zranitelné, jelikož procházejí psychologickým vývojem a jejich mediální gramotnost a schopnosti kritického myšlení se teprve rozvíjejí; vyzdvihuje naléhavou potřebu pořádat ve školách osvětové kampaně přiměřené věku s cílem pomoci nezletilým identifikovat a hlásit rizika na internetu; vybízí poskytovatele online platforem a digitálních služeb, aby přijali dobrovolná opatření a nástroje, které pomohou posílit digitální dovednosti, kritické myšlení a digitální gramotnost nezletilých osob a podpoří rodiče nebo pověřené osoby v jejich roli průvodců nezletilých v online světě; připomíná, že děti, jež jsou nejzranitelnější offline, jsou často také nejzranitelnější na internetu, a zdůrazňuje potřebu cílené podpory zranitelných dětí, včetně dětí z nízkopříjmového prostředí nebo se zdravotním postižením; vybízí k podpoře gramotnosti nezletilých, kteří působí jako tvůrci digitálního obsahu, přičemž je třeba, aby tato podpora odpovídala věku nezletilých a aby zahrnovala pokyny pro učitele a pracovníky s mládeží a etické pokyny ohledně toho, jak na internetu nakládat s vizuálním a narativním materiálem, jehož jsou děti protagonisté;

°

° °

Change 2

Removed31. Instructs its President to forward this resolution to the Council and the Commission.

Added83. pověřuje svou předsedkyni, aby předala toto usnesení Radě, Komisi a vládám a parlamentům členských států.