Rizika AI ve škole: o čem je potřeba mluvit otevřeně
AI ve škole nepřináší jen nové možnosti, ale i nová rizika, na která děti ani učitelé nejsou připraveni.
Ta se týkají především práce s obrazem, identity a vztahů.
Nejdůležitější reakcí není zákaz, ale otevřená a informovaná debata.
Proč se o rizicích AI mluví méně, než by mělo
Diskuse o AI ve škole se často soustředí na nástroje, ale opomíjí jejich dopady na chování a vztahy.
Ve výuce se řeší:
jak AI používat
jak ji zapojit do výuky
jak ji hodnotit
Méně už:
co dělá s mezilidskými vztahy
jak mění vnímání reality
jaké nové formy zneužití umožňuje
Je to pochopitelné – technologie se popisují snadněji než lidské chování. Jenže právě tam se dnes odehrávají ty největší změny.
Glosář pro přežití v digitální džungli:
Většina diskusí o AI ve škole se nese v duchu nadšeného hloubání nad tím, jestli nám robot napíše lepší osnovy pro tělocvik. To je sice hezké, ale je to trochu jako řešit barvu potahů v letadle, kterému právě za letu upadlo křídlo a pilot se právě pokouší navázat romantický vztah s palubním počítačem. Rizika AI totiž neleží v tom, že by nás stroje chtěly zotročit (na to jsou příliš líné a vyžadují moc elektřiny), ale v tom, že nám nastavují zrcadlo, ve kterém vypadáme přesně tak zranitelně, jak se v hloubi duše cítíme.
Jaká rizika AI přináší do školního prostředí
AI umožňuje manipulovat obrazem, identitou i vztahy způsobem, který byl dříve nedostupný.
Typicky jde o tři oblasti:
úprava a zneužití fotografií
vytváření virtuálních identit
simulace vztahů a komunikace
Tyto věci:
nejsou výjimečné
objevují se mezi žáky a rodiče i učitelé o nich nevědí
často předbíhají reakci dospělých
Manipulace s obrazem (Deepfakes a šikana)
Dříve vyžadovala vizuální dehonestace spolužáka alespoň základní dovednost s fixou a papírem, případně hodiny úmorné práce ve Photoshopu. Dnes vám AI vyrobí kompromitující fotografii z vaší dovolené na Marsu dříve, než stačíte říct ‚ochrana osobních údajů‘. Je to fascinující ukázka pokroku: technologii, která by mohla modelovat léky na rakovinu, používáme k tomu, abychom panu učiteli na fotce přidali oslí uši a baletní sukýnku. Je to sice v jádru stále ta stejná pubertální hloupost, ale tentokrát má v ruce motorovou pilu namísto tupých nůžek.
AI v tomhle není „problém sama o sobě“, ale výrazně rozšiřuje možnosti, jak mohou být lidé zranitelní.
Manipulace s obrazem: nový nástroj šikany
AI umožňuje upravovat fotografie lidí způsobem, který může být ponižující nebo zneužitelný.
Pozor: Toto není technologický problém, je to etický problém.
To znamená:
snadná úprava vzhledu
vytváření neexistujících situací
šíření upravených obrázků
Pro dítě:
je to často „jen legrace“
ale dopad může být velmi silný
Je to podobné jako u klasické šikany – jen s tím rozdílem, že výsledek může působit přesvědčivěji a šířit se rychleji. A co jednou vznikne, se velmi těžko bere zpět.
Virtuální identity a vztahy
AI umožňuje vytvářet postavy, se kterými lze navazovat vztahy – a ty mohou působit velmi reálně.
Dítě může:
komunikovat s virtuální postavou
vytvářet si vlastní identitu
vstupovat do prostředí, kde jsou vztahy simulované
co je někdy ještě horší míchat virtuální svět a kamarády s tím reálným, kdy se za vlídným avatarem může skrývat někdo, koho potkat nechceme
Pro dospělého je to obvykle hra nebo experiment.
Pro dítě to může být:
emocionálně silné
těžko rozlišitelné od reality
návykové
To samo o sobě nemusí být problém. Problém vzniká ve chvíli, kdy tyto vztahy začnou nahrazovat ty reálné.
Virtuální identity (Zamilování do kódu)
Průvodce po digitálních citech:
Představa, že si vaše dítě píše milostné dopisy s algoritmem, který má osobnost složenou z průměru tří miliard internetových diskusí, je děsivá jen do okamžiku, než si uvědomíte, že ten algoritmus je jediný, kdo ho po příchodu ze školy nespucuje za nevynešený koš. AI je jako ideální partner: nikdy nezapomene na vaše narozeniny, vždycky souhlasí s vaším názorem na nespravedlnost světa a nikdy nepotřebuje jíst. Problém nastává ve chvíli, kdy zjistíte, že vaše dítě má k tomuto shluku jedniček a nul hlubší vztah než k babičce z druhého kolena, protože babička na rozdíl od AI občas mluví o nemocech a dává k vánocům pletené ponožky.
Proč jsou děti zranitelnější než dospělí
Děti nemají stejnou schopnost rozpoznat manipulaci, hranice a riziko.
To vede k tomu, že:
více důvěřují
silněji reagují na emoce
hůře odhadují důsledky
Navíc:
hledají uznání
hledají vztahy
hledají bezpečí
A pokud to nenajdou v reálném prostředí, velmi snadno to najdou jinde – i tam, kde to není bezpečné.
Jak poznat, že se něco děje
Riziko se často neprojeví přímo, ale změnou chování.
Signály mohou být:
uzavírání se do online světa
silná vazba na „něco“, co není viditelné
změny nálad spojené s online interakcemi
konflikty kolem sdílení fotografií
Žádný z těchto signálů není důkaz.
Ale je to důvod zbystřit.
Jak o tom mluvit ve škole
Nejdůležitější není zákaz, ale otevřená a bezpečná debata.
Dává smysl:
pojmenovat, že tyto věci existují
mluvit o dopadech, ne jen o technologiích
otevřít etické otázky
dát prostor otázkám žáků
Například:
„Co by se stalo, kdyby někdo upravil vaši fotku?“
„Kde je hranice mezi zábavou a zneužitím?“
Učitel nemusí znát konkrétní aplikace.
Důležitější je rozumět principu.
Proč neukazovat konkrétní nástroje
Znalost konkrétních aplikací není pro práci učitele klíčová – a může být kontraproduktivní.
Důvody:
nástroje se rychle mění
žáci je pravidelně znají sami
jejich ukazování může nechtěně zvyšovat zájem
Proč neukazovat konkrétní nástroje
Instrukce pro zachování zdravého rozumu:
Snažit se držet krok s názvy všech pochybných aplikací, které žáci zrovna používají, je stejná pošetilost jako pokusit se vyjmenovat všechny druhy prachu v kabinetu biologie. Než se naučíte vyslovit název jedné ‚zaručeně nebezpečné‘ aplikace, žáci už dávno používají jinou, která vypadá jako kalkulačka, ale ve skutečnosti funguje jako generátor milostných veršů v klingonštině. Učitel nemusí být technologický detektiv; stačí, když bude vědět, že pokud žák tráví pět hodin denně diskusí s ledničkou, pravděpodobně není problém v té ledničce.
Smyslem není „držet krok s aplikacemi“.
Smyslem je rozumět tomu, co umožňují.
Role školy: bezpečné a laskavé prostředí místo kontroly
Nejúčinnější prevence nevzniká zákazem, ale prostředím.
To znamená:
bezpečné vztahy ve třídě
otevřenou komunikaci
respektující atmosféru
Pokud dítě:
má kde mluvit
má kde být přijato
má kde získat uznání
👉 výrazně klesá potřeba hledat to jinde
Role školy (Prostředí místo kontroly)
V boji proti digitálním rizikům je zákaz podobně účinný jako pokus zastavit příliv dětským kyblíčkem na písek. Jedinou funkční obranou je vytvořit ve třídě prostředí, kde je reálný pokec s učitelem zajímavější než generované blábolení křemíkového mozku. Pokud se žák cítí přijatý i s tím, že mu nejde matematika a má divný účes, nemá potřebu hledat útěchu u algoritmu, který mu sice polichotí, ale nikdy mu nepůjčí propisku, když mu dojde inkoust. Lidskost je totiž ta jediná věc, na kterou AI stále ještě nemá licenci.
Kdy si říct o pomoc
Učitel nemusí umět řešit všechno sám.
Dává smysl:
přizvat odborníka
využít externí vzdělávací program
sdílet zkušenosti
Důležité je téma neignorovat
Shrnutí
AI nezavádí jen nové nástroje, ale mění prostředí, ve kterém děti vyrůstají.
Rizika:
nejsou okrajová
nejsou vzácná
a nevyřeší se zákazem
klíčem je:
rozumět
mluvit
a vytvářet prostředí, kde dítě nemusí utíkat jinam
Jak si postavit vlastní „Krizový štáb“ (Checklist pro sborovnu)
Než se něco stane (a ono se něco stane, je to otázka času, ne možnosti), sedněte si s kolegy ve sborovně a zkuste si odpovědět na tyhle situace. Je lepší mít plán a nepoužít ho, než mít paniku a nevědět, kam skočit.
1. Inventura možných AI Průšvihů
Zkuste si sepsat, na co jako škola máte „žaludek“ a kde už voláte posily:
Deepfake učitele: Co uděláme, když se na TikToku objeví video, kde pan ředitel tančí v baletní sukýnce a zpívá death metal? (Smějeme se tomu, nebo máme právní postup?)
Deepfake žáka: Tam to nebude o baletní sukýnce a bude to drsné
Virtuální šikana: Máme jasno v tom, že upravená fotka spolužačky je stejný přestupek jako facka na chodbě?
AI milenci: Ví náš metodik prevence, co dělat, když se žák začne víc svěřovat chatbotu než školnímu psychologovi?
Když žák odevzdá fotku, která vypadá až moc dokonale? -> Neřešte pixely, řešte, proč má potřebu se schovávat za filtr.
Když zjistíte, že si žák dopisuje s AI postavou? -> Nepanikařte, zeptejte se ho, o čem si povídají. Možná se dozvíte víc než z pěti výchovných pohovorů.
Napadne vás samotné něco dalšího?
Kdo drží „Červené tlačítko“?
Nestačí vědět co, ale kdo. Definujte si role:
Technologický průzkumník: Kolega, který se AI nebojí a zjistí, co ta která aplikace vlastně umí.
Etický arbitr: Někdo, kdo dokáže žákům (i rodičům) vysvětlit, proč je něco „přes čáru“, i když to technicky jde.
Krizový komunikátor: Kdo mluví s rodiči, když se digitální problém rozlije mimo školu?
„Vytvořit si školní manuál pro krizové situace s AI je podobné jako připravovat se na invazi kobylek: Doufáte, že nikdy nepřiletí, ale když už se na obzoru objeví mračno, je dobré vědět, kde máte síťky na motýly a u koho v kabinetu je schovaná láhev něčeho ostřejšího pro uklidnění nervů. Manuál by neměl být tlustý jako Telefonní seznam Galaxie; bohatě stačí, když bude obsahovat dvě strany textu a jedno velké telefonní číslo na někoho, kdo zachová klid, i když se tiskárna v ředitelně začne sama od sebe dožadovat občanských práv.“
Závěrečná výzva: Nečekejte na instrukce z ministerstva
S tímle tématem nečekejte na „metodický pokyn“. Ten pravděpodobně přijde v době, kdy už vaše děti budou komunikovat v hologramovém rozhraní.
Ovládání AI nástrojů samo o sobě nevede k porozumění – jen urychluje práci bez myšlení. Ovládat AI nástroje dnes nestačí, protože samotné používání nástroje nevede k porozumění.
Skutečná hodnota spočívá v tom, jak s AI přemýšlíme, ne jak ji ovládáme.
Jedno nebo dvoudenní kurz pro učitele – praxe, inspirace a nová metoda pro školu
Kurz rozšiřuje metody, podporuje týmovou spolupráci a mezipředmětové vazby. Účastníci odjíždějí s hotovými hrami a dovednostmi, které ihned využijí ve výuce. Škola tak získá kolegu, který přinese inovaci a inspiraci i pro ostatní.
