Umělá inteligence je pro děti běžnou součástí života. Připomínejme jim při práci s ní hodnoty a etiku (rozhovor s E. Nečasovou)

S Evou Nečasovou, zakladatelkou projektu AI dětem, o tom, co dětem může přinášet práce s umělou inteligencí, jak zmírňovat obavy z ní i o tom, jak s ní můžeme pracovat ve skautingu.

Foto: Johana Kratochvílová

Vzpomeneš si, kdy a při jaké příležitosti ses poprvé setkala s tím, co je dnes nejčastěji představováno jako umělá inteligence (textový / obrazový generátor)? Jaké to bylo?

Před dvěma lety jsem dělala příměstský experimentální tábor s umělou inteligencí pro děti od čtvrté do sedmé třídy. Bylo dost překvapivé, že to, co jsem považovala za raketovou vědu, děti dávaly úplně s prstem v nose. To mi přišlo fantastické. Odcházela jsem z té akce v euforii a říkala si, jak je skvělé, kolik jsme toho dětem předali. Dodnes nevím, proč mě v předávání tolik nadchla právě umělá inteligence. Druhé setkání bylo s generativními modely, když jsem narazila na model Disco diffusion na cloudu Colab, kde se dají rozbíhat podobné systémy. Tam jsem si poprvé vygenerovala obrázek, na což asi nikdy nezapomenu. Zadala jsem tam klíčová slova „beast, foggy, mountains“, chroupalo se to asi dvě hodiny a pak to vyplivlo obrázky v malém rozlišení, které mě ale úplně uchvátily. Byly tam hory zanořené v mlze a ta bestie byla vytvořená z těch hor nebo z mlhy. Bylo to přímočaré, ale zároveň dost „out of the box“. Vlastně to mělo dost společného s dětským uvažováním. 

_________________________

Jsem celkem technooptimista. V současném komplikovaném světě potřebujeme technologie i proto, abychom Zemi mohli vracet to, co jsme jí vzali. 

_________________________

Ten zájem se později více a více prohluboval. Co všechno kolem umělé inteligence a jejího využití s dětmi děláš dnes? S jakými cíli?

Je toho opravdu hrozně moc. Udělala jsem si kurz Elements of AI, což je bezplatný certifikovaný kurz. Dala jsem si po něm takové pravidlo, že se každý den dozvím něco nového o umělé inteligenci. Před rokem jsem narazila na knihu Machine Learning for Kids od Dale Lanea z IBM. Ta mi hodně otevřela oči. Je to první projektová kniha pro děti, která téma strojového učení otevírá prakticky a jednoduše krok za krokem. Děti si v ní ve třinácti projektech trénují modely strojového učení. Ty poté mohou rovnou využívat v aplikaci ve Scratchi. To je skvělé, protože modely, které děti vytrénují, můžou rovnou i konkrétně použít. v různých malých aplikacích. Před rokem a dvěma měsíci jsme získali financování z Pražského inovačního institutu a od té doby toho vzniklo strašně moc. Našim cílem je vytvářet materiály, které pomůžou pedagogům zavádět vzdělávání v oblasti umělé inteligence na základních školách s přesahem na střední. Nejjednodušší je podívat se na web aidetem.cz. Naše highlighty jsou třeba interaktivní příběh pro výuku o umělé inteligenci, který jsme vytvořili společně s časopisem Raketa. Vydáváme metodiky AI v kontextech, ty mají rozvíjet digitální kompetence ve všech ostatních předmětech, než je jen informatika. Vydali jsme český překlad té knihy Machine Learning for Kids a s Raketou i menší sešit pro děti na prvním stupni. 

Vydali jsme český překlad knihy Machine Learning for Kids  D. Lanea.

Je vaším převažujícím cílem dodávání metodik pro učitele a návodů, jak pracovat s umělou inteligencí ve školách? Nebo je stejně důležitá i ta část směřující ke zmírňování obav a ostychu z umělé inteligence?

Je to obojí. Potkávám se s učiteli téměř denně. To, co neustále zjišťuji, je, že když mají učitelé konkrétní materiály, tak se do dané věci už pustí a obava je přejde. Když vidí, že si můžou celkem rychle připravit hodinovou lekci a vědí, že to zvládnou. Obrušování hran je už tenčí led. AI je silná technologie a může být zneužita, i když se to samozřejmě mnohdy stát nemusí. Myslím, že je potřeba nenatírat nic na růžovo a mluvit i o rizicích, která tu jsou. Ta ale neplynou z technologie samotné, ale z toho, že ji zneužijí konkrétní lidé. Je třeba mluvit o tom, jak se zneužití může stát, a jak se mu mohou lidé bránit a jaké mohou být dopady. Na druhé straně jsou tu i možná obrovská pozitiva. Snažíme se nabízet co nejkomplexnější pohled. Nejvíce pomáhá zjistit si na kurzu nebo jinde dostatek základních informací. Dokud je člověk odkázaný jen na externí zdroje a není v nich úplně zorientovaný, můžou být obavy silnější. Pak už může člověk pracovat s konkrétními metodikami a zkoušet a dozvídat se ještě víc. Strach z AI plyne i z toho, jak velká veřejná diskuze se kolem celého toho tématu rozvířila. Mnozí teď mají z narativu z médií pocit, že jakmile nezačnou nejlépe ještě dnes dvě hodiny denně chatovat s ChatGPT, tak už skoro přišli o práci. Takhle to ale vůbec nevnímám. Myslím, že je v pohodě, jestli člověka práce s AI baví nebo nebaví. Jsou povolání, která tím budou víc ovlivněná, jiná ne.

Jaké mohou být největší přínosy, které od AI můžeme jako lidstvo získat?

Když máme mluvit o možných přínosech, jde hlavně o dopady, které může mít využívání AI na celou společnost. Jde i o řadu oblastí, se kterými pracujete i ve skautingu. Jde o témata jako chudoba nebo klimatická změna. Obrovské změny může AI přinést ve zdravotnictví a už se to dnes na řadě míst děje. Existují tu modely, které dokážou namodelovat všechny proteiny. Může to znamenat velký průlom ve vývoji léků nebo například recyklaci. Umělá inteligence je nesmírně silná v tom, že dokáže pracovat s obrovským množstvím dat. To lidé starými cestami už nedokáží. Z těchto dat dokáže kvalitně predikovat i simulovat různé situace. Dříve jsme museli na všechno dělat pokusy, dnes dokážeme mnoho postupů docela věrně simulovat za mnohem kratší dobu. I vakcína na covid byla vyvinuta o dost rychleji než ty předchozí i díky AI. U klimatické změny jde zase o predikce záplav nebo modely šetření zdrojů. AI umí sledovat vzory chování a pracovat s nimi. YouTube třeba takto dokáže přesouvat data z videí na servery v místech, kde mají videa největší sledovanost, aby cestovala co nejmenší vzdálenosti. Jsem celkem technooptimista. V současném komplikovaném světě potřebujeme technologie i proto, abychom Zemi mohli vracet to, co jsme jí vzali.

_________________

Nepředpokládám, že by skauting byl nějak vytržený z běžného života. Tím pádem do něj i umělá inteligence podle mě patří jako jakákoliv jiná technologie.

_________________

Co může umělá inteligence přinášet dětem? Proč by ti, kteří z ní mají zatím spíše obavy, měli zkusit je překročit a nechat děti s AI více pracovat?

U dětí je to podobné, jako když přichází k jakýmkoliv jiným technologiím. Ony to většinou nijak neřeší. V dětech tedy moc problém nevidí. Je spíše důležité, abychom jim my dospělí zároveň s prací s technologií přinášeli a připomínali hodnoty, etiku a mluvili o tom, co nemusí být bezpečné. Děti se do takových věcí vrhnou dost rychle a snadno, je to pro ně přirozené, zkouší věci. Občas potřebují trochu zbrzdit, aby do toho nešly tak bezhlavě. Ve zbržďování jsme my dospělí většinou dobří.  

Ve skautingu opakovaně řešíme, jak dobře skloubit tradice, hodnoty ale i témata a dovednosti, které jsou se skautingem spojovány od jeho počátků - jako jsou přátelství, spravedlnost, pobyt v přírodě, orientace v ní nebo spolupráce - s novými technologiemi, tématy a trendy. Tak, aby se skauting dařilo neustále aktualizovat a vztahovat k současnosti, aby ale zároveň nepřicházel o svou podstatu. Jak si v tomto případě co nejlépe poradit s umělou inteligencí – jak může být pro práci s dětmi ve skautských oddílech dobrým pomocníkem a zajímavým nástrojem?

Pokud mluvíme o možném využívání ChatGTP apod. ve skautské činnosti, nepředpokládám, že by skauting byl nějak vytržený z běžného života. Tím pádem do něj i umělá inteligence podle mě patří jako jakákoliv jiná technologie. Osobně mám se skautingem zároveň hodně spojenou etiku a hodnoty. To jsou témata, která by se mohla v souvislosti s technologiemi otvírat častěji. Můžete tím být jistou protiváhou nesmyslnému využívání technologií, případně konzumování zbytečného obsahu.    

Víš o nějakých příkladech jejího zajímavého využití z podobných dětských oddílů nebo ze škol?

O umělé inteligenci se i ve vzdělávání hodně mluví, ale ve školách na ni zatím nemají moc času. I naše pilotní školy jsou s blížícím se koncem roku v této oblasti méně a méně aktivní. Obecně máme zatím dost málo podrobných dat a zpětných vazeb o tom, co přesně se ve školách děje s materiály, které zveřejňujeme.

Směrem k AI se při své práci pravděpodobně setkáváš s řadou pocitů a přístupu – od fascinace a okouzlení, velkého zájmu až po velké obavy a strach. Jaké převažují u učitelů?

Objevují se hlasy o tom, že větší část učitelů je proti zavádění AI do škol. Jistě je tohle téma spojené s řadou emocí. Já ale dennodenně školím učitele a jsou jich stovky. Z těch, se kterými se na kurzech setkávám, cítím velký zájem se vzdělávat. Jejich přístup mi přijde pozitivní. I přístup státu a ministerstva mi přijde kladný a realistický. 

Je práce s AI a přístup dětí k ní (jestli ho omezovat, řešit pravidla pro využívání) v lecčems podobná jako práce s jinými technologiemi? Nebo je přeci jen něčím specifická a má být specifický i náš přístup jako vychovatelů k ní? 

Třeba s ChatGPT dnes mohou děti samostatně pracovat až od třinácti let. Jde o podmínky užití, které nastavuje OpenAI, což je společnost, která ChatGPT vytvořila. Od třinácti do osmnácti let musí mít pro samostatnou práci souhlas zákonného zástupce. Když děti s AI pracují, je důležité, aby věděly, že všechno, co tam zadávají, může někdo číst. Data někam odcházejí, vývojáři v nich hledají vzory a upravují z nich dané modely. Neměly by tam tedy zadávat žádné soukromé a osobní informace – ani své, ani někoho, koho znají. Je třeba dětem vysvětlovat i to, že ChatGPT nebude vždy mluvit pravdu, že klade slova strojově za sebou v pravděpodobnosti, jak si myslí, že by je kladl člověk. Chaty jsou natrénované daty do roku 2021, některé nové věci tam tedy ještě nejsou. Tento týden ale mají být zavedeny pluginy, které uvidí na celý internet. Základní pravidla tedy mohou být – nevkládejte do chatů nic osobního a vše, co z nich získáte, si ověřujte.  

Může současný boom kolem AI být pro někoho až moc rychlý? Někteří by možná potřebovali dát celou věc někam na poličku a vrátit se k ní za tři měsíce. Od AI ale přitom dnes není kam utéct…

Tak rychlý vývoj je asi těžký pro všechny. Já mám také problém stíhat se v tom všem orientovat. Nezbývá, než se s tím smířit. Vede mě to k tomu, že my bychom měli být ti šťastní. Technologie jsou tu k tomu, aby nám život zjednodušovaly a mohli jsme žít spokojeně. Někdy to přitom bývá naopak, sama někdy cítím, že mi technologie dělají těžkou hlavu. To pak ale nedává moc smysl je používat.

Václav Zeman – Šík

Rozhovor vyšel v červnovém vydání časopisu Skautský svět (06/2023).