Doporučení pro využívání AI nástrojů (nejen) na PřF UJEP

Přírodovědecká fakulta UJEP se spolu se zástupci dalších českých univerzit, středních škol a spolku prg.ai podílí na přípravě obecných doporučení pro práci s AI nástroji ve vzdělávacích institucích. Cílem těchto doporučení je pomoci studentům, akademikům, výzkumníkům i vedení škol efektivně využívat možnosti, které přináší generativní umělá inteligence, a zároveň upozornit na její limity a možná rizika.

Doporučení pro studující

Milé studenstvo,

v dnešním akademickém prostředí se stále častěji setkáváme s pokročilými nástroji založenými na umělé inteligenci (AI), které nám usnadňují tvorbu textů, kódů, audiovizuálních děl a dalších materiálů podle našich představ a potřeb, a to s narůstající dostupností těchto nástrojů. Rádi bychom vám doporučili, abyste se s těmito nástroji naučili efektivně pracovat a správně je využívat, což vám může v budoucnosti otevřít dveře k mnoha příležitostem jak v profesním, tak osobním životě.

Je však důležité zdůraznit, že hlavním cílem samostatné práce je rozvoj tvůrčího a kritického myšlení, které jsou klíčovými kompetencemi pro úspěch ve vašem studijním oboru i v životě obecně. K těmto kompetencím patří především schopnost formulovat vlastní hypotézy, vyhledávat a správně používat relevantní informační zdroje, provádět vlastní analýzy a interpretace, argumentovat vlastní závěry a aplikovat teoretické poznatky na praktické problémy v širším kontextu studovaného oboru.

Proto využívejte nástroje AI rozumně, a především k rozvoji dovedností spojených se studiem.

DOPORUČENÍ PRO PRÁCI S NÁSTROJI AI

Záměrem tohoto doporučení je formulovat Základní principy pro etické, tvůrčí, přínosné a bezpečné využívání AI v akademickém prostředí:

TRANSPARENTNOST: Využití nástrojů AI musí být v souladu s principy akademické i osobní morální integrity (zahrnuje např. dodržování etických zásad a čestného jednání ve vztahu k vaší práci, studiu a mezilidským interakcím, objektivitu, řádné citování zdrojů a respektování intelektuálního vlastnictví v rámci výzkumu, studia a vědecké komunikace). Buďte otevření a upřímní v komunikaci s pedagogy ohledně používání AI nástrojů a otevřeně deklarujte a uvádějte všechny použité zdroje a technologie, abyste poskytli úplný kontext vlastní práce. Pokud vyučující, vedoucí práce nebo fakulta v odůvodněných případech využití nástrojů AI nedoporučuje, respektujte jejich rozhodnutí.

SVĚDOMITOST, ODPOVĚDNOST: Vždy pečlivě kontrolujte a kriticky hodnoťte informace získané prostřednictvím AI, abyste zajistili jejich spolehlivost, přesnost a relevantnost v kontextu vlastní práce. Buďte si vědomi toho, že výstupy vygenerované nástroji AI mohou být zavádějící, chybné, založené na stereotypech či předsudcích, anebo diskriminační. Pamatujte, že za využití výstupů AI je vždy odpovědný autor práce.

MINIMALIZACE ZÁVISLOSTI NA AI: Zodpovědné využívání nástrojů AI podporujeme a vybízíme k němu. Zároveň od vás v souladu s cíli samostatné práce a akademickými zásadami očekáváme, že nebudete nástroje AI využívat jako úplnou náhradu samostatné práce a vlastního úsilí při tvorbě studentských výstupů. Nástroje AI primárně využívejte jako doplňkový prostředek pro podporu vlastní kreativity, myšlení a schopnosti řešit problémy, a zároveň tyto nástroje vhodně kombinujte s vlastními znalostmi získanými během studia. Průběžně se aktivně vzdělávejte o možnostech a omezeních nástrojů AI, abyste byli schopni rozpoznat situace, ve kterých je jejich použití vhodné a kdy může být v rozporu s akademickými zásadami.  Berte na vědomí, že se vyučující ve zvýšené míře budou při hodnocení vašich výstupů zaměřovat na prokázání jednoznačné znalosti tématu, dostatečně hlubokého porozumění problematice a schopnosti vést kvalitní tematickou diskusi.

BEZPEČNOST: Při využívání nástrojů AI zároveň souhlasíte s podmínkami stanovenými jejich poskytovateli. Pokud poskytnete nástrojům AI osobní údaje nebo citlivé informace, mějte na zřeteli, že se mohou dostat k nepovolaným osobám a být zneužity.

➤ JSME V TOM SPOLEČNĚ: I pedagogové teprve objevují, jak nejlépe využít nástroje AI a seznamují se s jejich možnostmi i omezeními. Mohou mít obavy nebo otázky ohledně jejich použití ve výuce a při hodnocení studentských prací. Projevte vstřícnost a trpělivost v dialogu s pedagogy ohledně používání AI nástrojů. Podělte se s nimi o své zkušenosti a poznatky z práce s AI a buďte připraveni společně diskutovat pozitivní i negativní aspekty jejich využívání. Spolupráce s pedagogy a sdílení informací vám mohou pomoci lépe pochopit jejich očekávání a zlepšit kvalitu vašeho vzdělávání.

Na závěr bychom rádi zdůraznili, že AI je pouze jedním z mnoha nástrojů, které máte během studia k dispozici. Klíčem k úspěchu je najít rovnováhu mezi využitím AI a rozvojem vašich vlastních dovedností a schopností. Nezapomínejte, že hlavním cílem vašeho studia je stát se samostatnými, kompetentními a kriticky uvažujícími odborníky – a toto je něco, co vám žádný nástroj založený na umělé inteligenci nemůže zaručit. Je důležité chápat, že společnost a obory, v nichž působíte, se v důsledku rozvoje AI neustále mění. Proto je nezbytné aktivně diskutovat a přemýšlet o dopadech AI na váš obor, vaši vlastní budoucnost a budoucnost společnosti. Věříme, že se zodpovědným přístupem k používání AI při dodržování akademických zásad budete úspěšní ve svém studiu i v budoucí kariéře.

Přejeme vám mnoho úspěchů ve vašem studiu i při práci s nástroji AI!

doporučení ke stažení v pdf

DOPORUČENÍ PRO VYUČUJÍCÍ

aneb Umělá inteligence jako nástroj pro využití ve výuce a výzva k reflexi výsledků učení

Cílem tohoto materiálu je poskytnout vyučujícím doporučení a tipy pro využití AI ve výuce na vysoké škole.

Umělá inteligence (AI) se učí na velkém množství trénovacích dat, včetně pedagogické literatury, proto umí navrhovat více či méně sofistikované postupy pro různé výukové situace a další činnosti vysokoškolského učitele. Dokáže vytvořit didaktické varianty zadání úkolu nebo diferencované obtížnosti aktivity, přeformulovat zadání podle požadavků, navrhnout kritéria hodnocení, navrhnout prezentaci pro přednášku, zestručnit podklady pro studující, připravit příkladové věty nebo úlohy na dané téma. Je nekonečně trpělivým partnerem pro rozvíjení a zpřesňování vašich idejí, zároveň může plnit roli testovacího studenta.

Využití AI v mnoha odvětvích lidské činnosti pravděpodobně výrazně změní život ve společnosti a ovlivní výkon mnoha povolání. Je tedy na místě zamyslet se také nad tím, co vůbec má být cílem a obsahem vzdělávání a přehodnotit očekávané výsledky učení a vyučovací i hodnoticí metody.

Otevřenost novinkám

Sledujte vývoj v oblasti nástrojů AI a věnujte část svého času zkoumání jejich možností. Vyzkoušejte si, co dokážou, jak mohou prospět vaší práci a nakolik jsou nebo nejsou spolehlivé. Osobní zkušenost je nezastupitelná. Tam, kde to je vhodné, tyto nástroje aktivně používejte. Podporujte využívání nástrojů AI studujícími a respektujte přitom rozdílnou úroveň jejich vstupních znalostí a dovedností. Sdílejte své zkušenosti se svými kolegy, inspirujte a nechte se inspirovat. Pokud si nejste jisti, neobávejte se říci si o pomoc. Hledejte možnosti, jak se dále vzdělávat. Seznamte se se slovníčkem základních pojmů v oblasti AI a prozkoumejte různé aplikace, které je možné ve výuce použít.

Vynalézavost

Přemýšlejte o tom, jak práci s nástroji AI integrovat do výuky a kombinovat je s dalšími metodami výuky. Buďte připraveni tyto metody průběžně měnit, přizpůsobovat vývoji a příkladům dobré praxe. Představte studujícím možnosti i limity AI, diskutujte o vhodných kombinacích nástrojů k dosažení stanovených cílů. Společně s kolegy i se studujícími hledejte cesty, jak nástroje AI co nejlépe využít ve výuce a v dalších aktivitách vysoké školy. S kolegy i studujícími opakovaně reflektujte dopady využívání stále se vyvíjející AI ve vašem oboru a celkově ve společnosti.

Transparentnost a poctivost

Seznamujte studující se základními principy akademické integrity nejen při využívání nástrojů AI. Doporučte studujícím způsoby, jak využití nástrojů AI v jejich práci deklarovat (např. dle doporučení nakladatelství Elsevier). Buďte pro studující dobrým vzorem v používání AI. Ukazujte jim etické způsoby jejího využití. Dávejte studujícím najevo, že stojíte o jejich (sebe)rozvoj a autentické výsledky jejich vlastní práce, spíše než o dokonale vybroušené akademické texty. Oceňujte zřetelně osobní vklad jednotlivých studujících.

Zodpovědnost

Vysvětlujte studujícím, že AI je nástrojem, který bere do svých rukou vždy konkrétní člověk – a ten nese zodpovědnost za to, k jakým cílům jej využije. V diskusích o AI s kolegy i studujícími apelujte na zodpovědný přístup k využívání AI. Zodpovědný přístup k AI znamená v kontextu práce vyučujících na vysoké škole také přehodnocení cílů vzdělávání a očekávaných výsledků učení ve studijních programech i v jednotlivých předmětech tak, aby absolventi studia obstáli ve světě, který AI v budoucnu ještě výrazněji ovlivní. 

Vstřícnost a jasná pravidla

Formulujte otevřeně podmínky, za nichž budete využití nástrojů AI studujícími považovat za vhodné ve studiu, při domácí přípravě anebo během tvorby písemných prací. Poskytněte studujícím příležitosti k rozvoji dovedností při využití nástrojů AI zadáním specifických úkolů. Veďte studující k získávání kompetencí, které budou stále důležitější pro jejich budoucí kariéru. Pokud se rozhodnete využití nástrojů AI nedoporučit anebo dokonce zapovědět, studujícím své rozhodnutí objasněte. Pokud naopak sami při přípravě a realizaci výuky na vysoké škole AI aktivně využíváte, informujte o tom studující, aby se Vašimi zkušenostmi mohli inspirovat.

Pragmatičnost

Nástroje AI využívejte ke zlepšení výuky. Vývoji v oblasti AI přizpůsobujte jak metody výuky, tak i hodnocení studijních výkonů studujících. Tam, kde je to možné a účelné, zvažte nahrazení písemných prací jinými formami výstupů. Při hodnocení písemných prací studujících klaďte větší důraz na sledování procesu jejich vzniku a také na prezentaci písemných výstupů studujícími. Rozlišujte, u kterých úloh je vhodné, aby studující využívali pomoc AI, a u kterých ne. Přizpůsobte tomu svá zadání. Vysvětlujte explicitně, proč chcete nebo nechcete, aby studující AI využívali.

Vztah se studujícími

Využíváním nástrojů AI dáváte jejich poskytovatelům řadu informací, které mohou být citlivé povahy, při práci s jednotlivými aplikacemi AI proto postupujte maximálně obezřetně. Prokazování nepřiznaného využití nástrojů AI je velmi problematické. Není a nebude možné jednoznačně dokázat, že studující použili AI neetickým způsobem. Nástroje, které slibují opak, nejsou důvěryhodné. Takovým situacím proto raději předcházejte. Přistupujte ke studujícím tak, aby se nebáli dělat chyby, sledujte jejich pokrok a buďte jim oporou při učení se akademickým dovednostem. Nastavte prostředí vzájemné důvěry. Vyhněte se podezírání a obviňování. Nastavujte přiměřené cíle výuky. Budujte se studujícími pozitivní vztah, svou autoritu stavte na své odbornosti a nadhledu, ne na strachu a nesplnitelných nárocích.

doporučení ke stažení v pdf

Rozšířená metodická doporučení UK – doporučujeme jako inspiraci

DOPORUČENÍ Pro výzkumné pracovníky

Demokratizace technologií AI nemění základní principy výzkumné práce, a to nejen v oblasti samotného výzkum, tak v oblasti jeho přípravy a administrace. Výzkum má být nadále transparentní ve své metodě, etický ve svém provedení a nabízet v maximální podobě svoji reprodukovatelnost. Při výzkum by s měli výzkumníci maximálně jednat v souladu s principy FAIR.

TRANSPARENTNOST: Umělá inteligence je nástrojem výzkumu, nikoli jeho autorem. Přestože výsledky generované AI mohou přinést nové objevy či nečekané souvislosti, které lidští výzkumníci přehlédli, je úloha AI primárně heuristická. Nemůže být autorem interpretace výzkumu. Podílí se na něm podobně jako metody aplikované statistiky či vizualizace dat. Odpovědnost za výsledky a interpretaci výzkumu leží vždy na výzkumníkovi.

Protože zejména generativní AI je schopna produkovat výstupy, které jsou srovnatelné s lidskými, musí výzkumníci transparentně v metodologii upozorňovat, jak a kde byla AI využita, a to bez ohledu na to, zda se jednalo o výzkum samotný nebo jeho zpracování či psaní textu. V ideálním případě by měl být každý výzkum doplněn zvláštním souborem s výstupy, prompty a nastavením modelů.

ETIČNOST: Transparentnost užití AI ve výzkumu souvisí s jeho etičností. Zejména ve dvou základních ohledech. První je původ dat využitých pro trénování modelů a tou druhou pak zkreslení, která jsou v datech daná například jejich výběrem či vlastnostmi algoritmů. Trénovací data mají být chráněna proti expozici citlivých údajů v modelu. Chování modelů pak má být testováno na přítomnost biasů – genderových, rasových či jiných, které mohou být skryty implicitně v povaze použitých dat. Stejně jako v případě transparentnosti, tak i v oblasti etiky zůstává plná odpovědnost na výzkumníkovi.

REPRODUKOVATELNOST: Konečně pak transparentnost metodologie výzkumu včetně využití AI souvisí s jeho reprodukovatelností. V zájmu reprodukovatelnosti výzkumu je dobré zveřejnění datových sad a zdrojových kódů použitých pro trénování a testování AI, pokud to není v rozporu s ochranou osobních údajů a duševního vlastnictví.

Je-li v procesu výzkumu využít model vlastní nebo dotrénovaný, měl by takovýto model být v zájmu reprodukovatelnosti ideálně publikován spolu s kódem, daty a přesnými parametry využitými pro jeho trénování.

V případě využití AI v oblasti kvalitativního výzkumu je žádoucí zveřejnění promptů, případně kódů použitých pro kódování dat v oblasti kvalitativních výzkumů. V případě obecně dostupných modelů pak uvádění úplných a přesných informací o nastavení parametrů, jako jsou hyperparametry, které mohou mít vliv na výsledky výzkumu.

ASISTENČNÍ ROLE AI: Vedle své role v přímém výzkumu, má umělá inteligence také klíčovou úlohu v asistenčních úkolech, které přispívají k zefektivnění práce výzkumníka. Například, AI může automatizovat generování textu pro účely navrhování projektů, čímž umožňuje výzkumníkům soustředit se více na samotný výzkum než na přílišnou administrativu kolem něj. Nicméně AI může například automatizovat i rutinní úkony při analýze dat, jako je čištění, transformace a vizualizace datových sad.

Důsledky takového využití AI mají široký dosah a mohou ovlivnit dynamiku výzkumného prostředí. Intenzivní používání AI nástrojů může vytvářet výhody pro ty, kteří je používají, a může rozšířit nůžky mezi výzkumníky a pracovišti, které AI využívají, a těmi, které tak nečiní. V této souvislosti je nezbytné poskytovatelům podpory zvážit, jak reagovat na tuto proměnu.

Vyzýváme výzkumná pracoviště, aby podpořila své výzkumníky v získávání dovedností pro práci s AI a poskytla jim k tomu odpovídající zázemí a prostředky. Pouze tak lze plně využít potenciálu, který AI pro výzkum a vývoj nabízí.

doporučení ke stažení v pdf

PŘEHLED ČLENŮ PRACOVNÍ SKUPINY

VÍCE INFORMACÍ Z WEBU ai.cuni.cz