Zpravodajové: Josef Šlerka a Jakub Sedláček

Demokratizace technologií AI nemění základní principy výzkumné práce, a to nejen v oblasti samotného výzkum, tak v oblasti jeho přípravy a administrace. Výzkum má být nadále transparentní ve své metodě, etický ve svém provedení a nabízet v maximální podobě svoji reprodukovatelnost. Při výzkum by s měli výzkumníci maximálně jednat v souladu s principy FAIR.

➤TRANSPARENTNOST: Umělá inteligence je nástrojem výzkumu, nikoli jeho autorem. Přestože výsledky generované AI mohou přinést nové objevy či nečekané souvislosti, které lidští výzkumníci přehlédli, je úloha AI primárně heuristická. Nemůže být autorem interpretace výzkumu. Podílí se na něm podobně jako metody aplikované statistiky či vizualizace dat. Odpovědnost za výsledky a interpretaci výzkumu leží vždy na výzkumníkovi.

Protože zejména generativní AI je schopna produkovat výstupy, které jsou srovnatelné s lidskými, musí výzkumníci transparentně v metodologii upozorňovat, jak a kde byla AI využita, a to bez ohledu na to, zda se jednalo o výzkum samotný nebo jeho zpracování či psaní textu. V ideálním případě by měl být každý výzkum doplněn zvláštním souborem s výstupy, prompty a nastavením modelů.

➤ETIČNOST: Transparentnost užití AI ve výzkumu souvisí s jeho etičností. Zejména ve dvou základních ohledech. První je původ dat využitých pro trénování modelů a tou druhou pak zkreslení, která jsou v datech daná například jejich výběrem či vlastnostmi algoritmů. Trénovací data mají být chráněna proti expozici citlivých údajů v modelu. Chování modelů pak má být testováno na přítomnost biasů – genderových, rasových či jiných, které mohou být skryty implicitně v povaze použitých dat. Stejně jako v případě transparentnosti, tak i v oblasti etiky zůstává plná odpovědnost na výzkumníkovi.

➤REPRODUKOVATELNOST: Konečně pak transparentnost metodologie výzkumu včetně využití AI souvisí s jeho reprodukovatelností. V zájmu reprodukovatelnosti výzkumu je dobré zveřejnění datových sad a zdrojových kódů použitých pro trénování a testování AI, pokud to není v rozporu s ochranou osobních údajů a duševního vlastnictví.

Je-li v procesu výzkumu využít model vlastní nebo dotrénovaný, měl by takovýto model být v zájmu reprodukovatelnosti ideálně publikován spolu s kódem, daty a přesnými parametry využitými pro jeho trénování.

V případě využití AI v oblasti kvalitativního výzkumu je žádoucí zveřejnění promptů, případně kódů použitých pro kódování dat v oblasti kvalitativních výzkumů. V případě obecně dostupných modelů pak uvádění úplných a přesných informací o nastavení parametrů, jako jsou hyperparametry, které mohou mít vliv na výsledky výzkumu.

➤ASISTENČNÍ ROLE AI: Vedle své role v přímém výzkumu, má umělá inteligence také klíčovou úlohu v asistenčních úkolech, které přispívají k zefektivnění práce výzkumníka. Například, AI může automatizovat generování textu pro účely navrhování projektů, čímž umožňuje výzkumníkům soustředit se více na samotný výzkum než na přílišnou administrativu kolem něj. Nicméně AI může například automatizovat i rutinní úkony při analýze dat, jako je čištění, transformace a vizualizace datových sad.

Důsledky takového využití AI mají široký dosah a mohou ovlivnit dynamiku výzkumného prostředí. Intenzivní používání AI nástrojů může vytvářet výhody pro ty, kteří je používají, a může rozšířit nůžky mezi výzkumníky a pracovišti, které AI využívají, a těmi, které tak nečiní. V této souvislosti je nezbytné poskytovatelům podpory zvážit, jak reagovat na tuto proměnu.

Vyzýváme výzkumná pracoviště, aby podpořila své výzkumníky v získávání dovedností pro práci s AI a poskytla jim k tomu odpovídající zázemí a prostředky. Pouze tak lze plně využít potenciálu, který AI pro výzkum a vývoj nabízí.

DOPORUČENÍ PRO VĚDECKÉ A VÝZKUMNÉ PRACOVNÍKY (.pdf ke stažení)