English see below

Praha, 14. ledna 2025 – Pod vedením Fakulty sociálních věd Univerzity Karlovy začíná bezprecedentní interdisciplinární projekt CZDEMOS4AI, jehož cílem je zkoumat celospolečenské dopady umělé inteligence a její potenciál pro posílení demokratických principů. Projekt širokého konsorcia partnerů získal prestižní grant Technologické agentury ČR. V rámci 5. veřejné soutěže programu SIGMA zaměřené na řešení aktuálních celospolečenských výzev byl podpořen částkou 125 milionů korun do konce roku 2029.

Projekt propojuje právní, etická, pedagogická, mediální, bezpečnostní a psychologická studia s cílem vyvinout společensky odpovědného multiagentního AI avatara. Ten bude navržen tak, aby ve vztahu k AI splňoval principy „otevřené demokracie“ - hodnotový dialog, transparentnost a participaci veřejnosti. Očekává se, že využití tohoto asistenta povede mimo jiné k efektivnějšímu výkonu veřejné správy a zvýšení odolnosti společnosti.

„CZDEMOS4AI není o hledání řešení krize zastupitelské demokracie pomocí umělé inteligence, ale o zlepšování společenských procesů prostřednictvím aplikace prospěšné AI s využitím demokratických metod,“ říká profesor Nik Hynek, hlavní řešitel projektu. „Projekt zdůrazňuje význam sladění AI, které zajišťuje, aby technologie sloužila cílům, preferencím a etickým principům jednotlivců a společnosti,“ dodává.

Asistenti pro klíčové oblasti fungování společnosti

Projekt CZDEMOS4AI se soustředí na čtyři klíčové oblasti fungování společnosti. V průběhu pěti let mají vzniknout AI asistenti s následujícím zaměřením:

· Historicko-edukační asistent bude interaktivní pomůckou pro pedagogy, lektory a studenty, pomůže jim s kontextualizací historických událostí a procesů a reflexí historické paměti.

· Bezpečnostně-mediální asistent bude sloužit k posílení informační odolnosti za pomoci faktografického vyvážení komunikace v rámci krizových situací.

· Právní asistent pro práci s českými právními texty bude sloužit jako analytický nástroj nad rozsáhlým datovým korpusem právních dokumentů (od roku 1918-) a bude operovat na základě běžné hovorové češtiny.

· Duševně-zdravotní asistent pro podporu duševního zdraví a adiktologie bude pomáhat s diagnostikou a poradenstvím při řešení rizik digitálního chování a usnadní identifikaci problémového chování v online prostředí.

„Asistenti CZDEMOS4AI budou vyvíjeni tak, aby jejich odpovědi na zadané požadavky byly v souladu s fakty, zvyklostmi a normami, které odráží stav poznání a dobrou praxi aplikovanou v národním kontextu s cílem posílit resilienci klíčových institucí. Dosáhnout tohoto cíle pomocí dostupných velkých jazykových modelů je obtížné, protože jejich vývoj není primárně zaměřen na sladění, které by umožnilo jejich bezpečné využití v národním kontextu“, vysvětluje doktor Petr Špelda, vedoucí technické platformy projektu.

Plány v prvním roce realizace

Při startu projektu se výzkumný tým zaměřil na představení projektového záměru širší odborné veřejnosti. Ještě koncem minulého roku proběhl úvodní workshop na téma „Otevřená demokracie ve vazbě na umělou inteligenci“, kde byly představeny dílčí výsledky a postupy v projektu. Workshop pořádal spolek prg.ai, který je součástí projektového konsorcia a zaštiťuje externí prezentaci projektu a komunikaci s veřejnou správou.

Dále se úvodem výzkumný tým věnuje nastavení transparentních pravidel pro zpracování datových zdrojů. Důraz je kladen na soulad s platnými právními úpravami, včetně GDPR a Aktu o umělé inteligenci.

V roce 2025 začne intenzivní práce na přípravě datových korpusů nutných k vývoji. Následně dojde k vytvoření prototypů jednotlivých asistentů, které budou dále expertně testovány a rozšiřovány s důrazem na zachování demokraticky vyjádřených veřejných preferencí.

Konsorcium projektu CZDEMOS4AI tvoří:

· Univerzita Karlova

- Fakulta sociálních věd

- Fakulta humanitních studií

- Filozofická fakulta

- Matematicko-fyzikální fakulta

- 1. lékařská fakulta

· IPSOS, s.r.o.

· Ústav státu a práva AV ČR, v. v. i.

· prg.ai, z. s.

· MAMA AI Coolma, s.r.o.

· Česká tisková kancelář

· Masarykova univerzita

· PHYSTER TECHNOLOGY, a.s.

Kontakt:

Michal Šenk, manažer projektu (michal.senk@fsv.cuni.cz)

Filip Hartmann, vnější vztahy a komunikace (filip@prg.ai)

Artificial intelligence at the service of citizens: a project led by FSV UK explores the potential of artificial intelligence to strengthen democracy

Prague, January 14, 2025 - An unprecedented interdisciplinary project CZDEMOS4AI, led by the Faculty of Social Sciences of Charles University, is beginning to explore the societal impact of artificial intelligence and its potential for strengthening democratic principles. The project, involving a broad consortium of partners, has been awarded a prestigious grant from the Czech Technology Agency and has been supported with CZK 125 million until the end of 2029 as part of the 5th public competition of the SIGMA programme aimed at addressing current societal challenges.

The project combines legal, ethical, pedagogical, media, security and psychological studies with the aim of developing a socially responsible multi-agent AI avatar. This will be designed to meet the principles of "open democracy " in relation to AI - values dialogue, transparency and public participation. It is expected that the use of this assistant will lead to, among other things, a more efficient performance of public administration and an increase in the resilience of society.

"CZDEMOS4AI is not about finding a solution to the crisis of representative democracy using artificial intelligence, but about improving social processes through the application of beneficial AI using democratic methods," says Professor Nik Hynek, Principal Investigator of the project. "The project highlights the importance of aligning AI to ensure that technology serves the goals, preferences and ethical principles of individuals and society," he adds.

Assistants for key areas of society

The CZDEMOS4AI project focuses on four key areas of societal functioning. AI assistants with the following focus are to be created over five years:

- The historical-educational assistant will be an interactive tool for educators, lecturers and students, helping them to contextualise historical events and processes and reflect on historical memory.

- The security-media assistant will be used to strengthen information resilience through fact-based balancing of communication in crisis situations.

- The legal assistant for working with Czech legal texts will serve as an analytical tool over a large data corpus of legal documents (from 1918-) and will operate on the basis of common colloquial Czech.

- The Mental Health and Addiction Support Assistant will assist with diagnosis and counseling to address digital behavioral risks and facilitate identification of problem behaviors in the online environment.

"CZDEMOS4AI assistants will be developed to ensure that their responses to tasked requirements are in line with facts, practices and norms that reflect the state of knowledge and good practice applied in the national context in order to strengthen the resilience of key institutions. Achieving this goal with the available large language models is difficult because their development is not primarily focused on alignment that would allow their safe use in a national context", explains Dr. Petr Špelda, Technical Platform Leader of the project.

Plans for the first year of implementation

At the start of the project, the research team focused on presenting the project plan to the wider professional community. At the end of last year, an introductory workshop on "Open Democracy in relation to Artificial Intelligence" was held to present the project's partial results and procedures. The workshop was organised by prg.ai, which is part of the project consortium and is responsible for the external presentation of the project and communication with the public administration.

Furthermore, the research team started by setting up transparent rules for processing data sources. Emphasis is placed on compliance with current legal regulations, including the GDPR and the Artificial Intelligence Act.

In 2025, intensive work will begin on the preparation of the data corpora required for development. Subsequently, prototypes of individual assistants will be developed and further expert tested and scaled up with an emphasis on preserving democratically expressed public preferences.

The CZDEMOS4AI project consortium consists of:

· Charles University

- Faculty of Social Sciences

- Faculty of Humanities

- Faculty of Humanities and Social Sciences o Faculty of Arts

- Faculty of Mathematics and Physics

- 1st Faculty of Medicine

· IPSOS, s.r.o.

· Institute of State and Law of the CAS, v. v. i.

· prg.ai, z. s.

· MAMA AI Coolma, s.r.o.

· Czech Press Office

· Masaryk University

· PHYSTER TECHNOLOGY, a.s.

Contact:

Michal Šenk, Project Manager (michal.senk@fsv.cuni.cz)

Filip Hartmann, External Relations and Communications (filip@prg.ai)