Generativní umělá inteligence, někdy též GAI, tvoří podčást umělé inteligence (AI). GAI vychází a je dalším evolučním krokem tzv. hlubokého učení (deep learning).

Základní premisa hlubokého učení je ta, že problémy neřešíme speciálními doménovými pravidly (jak rozpoznat hrany v obrázku, jak klasifikovat text, jak odfiltrovat šum zvukové stopy, …), ale pomocí univerzálního matematického modelu. Naším úkolem je tomuto modelu pouze dostatečně vhodně nastavit parametry, kterými ovládáme jeho chování. Tomuto procesu říkáme trénování nebo předtrénování modelu.

Produkty GAI využívají tyto modelů k určení rozdělení pravděpodobnosti dalšího tokenu, který reprezentuje nejmenší jednotku vstupu a výstupu modelu.¹

Okolo GAI panuje velmi mnoho nedorozumění a přílišných očekávání. Uveďme některé z nich.²

1. Generativní modely, které máme dnes k dispozici, mají dvojí paměť. První, v podstatě statická, vzniká trénováním modelu, a typicky jí označujeme jako váhy modelu. Ta je sdílená pro všechny inference, bez závislosti na uživateli, vstupu nebo metaparametrů. Uživatelský vstup je potom druhá forma paměti generativního modelu. Žádnou jinou paměť modely nemají, tyto dvě paměti můžeme jenom jemněji dělit na menší podčásti.
2. Protože produkty GAI vracejí předem neznámé výstupy, selhávají v situacích, kdy vyžadujeme a očekáváme přesný výsledek. Proto by např. chatboti neměli být užíváni pro ověřování důležitých faktů nebo např. při aritmetických výpočtech.³
3. “Přemýšlení”, “chybování”, “výše IQ”, “emoce”, “osobnost” apod. jsou termíny, které vycházejí z antropomorfizace GAI. Se samotnou technologií nemají nic společného.
4. Kategorie sama o sobě je tvrzení, že generativní modely procházejí Turingovým testem.

Mnoha těchto nedorozumění vzniká v důsledku ELIZA efektu.

Zdroje

• Banh & Strobel (2023). Generative artificial intelligence. Electronic Markets.
• Cheng et al. (2025). Dehumanizing Machines: Mitigating Anthropomorphic Behaviors in Text Generation Systems. arXiv.
• Turing (1950). Computing Machinery and Intelligence. Mind.

Vysvětlivky

1. Rozeberme oblíbenou frázi “LLM hádají další nejpravděpodobnější slovo v pořadí”, což je tvrzení zavádějící hned ze dvou důvodů. Jednak neumí “hádat” jenom slova, protože existují tzv. multimodální modely, které umí pracovat s audiem, videem nebo jakýmkoli jiným binárním formátem. Jednak také “nehádají” nejpravděpodobnější slovo, ale pouze na svůj výstup vrací pravděpodobnostní rozdělení všech tokenů. Software orchestrující generativní modely potom nemusí nutně brát nejpravděpodobnější slovo, protože výstup by nemusel působit přirozeně. Z toho taky vyplývá, že takový software je z pohledu uživatele nedeterministický. ↩

2. Hlavním důvodem, proč taková přehnaná očekávání vznikají, je ten, že představy o využívání GAI vytvářejí téměř výhradně lidé, kteří s touto technologii mají ekonomické záměry. Problém je v tom, že proti tomuto dominantnímu hlasu neexistuje silná protiváha, protože většina technologií GAI je uzavřená, čímž ostatním znemožňuje získat potřebné know-how. ↩

3. I když např. matematici čím dál více využívají GAI pro hledání nových důkazů, tím více se přiklání k tomu, aby generované odpovědi zároveň obsahovaly formální důkaz v systému LEAN. ↩