ELIZA efekt je tendence lidí přisuzovat digitálním technologiím více schopností a dovedností, než kterými samotná technologie disponuje. Tento efekt nastává zejména u lidí méně zběhlých a vzdělaných v těchto technologiích, kteří její komplexní chování zjednodušují ve zkreslenou představu, že daná technologie umí autonomně přemýšlet.
“ELIZA” odkazuje na software, který zejména v 60. letech vyvíjel americko-německý informatik Joseph Weizenbaum, jež se věnoval automatizacím (např. v oblasti financí) a jejím dopadům na člověka. Nejznámější a první skript z ELIZA nesl jméno DOCTOR, který simuloval konverzaci s rogeriánským psychoterapeutem.
Weizenbaum už tehdy poukazoval na nebezpečí, které sledoval právě u některých uživatelů DOCTOR. Všiml si totiž, že pokud navrhujeme systémy pomocí pravidel, pro která uživatele nemají bezprostřední vysvětlení a reprezentaci, inteligence systému je jediné “racionální” vysvětlení takového chování, které uživatelům zbývá.
V důsledku polidšťování už těchto nejprimitivnějších variant chatbotů si někteří lidé našli ke skriptu DOCTOR velmi intimní a důvěrný vztah.
I právě na taková rizika se Weizenbaum v průběhu celé svojí kariéry snažil upozornit. Sice nám dávají možnost se rozhodovat, ale postupně nám odebírají možnost si vybrat jestli technologii chceme používat nebo ne a postupně jednají za nás bez toho, aniž bychom věděli proč.
Samotný termín “ELIZA efekt” poprvé použil americký vědec Douglas Hofstadter v 90. letech.
Ždibec využívá jazykové modely a ostatních technologií strojového učení. Děje se to ale vždy tak, aby bylo vždy zřejmé, proč a jak daná odpověď byla vygenerovaná.
Zdroje
- Berry (2023). The Limits of Computation. Weizenbaum Journal of the Digital Society.