Antropomorfismus

  • Antropomorfismus

Properties1
tagsstrand-ethics

Antropomorfismus je přiřazování lidských charakteristik na mimolidské objekty. S antropomorfismem se často setkáváme u chatbotů, kde se interakce záměrně podobá konverzaci s “učitelem”, “kamarádem” nebo “parťákem”, aby tak technologie nabudila pocit důvěry a bezpečí, který je velmi často falešný.

Výzkum opakovaně označuje takovou praktiku za problematickou. Hrozí řada nežádoucích efektů:

  • odvádění od pozornosti a cíle výuky,
  • delegace kognitivně složitějších úkonů na třetí stranu (v EN literatuře jako cognitive offloading),
  • prožívaná separační úzkost, pokud chatbot náhle změní své odpovědi a “chování”,
  • studenti mají “někoho”, kdo jim vždy a bez váhání poskytne odpověď na jakoukoliv jejich otázku,
  • chatboti odpovídají kdykoliv a komukoliv, bez ohledu na užitečnost a pravdivost odpovědi,
  • zvýšený pocit osamělosti a úzkostlivosti (Maheux 2026),
  • bohužel už známe i ojedinělé případy, kdy chatbot naváděl nezletilé k sebepoškozování a sebevraždě.1

Problém sám o sobě je také dekulturalizace (Alzahrani 2026). Protože nejvíce zdrojů pro trénink modelů pochází ze západní kultury, jazykové modely jsou touto disproporcí nevyhnutelně zatíženy.

Přisuzování lidských nebo nadlidských vlastností technologiím, které umí pracovat s přirozeným jazykem, se ztěží vyhneme. Příkladem za všechny je ELIZA efekt. To je ale jenom o důvod víc antropomorfizaci vzdělávacího softwaru cíleně narušovat, ne ji naopak uměle posilovat. Výzkum naznačuje, že studenti mezi GAI a učiteli dokážou velmi dobře rozlišovat (Arwadi 2026).

Jedním ze způsobů je interakci s AI co nejvíce zaměřit na konkrétní, krátkodobou činnost. Vezměme jako příklad software určený pro výuku jazyků. Pokud navrhujeme začlenění GAI do takového softwaru, cíleně se vyhýbáme “konverzačnímu parťákovi”, kterému se můžeme svěřovat. Působnost jazykových modelů naopak záměrně ořezáváme a omezujeme je na provádění takových činností, pro které byly navrženy: např. hledání nových analogií a metafor, navržení frází s podobným významem, nebo kontrolu konzistence zvoleného stylu.

Pravidelnost interakce s jazykovým modelem není až tolik směrodatná jako samotná intenzita používání (Shin 2026). Pokud navrhujeme software tak, že maximalizuje retenci uživatelů a uměle prodlužuje pobyt na platformě/aplikaci (bodíky? sbíráte?), hrozí, že si studenti k takovému softwaru vytvoří nezdravou emoční vazbu.

Zdroje

Vysvětlivky

  1. K takovému neštěstí může dojít kdykoliv, kdy odpovědi generované jazykovými modely přímo prezentujeme uživateli. Zejména takový text, který je svojí povahou mnohoznačný. Je krátkozraké si myslet, že “náš prompt” to určitě zachrání a že zrovna my jsme nad modelem, který má miliardy parametrů, vyhráli. Je třeba vždy mít na paměti: nad výstupy modelu máme daleko menší kontrolu, než si myslíme. Chování generativních modelů se může měnit i na základě malých nuancí a chování je tedy třeba pečlivě hlídat. Někdy nám tato nevyzpytatelnost vadit nemusí, v případě výuky je ale nežádoucí. ↩