Lidé bez přemýšlení poslouchají umělou inteligenci, i když se mýlí

Umělá inteligence se stává běžnou součástí každodenního rozhodování. Nová studie ale ukazuje znepokojivý trend. Lidé jsou ochotni slepě následovat její doporučení – a to i ve chvíli, kdy jsou prokazatelně špatná. Může tak docházet k postupné ztrátě kritického myšlení.

Výzkum pracoval s několika experimenty zaměřenými na rozhodování lidí za pomoci AI. V jednom z nich účastníci řešili úkoly s možností využít odpovědi generované umělou inteligencí.

„Výsledek byl jednoznačný. Lidé se řídili správnými doporučeními AI v 92,7 % případů. Problém ale nastává ve chvíli, kdy se systém mýlil – i tehdy ho účastníci následovali téměř v 80 % případů. Jinými slovy, i když AI dá špatnou radu, většina lidí ji bez většího přemýšlení přijme,“ říká Michal Španěl, datový analytik a manažer JenPráce.cz.

Fenomén „kognitivní kapitulace“

„Autoři studie tento jev označují jako „kognitivní kapitulaci“. Jde o situaci, kdy člověk přestává aktivně přemýšlet a přenechává rozhodování technologii,“ říká Jan Dvořák z Počítačové školy GOPAS. „Podle výzkumníků nejde jen o pohodlnost. AI dnes totiž působí velmi přesvědčivě a nabízí odpovědi, které znějí logicky a sebejistě – i když jsou chybné. To vede k tomu, že lidé nejenže doporučení přijmou, ale zároveň si za ním stojí s vyšší jistotou,“ dodává.

Outsourcing myšlení jako nový standard

„Umělá inteligence se během několika let stala nástrojem, který lidé používají při práci, studiu i běžných rozhodnutích. Právě tato dostupnost ale může vést k tomu, že si uživatelé odvykají ověřovat informace nebo o nich kriticky uvažovat. Podobné závěry přinášejí i další výzkumy. Některé ukazují, že uživatelé ChatGPT vykazovali nižší zapojení mozku a horší výsledky při psaní než lidé, kteří AI nepoužívali,“ říká Michal Černý ze společnosti Audiopro.

Rychlé odpovědi, ale mělčí znalosti

Lidé, kteří se učí pomocí AI, mají také tendenci chápat látku méně do hloubky než ti, kteří informace aktivně vyhledávají samostatně přímo ve zdrojích.

AI totiž nabízí hotové odpovědi bez nutnosti hledání, porovnávání zdrojů nebo formulování vlastních závěrů. To sice šetří čas, ale může oslabovat schopnost samostatného uvažování.

Technologie není problém. Způsob používání ano

Experti se shodují, že problémem není samotná umělá inteligence, ale způsob, jak ji lidé využívají. Chatboti jako ChatGPT dokážou výrazně zvýšit produktivitu a pomoci s řadou úkolů.

„Zde platí, že odpovědi nejsou vždy správné. AI je statistický model, který často generuje pravděpodobné odpovědi, nikoliv ověřená fakta. Právě proto roste význam takzvané „AI gramotnosti“ – tedy schopnosti rozumět tomu, jak tyto nástroje fungují, a kriticky hodnotit jejich výstupy,“ říká Marek Pščolka ze specializované platformy Žaluzieee.

Kritické myšlení jako klíčová dovednost budoucnosti