Lidé bez přemýšlení poslouchají umělou inteligenci. I když se mýlí, ukazuje nová studie

Umělá inteligence se stává běžnou součástí každodenního rozhodování. Nová studie ale ukazuje znepokojivý trend. Lidé jsou ochotni slepě následovat její doporučení – a to i ve chvíli, kdy jsou prokazatelně špatná. Může tak docházet k postupné ztrátě kritického myšlení.

 

Když AI radí, lidé poslouchají

Výzkum pracoval s několika experimenty zaměřenými na rozhodování lidí za pomoci AI. V jednom z nich účastníci řešili úkoly s možností využít odpovědi generované umělou inteligencí.

„Výsledek byl jednoznačný. Lidé se řídili správnými doporučeními AI v 92,7 % případů. Problém ale nastává ve chvíli, kdy se systém mýlil – i tehdy ho účastníci následovali téměř v 80 % případů. Jinými slovy, i když AI dá špatnou radu, většina lidí ji bez většího přemýšlení přijme,“ říká Michal Španěl, datový analytik a manažer JenPráce.cz.

Fenomén „kognitivní kapitulace“

„Autoři studie tento jev označují jako „kognitivní kapitulaci“. Jde o situaci, kdy člověk přestává aktivně přemýšlet a přenechává rozhodování technologii,“ říká Jan Dvořák z Počítačové školy GOPAS. „Podle výzkumníků nejde jen o pohodlnost. AI dnes totiž působí velmi přesvědčivě a nabízí odpovědi, které znějí logicky a sebejistě – i když jsou chybné. To vede k tomu, že lidé nejenže doporučení přijmou, ale zároveň si za ním stojí s vyšší jistotou,“ dodává.

Outsourcing myšlení jako nový standard

Podle autorů studie se tím otevírá zásadní otázka, zda nezačínáme postupně outsourcovat samotné přemýšlení?

„Umělá inteligence se během několika let stala nástrojem, který lidé používají při práci, studiu i běžných rozhodnutích. Právě tato dostupnost ale může vést k tomu, že si uživatelé odvykají ověřovat informace nebo o nich kriticky uvažovat. Podobné závěry přinášejí i další výzkumy. Některé ukazují, že uživatelé ChatGPT vykazovali nižší zapojení mozku a horší výsledky při psaní než lidé, kteří AI nepoužívali,“ říká Michal Černý ze společnosti Audiopro.

Rychlé odpovědi, ale mělčí znalosti

Lidé, kteří se učí pomocí AI, mají také tendenci chápat látku méně do hloubky než ti, kteří informace aktivně vyhledávají samostatně přímo ve zdrojích.

AI totiž nabízí hotové odpovědi bez nutnosti hledání, porovnávání zdrojů nebo formulování vlastních závěrů. To sice šetří čas, ale může oslabovat schopnost samostatného uvažování.

Technologie není problém. Způsob používání ano

Experti se shodují, že problémem není samotná umělá inteligence, ale způsob, jak ji lidé využívají. Chatboti jako ChatGPT dokážou výrazně zvýšit produktivitu a pomoci s řadou úkolů.

„Zde platí, že odpovědi nejsou vždy správné. AI je statistický model, který často generuje pravděpodobné odpovědi, nikoliv ověřená fakta. Právě proto roste význam takzvané „AI gramotnosti“ – tedy schopnosti rozumět tomu, jak tyto nástroje fungují, a kriticky hodnotit jejich výstupy,“ říká Marek Pščolka ze specializované platformy Žaluzieee.

Kritické myšlení jako klíčová dovednost budoucnosti

„Studie tak nepřináší jen varování, ale i jasné doporučení. V době, kdy jsou nástroje umělé inteligence stále dostupnější, se kritické myšlení stává jednou z nejdůležitějších dovedností. Bez něj totiž hrozí, že lidé by se mohli přestat rozhodovat sami za sebe – a začnou jen následovat to, co jim technologie předloží,“ uzavírá Michal Španěl, datový analytik a manažer JenPráce.cz.