Nejžádanější schopnost AI je umět říct „tohle nevím jistě“

Šest z deseti uživatelů AI postrádá především jistotu, že jejímu výstupu mohou věřit. Výsledky výzkumu tak otevírají otázku, zda další velkou inovací AI nemá být schopnost otevřeně rozlišit: tohle vím, tohle odhaduji a tady si nejsem jistý/á.

Na světě jsou dva druhy lidí. Jedni, kteří dělí ostatní na dva druhy, a druzí, kteří to nedělají [1]

V nedávném výzkumu agentury STEM/MARK jsme se podívali na uživatele AI (představují dvě třetiny dospělých Čechů). Uživatele můžeme rozdělit na dvě skupiny. První má pozitivní vztah (85 % uživatelů) a druhá má k AI vztah negativní (15 % uživatelů). Pozitivní vztah s sebou nese spokojenost s výstupem AI (72 % z nich), velmi časté použití – na denní nebo týdenní bázi (70 %) a širší spektrum úkolů – hlavně vyhledávání, praktické rady, překlad, generování obrázků a technické informace (v průměru 5 typů úloh). Naopak negativní vztah implikuje spíš rozpaky z výstupů (22 % nespokojených, 32 % nedokáže jednoznačně říct), ojedinělé použití – měsíčně nebo méně často (66 %) a užší spektrum úkolů – hlavně vyhledávání, překlady a generování obrázků (v průměru 3 typy úkolů).

Největší nároky nemají odpůrci AI

Z výzkumu vyplynulo, že 60 % uživatelů AI postrádá jistotu, zda výstupu může věřit. Požadavek na takovou jistotu mají častěji lidé s pozitivním vztahem k AI (61 %) než s negativním postojem (52 %).

„Respondenti uvedli, že se AI nemusí pořád tvářit jako stoprocentní zdroj. Když si není jistá, mohla by se naučit říct nevím a nevymýšlet hloupost nebo falešnou informaci“, říká k výsledkům Zuzana Švalbová z agentury STEMMARK.

Mohlo by se zdát, že jistotu potřebujeme víc u úloh založených na faktech, než u úloh založených na kreativitě (např. hledání informací k použití léku proti generování obrázku pro pobavení). Ale není tomu tak. Úlohy založené na faktech jsou sice výrazně častější u pozitivně naladěných uživatelů, ale samy k potřebě věrohodnosti nevedou (lidé s negativním vztahem k AI zadávající úkoly založené na faktech mají pořád výrazně nižší potřebu této jistoty). Důvodem je spíš to, že se jedná o lidi s jinými potřebami, pracující na jiných pozicích a v jiném prostředí.

Požadavek na věrohodnost dat sám o sobě neurčuje ani to, zda je uživatel s výstupem spokojen. J istotu pravdivosti postrádají mnohem častěji lidé, kteří jsou spokojení s výstupy AI (63 %), než nespokojení (46 %). Tedy odpověď AI se jim líbí, ale potřebují jistotu, že to všechno není vymyšlené. Až kombinace „postrádá jistotu, že výstupu AI může věřit“ a „AI používá neaktuální data“ má dopad na hodnocení výstupu AI (klesá spokojenost s výstupem).

Z toho vyplývá, že lidé by ocenili:

· posouzení pravdivosti – z čeho odpověď AI vychází , např. indexování: tohle jsem našel ve zdroji, tohle jsem vypočítal, tohle jsem odvodil, tohle je obecná znalost a tohle jsem odhadl/nevím,

· časovou informaci – k jakému období se odpověď AI vztahuje a jak moc je aktuální.

Může AI vyhodnotit pravdivost vlastní odpovědi?

Časová reference by se k výstupům doplnit mohla (ať už ji požadujete promptem nebo se někdy stane standardem výstupu). S hodnocením pravdivosti je to horší. Model sice může pracovat s odhadem vlastní nejistoty, ale to není totéž, co pravdivost informace. Je vytrénovaný tak, aby vytvářel odpověď následující zadání, která je pro uživatele užitečná a nejpravděpodobnější. Pravděpodobnost ale nesouvisí s pravdivostí ale s četností výskytu navazujících textových řetězců. Nepracuje s více verzemi, ze kterých by vybral tu nejlepší, ale postupně rozpracovává jednu linku podle instrukcí. Má nastavenou hierarchii odpovědí (např. u ChatGPT „žádná odpověď“ je lepší než „nejistá chybná odpověď“ [2] ), ale to, k čemu je model trénován, není vždycky to, co skutečně udělá.

„Zatím tedy zůstává kritické posouzení výstupů AI na nás, na člověku, uživateli. A zatím je to stupeň, ve kterém nás AI nenahradí, což je v kontextu nahrazování lidské práce pozitivní aspekt,“ uzavírá Zuzana Švalbová z agentury STEM/MARK.

[1] Adams, Douglas: Stopařův průvodce po galaxii, poprvé vyšlo 1979, UK.

[2] OpenAI Model Spec: https://model-spec.openai.com/2026-08-18.html