Odborník odhalil, na co byste se nikdy neměli ptát umělé inteligence. Většina lidí přitom stejné otázky pokládá běžně

Na co bylo dříve zapotřebí odborných knih nebo diskuzí s přáteli, dnes vynahradí jeden rychlý dotaz. Umělá inteligence reaguje rychle, v rukávu má odpověď takřka na všechno a v mnoha ohledech její používání usnadňuje životy uživatelů. Někdy ale odpovídá úplně jinak, než uživatel očekává, a ani několik dalších pokusů nemusí přinést požadovaný výsledek.

Umělou inteligenci dnes používáme podobně jako internet. Zatímco Google nás naučil hledat informace pomocí několika klíčových slov, s ChatGPT lze komunikovat v celých větách. Přesto si snad každý pravidelný uživatel všiml, že chatbot někdy nedokáže správně odpovědět ani na zdánlivě jednoduchou otázku. Příčin může být několik.

ChatGPT někdy hádá, než aby přiznal, že neví

ChatGPT a další jazykové modely dělají chyby, a to i v odpovědích na jednoznačné otázky. Výzkumník Adam Tauman Kalai se zabýval tím, proč někdy raději hádají, než aby přiznaly, že odpověď neznají. Při jednom z pokusů se vědci kolem Kalaie zeptali chatbota na název Kalaiovy disertační práce.

Dostalo se jim tří různých odpovědí a ani jedna nebyla správná. Stejně dopadl i dotaz na datum jeho narození. Podle vědců souvisejí podobné chyby mimo jiné se způsobem hodnocení jazykových modelů. Pokud model získává body za správnou odpověď, ale za přiznání nejistoty nikoli, může se mu, podobně jako studentovi při testu, vyplatit hádat. Takovým chybám se říká halucinace.

Jindy chatbot ovšem uvede informace správné, a přesto úplně mine to, co uživatel potřeboval. Právě tím se zabýval tým americké Carnegie Mellon University. Výzkumnice Qianou Ma a její kolegové ve studii publikované v srpnu 2025 pracovali se třiceti účastníky experimentu, kteří s AI neměli žádné nebo jen minimální zkušenosti. Část z nich učili běžnému promptování, druhou část vedli k tomu, aby dokázali přesně formulovat požadavky na výslednou odpověď.

Přesnější zadání přineslo lepší výsledky

Účastníci druhé skupiny se při plnění testovaných úkolů zlepšili přibližně o 19 procentních bodů. Plněné úkoly byly zpravidla náročnějšího charakteru, například účastníci museli vytvořit specializovaného chatbota. Z výzkumu vyplynulo, že důležitější, než formulovat požadavky a dotazy, je schopnost určit, co přesně má výsledek splňovat.

Přestože je umělá inteligence dostupná všem, není vůbec jednoduché správně formulovat zadání, jak potvrzují zkušenosti některých uživatelů Redditu.

„Ztratil jsem asi šest měsíců tím, že jsem ChatGPT zadával dotazy jako do Googlu,“ přiznal na Redditu jeden z diskutujících.

Pomohlo až to, když začal chatbota žádat, aby se ho před složitějším úkolem nejprve doptal na nejasnosti. V praxi stačí k zadání připojit pokyn „Než začneš odpovídat, zeptej se mě na důležité informace, které ti chybí. Nic nedomýšlej.“

Jediná věta může změnit celou odpověď

Chatbot tím dostane příležitost vyjasnit si nejasnosti v zadání, které by si jinak mohl nesprávně domyslet. Je však třeba upozornit, že ani sebelepší prompt nezaručuje, že umělá inteligence uvede pravdivé údaje. Může si splést data, čísla nebo vymyslet neexistující zdroje. Proto je třeba informace vždycky ověřovat.

Práci s kteroukoli umělou inteligencí si ostatně můžete sami vyzkoušet na jednoduchém příkladu. Když napíšete stručný požadavek „Vysvětli, jak funguje inflace,“ jde o naprosto srozumitelný dotaz. ChatGPT ale neví, jestli se ptá student ekonomie, který se připravuje na zkoušku, nebo člověk, který chce pochopit, proč peníze na běžném účtu ztrácejí hodnotu. Může proto nabídnout obecné vysvětlení, které bude sice správné, ale nemusí odpovídat tomu, co uživatel potřeboval vědět.

Stejný dotaz stačí formulovat trochu jinak: „Vysvětli mi na příkladu běžného rodinného rozpočtu, jak inflace ovlivňuje hodnotu úspor. Nepoužívej odborné termíny a ukaž mi rozdíl na konkrétních částkách.“ Chatbot tím dostane jasnou představu, jaká odpověď se od něho žádá, a pravděpodobně nabídne vysvětlení, které bude pro daný účel srozumitelnější.

Rozdíl si může vyzkoušet každý

Uživatelé by tedy při práci s AI neměli zapomínat, že umělá inteligence neumí číst myšlenky a nedokáže proto sama poznat, jaká odpověď se od ní očekává. Na dotaz „Recept na rychlou večeři“ dostanou pravděpodobně jinou odpověď, než když otázku specifikují. „Recept na rychlou večeři do třiceti minut z květáku, bez mléčných výrobků“ nabídne konkrétnější a pro uživatele vhodnější odpovědi. Jestli jsou ale správné, se musí uživatel přesvědčit sám.

Jste spokojeni s využíváním umělé inteligence v práci i v běžném životě?

Zdroje: ACM Digital Library – výzkum Qianou Ma a kol., OpenAI – článek od Adam Tauman Kalai, Mobilnet, Reddit