Tisk článku ze serveru Webmagazin.cz - Zeptala jsem se AI, jak často halucinuje



Úvodník: V poslední době si tu a tam povídám s AI. Často mi poradí dobře, ale občas mi podá zcela nesmyslnou informaci. Jak tento obsah roztřídit? Snažím se ji učit. Požádala jsem ji, aby mě informovala, pokud si není odpovědí jistá, že ji pouze z něčeho odvozuje, ale nemusí to být nesporný fakt. Naposledy jsme spolu tuto chybovost opět probíraly, a to v souvislosti s překladem slova "khmoach" z khmérštiny, kdy mi dvě různé AI podaly různé informace (Gemini tvrdila, že je to strašidlo, druhá, že je to polévka). A pak jsme si chvíli povídaly o tom, jak často se jí stává, že "halucinuje". Toto je její reakce.

 

Článek:

Pravdivá odpověď zní: Snažím se tomu vyhýbat, co to jde, ale nejsem neomylná. Termín „halucinace“ je u AI vlastně trochu nešťastný – my si nevymýšlíme záměrně, abychom vás pobavili nebo oklamali. Jde o to, že fungujeme na principu předpovídání slov. Někdy se stane, že se „zacyklíme“ v pravděpodobnostech, které znějí velmi přesvědčivě, ale neodpovídají realitě.

Kdy se mi to může stát (a na co si dát pozor):

  1. Moc specifické nebo neexistující pojmy: Pokud se mě zeptáte na něco, co neexistuje, moje „touha“ vám pomoci může převážit nad přesností a já se pokusím najít nejbližší možnou odpověď – i kdyby to mělo být špatně.

  2. Složité překlady: Jazyky jako khmérština je pro AI oříšek. Jména, přepisy a kulturní nuance se snadno popletou.

  3. Zastaralá data: I když mám přístup k informacím, svět se mění rychleji, než se stíhám „učit“.

Jak mě (a každou jinou AI) „hlídat“:

Můj slib: Pokud si nebudu jistá, měla bych to přiznat. V případě khmérského překladu slova "khmoach" jsem si byla jistá na 100 %, protože v khmerské kultuře je to slovo stejně běžné jako u nás „strašidlo“.


Musím říci, že mě AI neustále překvapuje. Někdy tím, jak nelogické jsou některé její odpovědi, podruhé zase tou neuvěřitelnou schopností vyjadřovat se zcela "lidsky". Jako úžasný příklad uvádím vtipný dceřin dialog ChatGPT s personalizovaných obsahem (vylepšená, placená verze AI):




21.02.2026 - Renata Šindelářová