Co je Hallucination v AI?
Jev, kdy AI generuje falsečné nebo vymyšlené informace, které představuje jako fak y.
Definice
Hallucination neboli Halucinace je jev, kdy AI generuje nepravdivé, vymyšlené nebo nepřesné informace a představuje je jako fak y.
Účel
Halucinace jsou nežádoucí vedlejší efekt AI modelů, který může podkopat důvěru uživatelů a způsobit škody.
Funkce
Vzniká když model nemá dostatečné informace, ale stále se snaží poskytnout odpověď na základě patternů z tréninkových dat.
Příklad
LLM, které vymýslí neexistující vědecké články s přesvědčivými tituly a autory, když je požádáno o reference.
Související
Kombinuje se technikami jako Grounding, RAG a fact-checking pro snížení výskytu.
Chcete se dozvědět více?
Pokud vás zajímá více o Hallucination (Halucinace), kontaktujte mě na X. Rád sdílím nápady, odpovídám na dotazy a diskutuji o zajímavostech na toto téma, tak se nebojte zastavit. Těším se na vás!