Co to jest Halucynacja?
Generowanie przez AI fałszywej lub wymyślonej informacji prezentowanej jako prawda.
Definicja
Halucynacja to zjawisko, w którym model sztucznej inteligencji generuje informacje, które są fałszywe, nieistniejące lub niepoparte faktami, ale prezentuje je w sposób pewny i przekonujący, jakby były prawdziwe.
Cel
Zrozumienie halucynacji jest kluczowe dla odpowiedzialnego używania AI - pomaga w identyfikowaniu ograniczeń systemów i implementowaniu mechanizmów weryfikacji faktów oraz kontroli jakości wyników.
Funkcja
Halucynacje powstają gdy model, w braku konkretnej wiedzy lub w wyniku błędów w procesie generowania, wypełnia luki w informacjach wymyślonymi szczegółami, które brzmią wiarygodnie ale są nieprawdziwe.
Przykład
Model językowy może "halucynować" cytując nieistniejący artykł naukowy z konkretną datą i autorem, lub podawać fałszywe statystyki, które brzmią prawdopodobnie ale są całkowicie wymyślone przez model.
Powiązane
- Misinformation
- Fact-checking
- Model Reliability
- Verification
Chcesz dowiedzieć się więcej?
Jeśli chcesz zgłębić temat Halucynacja — lub wprowadzić tego rodzaju szkolenia w swoim zespole — porozmawiajmy. Pomagam zespołom zrozumieć i stosować te koncepcje w praktyce. Z chęcią poznam Twoją historię!
Co to jest Generatywny UI?
Generatywny UI to interfejsy użytkownika tworzony dynamicznie przez sztuczn...
Co to jest Syntetyczna Persona?
Syntetyczna Persona to sztuczna osobowość lub postać stworzona i zarządzana...
Co to jest Middleware?
Middleware to oprogramowanie pośredniczące, które umożliwia komunikację i z...
Co to jest Natural Language Processing (NLP)?
Natural Language Processing (NLP) to dziedzina sztucznej inteligencji skupi...
Co to jest One-Shot Learning?
One-Shot Learning to zdolność modelu sztucznej inteligencji do uczenia się...