Mikä on Hallucination?

Määritelmä

Hallusinaatio tarkoittaa tilannetta, jossa AI tuottaa tietoa, joka vaikuttaa uskottavalta mutta on todellisuudessa virheellistä, keksittyä tai perustumatonta.

Tarkoitus

Hallusinaatioiden ymmärtäminen on tärkeää AI:n luotettavan käytön kannalta ja niiden minimoimiseksi mallin kehityksessä.

Toiminta

Hallusinaatiot syntyvat kun AI yrittää täyttää tietopuutteita omilla päätelmilleän tai sekoittaa eri lähteiden tietoja virheellisesti.

Esimerkki

Chatbot väittää olevansa kirja tai tapahtuma, jota ei ole koskaan ollut olemassa, mutta kuvaa sen uskottavasti yksityiskohtineen.

Liittyvät

• Grounding
• Ground Truth
• Fact-Checking
• AI Safety

Haluatko tietää lisää?

Jos haluat tietää lisää aiheesta Hallusinaatio, ota yhteyttä minuun X:ssä. Rakastan jakaa ideoita, vastata kysymyksiin ja keskustella aiheista, joten älä epäröi tulla mukaan. Nähdään pian!