Smyšlená tvrzení v odpovědi AI
Definice
Halucinace je tvrzení, které AI uvede sebejistě, přestože je nepravdivé nebo nepodložené. Vzniká proto, že jazykový model skládá pravděpodobný text a sám neověřuje fakta.
Příklad
AI uvede u firmy špatnou adresu nebo jí připíše službu, kterou nenabízí.
Proč na tom záleží
Riziko roste tam, kde o firmě chybí jasné a jednotné informace. Úplné údaje na vlastním webu a shoda s firemními profily pravděpodobnost chyby snižují.