Co je halucinace

Autor: Jan Rychlý · Aktualizováno

Smyšlená tvrzení v odpovědi AI

Definice

Halucinace je tvrzení, které AI uvede sebejistě, přestože je nepravdivé nebo nepodložené. Vzniká proto, že jazykový model skládá pravděpodobný text a sám neověřuje fakta.

Příklad

AI uvede u firmy špatnou adresu nebo jí připíše službu, kterou nenabízí.

Proč na tom záleží

Riziko roste tam, kde o firmě chybí jasné a jednotné informace. Úplné údaje na vlastním webu a shoda s firemními profily pravděpodobnost chyby snižují.

Související pojmy