מה זה הזיות של בינה מלאכותית (AI Hallucinations)
בשורה אחת
הזיות של בינה מלאכותית הן מצבים שבהם מערכת מייצרת בביטחון מלא מידע שנשמע נכון אך הוא שגוי או מומצא.
הזיות של בינה מלאכותית הן מצבים שבהם מערכת מייצרת בביטחון מלא מידע שנשמע נכון אך הוא שגוי או מומצא. למשל, מודל עשוי לצטט פסק דין שלא קיים או להמציא מקור שנראה משכנע לחלוטין. זה קורה כי מודל שפה מנבא טקסט סביר, ואין בו מנגנון מובנה שמוודא אמת. הוא דומה לחבר ששונא להודות שאינו יודע, אז הוא ממציא בנימה בוטחת. לכן כל מספר, ציטוט או מקור שמקבלים מכלי כזה ראוי לבדיקה, במיוחד בתחומים כמו משפט ורפואה.