"הזיה" היא מצב שבו עוזר בינה מלאכותית ממציא מידע ומציג אותו כאילו הוא עובדה: שם של ספר שלא קיים, מספר טלפון שגוי או חוק שלא קיים. זה קורה כי העוזר בונה משפטים שנשמעים נכונים, ולא בודק אותם. ההגנה: בדברים חשובים, תמיד בודקים מול מקור רשמי.

מה זו הזיה

העוזר לא "משקר" בכוונה. הוא בנוי לכתוב משפטים שנשמעים הגיוניים, על סמך כמויות עצומות של טקסט שקרא. לפעמים המשפט שנשמע הגיוני הוא פשוט לא נכון. והבעיה: הוא כותב אותו באותו ביטחון כמו עובדה אמיתית.

איפה זה קורה הכי הרבה

במספרים: מחירים, תאריכים, אחוזים, מספרי טלפון. בשמות: רופאים, ספרים, מאמרים, אתרים. בחוקים ובזכויות, במיוחד מקומיים בישראל. ובאירועים שקרו לאחרונה, שהעוזר אולי לא מכיר.

סימני אזהרה

פרטים מדויקים מדי בלי מקור, למשל "לפי סעיף 14ב". מספר טלפון או כתובת אתר שלא ביקשתם. תשובה שנשמעת טוב מדי כדי להיות אמיתית. ותשובה שמשתנה כששואלים שוב את אותה שאלה.

איך מגינים על עצמכם

בכל דבר שחשוב, כמו בריאות, כסף, זכויות, חוזים ונסיעות, בודקים את המידע באתר רשמי: משרד הבריאות, ביטוח לאומי, קופת החולים, הבנק. מספרי טלפון לוקחים רק מהאתר הרשמי של הגוף, אף פעם לא מהעוזר.

לשאול את העוזר על עצמו

אפשר לכתוב: "האם אתה בטוח? מאיפה המידע?" או "תסמן לי אילו חלקים בתשובה אתה פחות בטוח בהם". לפעמים הוא יודה שאינו בטוח. ועוזרים כמו Perplexity מציגים מקורות שאפשר ללחוץ עליהם ולבדוק.

בקצרה: טיפים לזכור

  • ביטחון בתשובה ≠ נכונות
  • מספרים ושמות: בודקים תמיד
  • טלפונים: רק מהאתר הרשמי
  • שואלים: "מאיפה המידע?"

שאלות ותשובות

האם העוזרים בתשלום לא טועים?

גם הם יכולים לטעות. התשלום משפר יכולות, אבל לא מבטל הזיות.

אז אפשר בכלל לסמוך עליהם?

על ניסוח, הסבר ורעיונות כן. על עובדות חשובות, רק אחרי בדיקה.

מה עושים אם גיליתי טעות?

כותבים לעוזר שזו טעות, והוא יתקן. ובעיקר, לא פועלים לפי המידע השגוי.

מאמרים נוספים שכדאי לקרוא

בסדנת AI לגיל השלישי של אבי סנטו מתרגלים לזהות הזיות על דוגמאות אמיתיות, ולבדוק אותן מול מקורות רשמיים.