לקריאת המאמר באנגלית: English
עוזר בינה מלאכותית נותן תשובה מסודרת, רשימה מועילה והסבר בטוח בעצמו. הוא אפילו מצרף מקור. התשובה נראית גמורה, ומתחשק פשוט להמשיך הלאה.
לפני שממשיכים, כדאי לשאול שאלה אחרת: איזה חלק בתשובה הזאת באמת בדקתי? ניסוח ברור מקל על הקריאה, אבל כשלעצמו הוא לא יכול להוכיח שהמידע נכון.
מהי ״הזיה״ של בינה מלאכותית?
בהקשר הזה, הכוונה היא למערכת בינה מלאכותית שמציגה מידע לא מדויק או מומצא כאילו היה עובדה. המכון האמריקאי לתקנים ולטכנולוגיה, NIST, משתמש במונח confabulation בפרופיל הסיכונים שלו לבינה מלאכותית יוצרת. זה יכול להיות הסבר שגוי או הפניה למקור שאינו תומך בתשובה.
מודלי שפה מייצרים תשובות מתוך דפוסים שלמדו. הם יכולים להפיק טקסט מועיל ומדויק, אבל כתיבה שוטפת אינה ערובה מובנית לאמת. אין שיעור טעויות אחד שמתאים לכל מודל, שאלה ומצב.
דמיינו ששאלתם מתי מוזיאון מקומי נפתח ביום ראשון. תשובה מלוטשת שאומרת ״בתשע בבוקר״ אינה ראיה מועילה אם העוזר לא בדק את המידע העדכני של אותו מוזיאון. הצעד המתאים הוא לבדוק בעמוד של המוזיאון עצמו, לא להתרשם מכמה יפה התשובה מסודרת.
בדיקה בשלוש תחנות
- פתחו את המקור המקורי. כשמדובר בתכונה של מוצר, התחילו אצל היצרן. כשמדובר באירוע, התחילו אצל המארגן. בטענה מחקרית, חפשו את המאמר או הדוח עצמם במקום להסתפק בתקציר של הבינה המלאכותית.
- חפשו את הטענה המדויקת. האם העמוד באמת אומר את מה שנכתב בתשובה? גם קישור אמיתי יכול להוביל לעמוד שאינו תומך במשפט המסוים הזה.
- בדקו את ההקשר. חפשו תאריכים, מיקום, גרסאות מוצר ותנאים. תשובה נכונה על הדגם של השנה שעברה עלולה להיות שגויה לגבי המכשיר שברשותכם היום.
מיקרוסופט ממליצה לבדוק תוצרים של בינה מלאכותית לפני שפועלים על פיהם. העבודה החשובה נעשית מחוץ לתשובה: בוחנים את הראיות ומחליטים אם הן מתאימות למצב שלכם.
הפניה למקור היא נקודת התחלה
אם התשובה מפנה לדוח, פתחו אותו. בדקו את הכותרת והמחבר, ואז מצאו את הקטע הרלוונטי. הפניה שנראית משכנעת עלולה להיות שגויה, לא קשורה או מומצאת. אם אינכם מוצאים אותה, בקשו מהעוזר להבהיר מה אינו ודאי, אבל אל תתייחסו להסבר הבא שלו כאימות עצמאי.
גוגל מזהירה במפורש שגם Gemini עלול להסביר באופן לא מדויק כיצד הוא עצמו פועל, ובכלל זה איך הוא מציין מקורות או משיג מידע עדכני. לכן ״בדקתי את זה״ היא טענה שצריך לבחון, לא תחליף לראיות שאפשר לגשת אליהן.
כלים שמחוברים לחיפוש יכולים להקל על האימות באמצעות הצגת מקורות. מיקרוסופט מציינת שביסוס התשובה על מידע רלוונטי משפר את הרלוונטיות והדיוק, אך עדיין צריך לבדוק פרטים חשובים. תשובה עשירה בקישורים זקוקה לאותן בדיקות כמו תשובה בטוחה בעצמה שאין בה קישורים.
התאימו את עומק הבדיקה להשלכות
חרוז משעשע ליום הולדת אפשר לשפוט לפי השאלה אם הוא מוצא חן בעיניכם. הוראות שעלולות למחוק קבצים דורשות הרבה יותר זהירות. לפני שפועלים לפיהן, בדקו את התיעוד הרשמי הרלוונטי, הבינו את ההשפעה וודאו שהקבצים החשובים מוגנים.
בהחלטות רפואיות, משפטיות או כספיות, הסתמכו על מקורות מוסמכים ועל ייעוץ מקצועי מתאים, במקום להתייחס לצ׳אטבוט כסמכות המכריעה. גם ההנחיות של גוגל לשימוש אחראי מזהירות מפני הסתמכות על Gemini לקבלת ייעוץ מקצועי בתחומים האלה.
בקשו תשובה שאפשר לבדוק
נסו את הבקשה הזאת: ״הפרד בין עובדות שאומתו לבין הנחות. צרף קישורים למקורות המקוריים של הטענות החשובות, כלול את התאריכים שלהם וציין מה לא הצלחת לאמת.״ ואז בצעו את הבדיקה בעצמכם. הניסוח מעודד תשובה מועילה יותר; הוא לא מונע טעויות לחלוטין.
בינה מלאכותית יכולה לעזור לארגן שאלות, להבין מונחים לא מוכרים ולנסח הסבר ראשוני. אפשר ליהנות מהנוחות הזאת. את ההחלטה הסופית כדאי לבסס על ראיות שאפשר לבדוק, במיוחד כשלטעות יש מחיר.
האיורים נוצרו בעזרת בינה מלאכותית באמצעות Google Gemini ונבדקו עבור המאמר. אלה איורים להמחשה, לא צילומי מסך.