- מה שמדביקים בצ'אטבוט יוצא מהמחשב שלכם ונשמר אצל ספק. לכן לא מדביקים סיסמאות, מידע רפואי או פיננסי ומסמכי לקוחות עם פרטים מזהים.
- ה-AI יכול לכתוב פרט מומצא בביטחון מלא. עובדות, מספרים וקישורים בודקים מול מקור.
- הונאות עם AI נראות ונשמעות אמינות יותר. מאמתים בערוץ אחר, ולא ממהרים.
מה קורה לטקסט שמדביקים?
הטקסט נשלח לשרתים של החברה שמפעילה את הכלי. בדרך כלל הוא נשמר בהיסטוריית השיחות בחשבון שלכם.
לפי סוג החשבון וההגדרות, שיחות יכולות לשמש גם לשיפור המודל. זה משתנה מכלי לכלי, ולכן בודקים בהגדרות של הכלי שלכם ולא מנחשים.
זה לא אומר שהכלים מסוכנים. זה אומר שצ’אטבוט הוא שירות חיצוני, כמו כל שירות אחר שמעבירים אליו מידע. מי שפורץ לחשבון שלכם רואה גם את ההיסטוריה.
מה לא מדביקים?
הרשימה קצרה, וכדאי לזכור אותה בעל פה:
- סיסמאות, מפתחות גישה וקודי אימות. אין משימה שהמודל צריך אותם בשבילה.
- פרטי אשראי ומספרי חשבון בנק.
- מידע רפואי. בדיקות, אבחנות ותיקים שלכם או של אחרים.
- מסמכי לקוחות. שמות, תעודות זהות, טלפונים וכתובות של אנשים אחרים הם לא שלכם להחליט עליהם.
- סודות עסקיים. חוזים, מחירונים פנימיים ותוכניות שלא פורסמו.
כשלא בטוחים, יש כלל פשוט: מה הייתי כותב בפומבי? אם הייתם נבהלים לראות את הטקסט מודפס על שלט ברחוב, לא מדביקים אותו כמו שהוא.
ברוב המקרים מספיק להחליף פרטים בכינוי: “לקוח א׳” במקום שם, “סכום X” במקום מספר. המודל יסכם, ינסח ויתקן בדיוק באותה איכות.
הפירוט המלא, כולל טבלה של סוגי מידע ומה עושים עם כל אחד, נמצא במדריך מה לא כדאי להדביק בצ’אטבוט.
איך עובדים עם הגדרות פרטיות?
שמות התפריטים משתנים כל הזמן, ולכן כאן רק העיקרון. בכל כלי כדאי לעבור פעם אחת על ארבעה דברים:
- האם השיחות שלכם משמשות לשיפור המודל, ואם אפשר לכבות את זה.
- האם יש היסטוריית שיחות, ואיך מוחקים אותה.
- איזה חיבורים הפעלתם, כמו מייל, יומן או כונן. כל חיבור נותן לכלי גישה למידע שלא הדבקתם בעצמכם.
- האם יש קישורי שיתוף פעילים. מי שמחזיק בקישור רואה את השיחה.
בעבודה, אל תניחו שהכלי האישי שלכם מתאים למסמכי הארגון. שאלו מה המדיניות, ואם יש כלי שהארגון אישר.
חשבון של כלי AI הוא חשבון חשוב כמו כל חשבון אחר. הפעילו בו אימות דו-שלבי.
למה ה-AI ממציא, ואיך בודקים?
מודל שפה לא “יודע” עובדות כמו מאגר מידע. הוא כותב את ההמשך שנשמע הכי סביר. לרוב זה נכון, ולפעמים זה פשוט לא.
תשובה שנשמעת בטוחה ונכונה אבל כוללת פרט מומצא נקראת הזיה. היא יכולה להיות שם של חוק שלא קיים, ציטוט שאף אחד לא אמר או קישור שלא נפתח. השפה שוטפת, ולכן קל לפספס.
מה בודקים תמיד בעצמכם:
- שמות, מספרים ותאריכים
- ציטוטים וחוקים
- קישורים ומקורות. פותחים אותם, כי קישור שנראה אמיתי יכול להיות מומצא
- כל דבר שישפיע על כסף, בריאות או החלטה משפטית
איך בודקים? מחפשים את הפרט באתר רשמי או במקור שאתם מכירים. לשאול את המודל “אתה בטוח?” לא נחשב בדיקה, כי הוא ממשיך לענות מאותו מקום.
אפשר להשתמש בה כנקודת התחלה. אי אפשר לפרסם אותה, לשלוח אותה ללקוח או לבנות עליה החלטה לפני שבדקתם.
איך AI משנה הונאות?
העיקרון פשוט: AI מוריד את המחיר של הודעה משכנעת. טעויות כתיב ועברית מגושמת, שפעם סימנו הודעת הונאה, נעלמות. אפשר גם לחקות קול וליצור סרטון.
לכן “זה נראה אמין” או “זה נשמע כמו אמא” כבר לא מספיקים. מה שעדיין עובד:
- מאמתים בערוץ אחר. מנתקים, ומתקשרים למספר ששמור אצלכם. לא למספר או לקישור שבהודעה.
- שמים לב ללחץ. “דחוף”, “עכשיו”, “אל תספר לאף אחד”. זה הסימן הכי עקבי.
- לא מוסרים קודים. קוד אימות ששלחו לטלפון שלכם הוא שלכם בלבד.
- מסכימים על מילת סיסמה במשפחה. מילה אחת שרק אתם מכירים, לשיחות חירום.
כך מזהים הודעות מתחזות: פישינג: איך מזהים הודעה מזויפת. ומה עושים לפי המצב: הונאה ברשת בישראל: מדריך הגנה.
תרגיל מעשי: מה מותר להדביק?
להלן מסמך דמה. כל הפרטים בדויים. לפני שאתם קוראים את התשובה, עברו עליו וסמנו לעצמכם מה לא הייתם מדביקים לצ’אטבוט.
סיכום שיחה עם לקוח. לקוח: דנה כהן, ת״ז 000000018, טלפון 050-0000000. דנה מבקשת הצעת מחיר לשיפוץ מטבח. התקציב שלה: 80,000 ש״ח. היא סיפרה שעברה ניתוח בגב, ולכן צריך משטחי עבודה נמוכים. לצורך תשלום מקדמה היא שלחה מספר חשבון 12-345-678901. סיסמת הכניסה לאזור הלקוחות שלנו: Kitchen2026. יש לשלוח לה הצעה עד יום חמישי, בנימוס ובקצרה.
התשובה:
| פרט | מותר להדביק? | מה עושים |
|---|---|---|
| שם, ת״ז וטלפון | לא | מחליפים ב”לקוחה א׳” |
| מספר חשבון בנק | לא | מוחקים לגמרי |
| הניתוח בגב | לא | מוחקים. אפשר לכתוב “צריך משטחי עבודה נמוכים” בלי הסיבה |
| סיסמת האזור האישי | בשום מצב | מוחקים. ושווה להחליף אותה, כי היא כבר נחשפה במסמך |
| סוג השיפוץ והבקשה להצעה | כן | נשאר |
| התקציב | בדרך כלל כן | אפשר לעגל או לכתוב “סכום X”, לפי רגישות העסק |
הנה הגרסה הנקייה, מוכנה להדבקה:
סכם את השיחה וכתוב טיוטת מייל קצרה ומנומסת עם הצעת מחיר. לקוחה א׳ מבקשת הצעה לשיפוץ מטבח. התקציב: סכום X. היא צריכה משטחי עבודה נמוכים. ההצעה צריכה להישלח עד יום חמישי. אל תמציא מחירים. היכן שחסר פרט, כתוב [להשלים].
המשימה שלכם: קחו הודעה או מסמך אמיתי מהשבוע האחרון שלכם, וסמנו מה בו לא מדביקים. נקו, ורק אז הדביקו. שימו לב שהוספנו בפרומפט “אל תמציא מחירים”: זה העיקרון משיעור 3: להגדיר מה אסור למודל לעשות.