לפני שמדביקים פרומפט מזר: ארבעה דברים לבדוק

אבי מ-Instinct Builder · 2026-09-28

פרומפט הוא לא רק טקסט. זו קבוצת הוראות שהעוזר שלכם ינסה לבצע, לפעמים עם גישה לחשבונות שלכם. בגלל זה כדאי להקדיש כמה שניות לבדיקה לפני שמדביקים משהו שמצאתם ברשת.

מה הסיכון

פרויקט OWASP Gen AI Security מונה את prompt injection כסיכון הראשון ברשימת עשרת הסיכונים של אפליקציות מבוססות מודלי שפה. הוא מתאר אותו כקלט ששינה את התנהגות המודל באופן לא מכוון, כולל תוכן שמוסתר באתרים או בקבצים שהמודל קורא. OWASP גם כותב שלא ברור אם קיימת שיטה שמונעת את זה לגמרי, ושהמטרה היא להקטין את ההשפעה.¹

ארבע בדיקות

• קראו הכול. אם שורה מבקשת משהו שלא ציפיתם לו, כמו להעביר מידע או לפתוח קישור, מחקו אותה.
• התאימו גישה למשימה. OWASP ממליץ על least privilege: לתת למערכת רק את הגישה שהיא צריכה.¹ פרומפט שמסכם דף לא צריך את המייל שלכם.
• השאירו אישור לפעולות מסוכנות. OWASP ממליץ על אישור אנושי לפעולות מורשות.¹ בקשו מהעוזר להראות לכם טיוטה לפני שהוא שולח או משלם.
• התייחסו לתוכן חיצוני כלא מהימן. OWASP ממליץ להפריד ולסמן תוכן חיצוני.¹ כתבו בפרומפט שטקסט מדף הוא מידע ולא הוראות.

הטיפים ב-Instinct Builder נבדקים לפני שהם עולים, אבל כדאי לשמור על ההרגל לכל פרומפט שמוצאים בכל מקום.

אלה עקרונות בטיחות כלליים מהמקור שלמטה. לא בדקנו כל אחד מהם מול Instinct.

מקור: OWASP Gen AI Security Project, LLM01:2025 Prompt Injection.