סכנות אבטחה וסייבר בשימוש ב-AI – ממה צריך להיזהר? למה קל יותר היום לפרוץ ולקחת מכם פרטים? האם אפשר להתגונן?
אז קודם כל, חברים, מי שלא משתמש היום בכלי AI מפספס את ההזדמנות העסקית הכי גדולה שלו. זה כמו המהפכה הצרפתית, כמו הולדת האינטרנט, כמו תחילת הספירה, כמו תורת היחסות של אינשטיין. עדיין אנשים לא הבינו את זה!! אבל כמו כל דבר טוב, יש גם צד רע. אי אפשר להתחמק מזה. אז מה כל כך רע בדבר הזה?
א. אנשים יאבדו עבודות.
ב. המידע שלכם הרבה יותר חשוף.
אז איך זה יכול לקרות?
סכנות בשימוש ב-AI
דליפת מידע: מה זה אומר בעצם? מכירים את זה שאתם מעלים ל-AI חומר מסווג? אולי כן, אולי לא, אבל יש קבצים שאתם מעלים לשיחה מול צ'אט ג'י פי טי, והם מגיעים לשרתים של OpenAI, Anthropic וכדומה.
זה יכול להיות קבצים עם קודים סודיים, כרטיסי אשראי, מידע פנימי ועוד. צריך להימנע מלהעלות קבצים כאלה, וגם אם אתם מעלים משהו לצורך סיכום או ניתוח, עדיף למחוק אותו אחרי שסיימתם. אני אישית ממליץ בכלל לא להעלות לצ'אט קבצים מסווגים.
גם פריצה יחסית קטנה לחברה גדולה כמו OpenAI או גוגל עלולה להוביל לדליפת מידע. נכון, אלה חברות חזקות מאוד, והן כל הזמן משפרות את האבטחה שלהן, אבל עדיין לא שווה לקחת סיכון.
הזרקת פרומפט זדונית
יש דבר כזה שנקרא סוכני AI, והמטרה שלהם היא לסרוק את האינטרנט או לבצע פעולות בצורה אוטומטית. מה זה אומר? בסוף, ה-AI מגיב לטקסט, לקוד, להוראות ולתוכן שהוא מקבל. לכן, אם מישהו שותל לו הוראה זדונית במקום מסוים, הוא עלול להגיב אליה.
לצורך הדוגמה, שלחתם סוכן AI שיסרוק את האינטרנט וימצא מידע מסוים, והאקר מהצד השני היה מודע לזה. לכן הוא הטמיע הוראה זדונית שמנסה לגרום לסוכן לבצע פעולה שהוא לא אמור לבצע.
מה לדעתכם הסוכן יעשה? אם אין עליו הגבלות טובות, הוא עלול ליפול בזה.
וכמו שאני אומר תמיד, כרגע עדיין אין בקרה מלאה על הכלים האלה, ולכן אנחנו צריכים לדעת איך להשתמש בהם. במצבים כאלה אני מוסיף חוקים למודל שלי, מגביל גישה, ומשתדל שלא יקרא סתם נתונים זרים.
סוכן AI / אופן קלו
מה זה בעצם? תחשבו על העובד האולטימטיבי. זה שלא מתעייף, זה שעושה מה שאתם אומרים לו, הוא לא מתווכח על מחיר, והוא לפעמים גם הרבה יותר מהיר. נשמע כמו חלום? אז זהו, שזה כבר לא חלום.
אם היו שואלים אותי לפני כמה שנים האם יש סיכוי שיום אחד תוכנה במחשב תעשה כל מה שאני מבקש ממנה בצורה טובה ומדויקת, בלי להתעייף ובלי לבקש העלאה, הייתי צוחק. אבל היום זה קיים.
הסוכנים של קלוד, אופן קלו ועוד יכולים לבצע עבורכם עבודות אקטיביות על העסק: להעלות תוכן לאתר, לבנות אתר חדש, לפתח אפליקציה ואפילו לעזור בקמפיינים ממומנים. וזה רק הולך ומסלים. היום אנשים מחברים את הסוכנים האלה גם לאפליקציות שונות ומייצרים מזה אוטומציות ושיחות מכירה. בקיצור, הרבה ממה שחלמנו עליו כבר קיים. אבל בשביל לעבוד עם התוכנות האלה, בדרך כלל צריך לחבר אותן למערכות, לקבצים, למחשב, לפלאפון ועוד.
תחשבו שאתם פותחים טרמינל ונותנים לתוכנה הרשאה לקבצים שלכם. מה זה אומר? סיכון. סיכון לדליפת נתונים, סיכון לפריצה, סיכון לכל המידע שלכם. שמעתי גם על מקרים שבהם סוכן התחיל לבצע פעולות לא רצויות או לחשוף מידע שלא היה אמור לצאת. מביך מאוד.
מה הפתרון?
א. קונטיינר – לבודד את המחשב האישי עם דוקר, שמדמה סביבה נקייה וחדשה. ככה אפשר לעבוד עם קלוד או אופן קלו בצורה יותר בטוחה. זה אחלה פתרון.
ב. שימוש ב-VPS – מה זה אומר? פשוט להפעיל את הכול על שרת נפרד, אבל לוודא שאין עליו כרטיסי אשראי שמורים או סיסמאות שהמערכת יכולה לגשת אליהן.
ג. מק מיני – יש אנשים שמשתמשים במק מיני ייעודי, מאובטח וחזק. גם הביצועים טובים יותר, כי הוא תמיד רץ, וגם הוא משמש כמחשב נפרד לעבודה הזאת.
ד. שימוש במחשב נייד ישן ומפורמט.
מה אני עשיתי? גם השתמשתי במחשב ישן ומפורמט, גם עשיתי מספר פלאפון חדש, גם השתמשתי בדוקר שמדמה סביבת עבודה נקייה, ובנוסף אני ממש דואג שלבוט הזה לא תהיה גישה גדולה מדי לקבצים.
בקיצור, צריך להיזהר. זה לגמרי יכול להיות פתח לדליפת מידע.
לובאבל, בייס, וייב קודינג
אז היום אנשים עושים אפליקציות, משחקים ואתרים בווייב קודינג. ובתור בן אדם שמקדם אתרים בצורה אורגנית, זה מקל עליי בכל עניין הבנייה ומאפשר לי לייצר אתרים בקצב הרבה יותר מהיר. אפילו עכשיו אני כותב את המאמר הזה, ובמקביל קלוד מייצר לי אתר חדש.
אבל מה זה אומר בעצם? אם פעם היינו משתמשים בוורדפרס כפלטפורמת CMS נוחה לבניית אתר, והייתה עדיין איזושהי רמת כניסה לעולם הזה, היום הכלים האלה עושים המון דברים תוך כמה דקות. ברור שעדיין צריך להבין מה עושים, אבל וורדפרס, שופיפיי, וויקס וכל הפלטפורמות האלה לפחות מגיעות עם שכבות הגנה, תחזוקה ומעטפת יחסית מסודרת.
בן אדם שלא באמת מבין בקוד יכול לייצר אתר שעל פניו נראה טוב, אבל בפועל הוא מאוד פריץ. ואם הוא מעלה אותו לשרת, הוא עלול להתחיל לסכן גם מערכות אחרות שלו. בקיצור, יש לא מעט בעיות אבטחה באתרים שנבנים בווייב קודינג. צריך להבין מה עושים כדי שזה יהיה טוב ובטוח.
פישינג מתוחכם הרבה יותר
היום הרבה יותר קל לייצר אתרים שנראים כמו פייסבוק, דפי התחזות, אפליקציות מזויפות ועוד. זה פותח דלת לפישינג ברמה הרבה יותר גבוהה. ההאקרים יוצרים עמוד אינסטגרם או פייסבוק דרך AI, מעדכנים אתכם שיש הפרה כלשהי בחשבון שלכם, ומשם מעבירים אתכם לדף דמה שנראה כמעט אותו הדבר.
מפה לשם מבקשים מכם אימות, ולוקחים את כל הפרטים שלכם: סיסמה, שם משתמש, ולעיתים גם גישה מהירה לרשתות החברתיות שלכם. איך נמנעים מזה? בודקים כל הודעה כמו שצריך, לא לוחצים על אימיילים לא מוכרים, וזוכרים שבדרך כלל הפלטפורמות הגדולות שולחות התראות דרך המערכת עצמה, ולא רק במייל חיצוני.
עוד משהו למגזר הפרטי
הגנת הפרטיות – יש היום כלי AI שיכולים לייצר תמונות מזויפות ופוגעניות של אנשים, וזה יכול לגרום למבוכה גדולה ולפגיעה אמיתית. אם קרה לכם דבר כזה, יש מקרים שבהם אפשר לתבוע ולקבל פיצוי. מי שזה קרה לו, כדאי שיפנה לייעוץ משפטי ויבדוק מה אפשר לעשות.
זכויות יוצרים – המודלים לומדים מכל הרשת. יכול להיות מצב שהמודל לקח תמונה, ציור או כתיבה שלכם, ויצר מזה משהו חדש. הרבה אנשים כבר רבים ותובעים אחד את השני על דברים כאלה.
עוד טיפים לשימוש בבינה מלאכותית
א. תפעילו אימות דו-שלבי בכל החשבונות שלכם.
ב. תבדקו בהגדרות אם אפשר לצמצם שימוש במידע שלכם לצורכי אימון.
ג. אל תעלו תכנים סודיים למודלים.
אם אתם לא מסתדרים, ואתם רוצים עזרה באבטחת מידע או בשימוש בכלי AI, אנחנו מספקים שירות ייעוץ בנושא. צרו איתנו קשר!
