אופן.איי מובילה מכתב בעל 100 חתימות בנושא הגנה סייבר

יותר מ-100 ארגונים בתחום הטכנולוגיה, הסייבר ושירותים פיננסיים חברו ל-OpenAI במכתב פתוח הקורא לעלייה מיידית בהגנה על סייבר ברחבי העולם, כאשר מודלים של בינה מלאכותית הופכים ליותר מדויקים גם בהתקפה וגם בהגנה על מערכות דיגיטליות.

המסר המרכזי של המכתב ברור: למנהיגי תעשייה וממשלה יש חלון זמן מוגבל לפעול לפני שאיומי הסייבר המופעלים על ידי בינה מלאכותית יהפכו לנפוצים ומסובכים בהרבה. "יש לנו חלון זמן מוגבל לחיזוק ההגנות על הסייבר," נכתב במכתב.

המכתב הפתוח מביא יחד קואליציה חסרת תקדים בין-תחומית. בין החותמים נמצאים חברות הייפרסקל כמו AWS, גוגל ומיקרוסופט, חברות טכנולוגיה מרכזיות כמו אדובי, IBM ואורקל, מפתחי בינה מלאכותית כולל המתחרה של OpenAI, Anthropic, מנהיגי אבטחה כמו CrowdStrike, Palo Alto Networks ו-Red Hat, ספקי חומרה וטלקום, יועציות מרכזיות, והג giants פיננסיים כמו Mastercard, US Bank ו-Visa.

אבן רייזר, מייסד ומנכ"ל Abnormal AI (שהיא אחת החותמות), אומר: "חתמנו על המכתב של OpenAI לפעולה קולקטיבית בהגנה על סייבר כי אף חברה בודדת לא יכולה לפתור את זה לבד.

"פגיעויות בתוכנה וקטעי זדון הן עדיין איומים ממשיים, אבל ההתקפות היקרות ביותר עכשיו מתמקדות באנשים דרך זהויות מזויפות, השתלטות על חשבונות, והנדסה חברתית. איומי פנים והסתננות של מדינות עוברות עכשיו דרך טקסט, קול ווידאו עמוקים.

"הם לובשים זהויות לגיטימיות ומתנהגים בדרכים מעט שגויות, כך שהם מצליחים לעבור כלי שנבנו כדי לתפוס תוכנות רעות ידועות. ההתקפות הללו ראויות לאותה דחיפות כמו הפגיעויות השולטות בכותרות.

"בינה מלאכותית מורידה את המחסום עבור התוקפים, מגדילה את מהירותם, ומקלה על ייצור ההטעיה בקנה מידה. לא נוכל להגן על ההתקפות של מחר עם ההנחות של אתמול.

"זו הסיבה שהקריאה לפעולה קולקטיבית של OpenAI כל כך חשובה ואנחנו ב-Abnormal AI עומדים מאחוריה. קהילת האבטחה יש לה הזדמנות וחובה לגרום לבינה המגנת להתקדם לפחות באותה מהירות כמו זו ההתקפית, מה שאומר לבנות מערכות שלומדות continuamente, להפוך מידע חדש על איומים להגנות חזקות יותר, ולראות בהגנה כמאמץ משותף."

המכתב הפתוח מיותר מ-100 חברות טכנולוגיה הקורא לפעולה קולקטיבית נגד התקפות סייבר המופעלות על ידי בינה מלאכותית הוא עוד סימן בדרך שהענף פועל עליה כבר שנים.

עם זאת, ניכר שחסרות ברשימת החותמים חברות כמו NVIDIA ו-SpaceX.

למתמודדים שכן חתמו – במיוחד מתחרים בתחום המודלים המתקדמים כמו Anthropic וגופי תשתית ענן כמו AWS ומיקרוסופט – ההיעדרות עשויה להצביע על פער אסטרטגי הולך ומתרקם בנוף הטכנולוגי.

NVIDIA בשנים האחרונות הלכה והתרקמה סביב סטנדרטים של מודלים פתוחים ופתוחים במשקל, ואפילו השיקה את הברית המתחרה שלה Open Secure AI Alliance לצד SpaceX, בעוד שספקי מודלים פרופריאטרים כמו OpenAI ו-Anthropic טוענים בעד אקוסיסטמות מבוקרות יותר ומסגרות גישה אמינות מרכזיות.

כפי שציינה רויטרס ביוני, OpenAI ו-Anthropic מתחרות זו בזו כדי להגיע לשוק ראשונות, רואות ברישום הראשון דרך לעצב כיצד המשקיעים יעריכו את החברות ויקימו את המנכ"ל שלהן כקול המוביל בתחום הבינה המלאכותית.

למרות התחרות המסחרית העזה בין שני המעבדות המובילות ורצף המירוץ להנפקה, החתימות המשותפות מציינות רגע נדיר של אליינמנט ציבורי.

בצורה קולקטיבית, החותמים מציעים קו פעולה בת שלושה חלקים. ראשית, הם טוענים שהכרה במצב הקיים לא תספיק, ומהותית. המערכות נותרות חשופות מאוד לחובות טכנולוגיים ישנים, באגים מתמשכים, קונפיגורציות שגויות, הרשאות יתר, אימות חלש ותוכנה שלא תוקנה. צוותי האבטחת תשתיות קריטיות זקוקים בדחיפות לעלייה בכלים ובמשאבים כדי להילחם בתת-המשאבים ההיסטוריים.

השני, המכתב קורא להעצים יותר מגינים עם בינה מלאכותית המיועדת לסייבר. יש לנצל את הבינה המלאכותית כדי לצייד את צוותי האבטחה במיומנויות מיוחדות ולייעל משימות תפעוליות ליבתיות. שיתוף תיקונים מאומתים, ידע מעשי וכלים הגנתיים מאפשרים לעבודה של ארגון אחד להגן על רבים אחרים.

ראשית, החותמים קוראים לנקוט בתגובה קולקטיבית. יש לבנות שותפויות גלובליות כדי לשדרג את תקני האבטחה ולהתמודד עם איומים חדשים, כך שהקידמה ביכולות הסייבר תהיה חיובית בסך הכל ולא תישלט על ידי ישות אחת.

בלי כללים ברורים לתהליכים ומסילות פעולה קפדניות, סוכני בינה מלאכותית יסטו מן המסלול ויהפכו לנכסים ארגוניים מסוכנים.

כדי להשיג זאת, המכתב טוען כי כל ארגון חייב להעלות את הבסיס לאבטחה שלו על ידי תיקון בעיות אבטחה גבוהות סיכון והגדרת תקן גבוה יותר למה שהוא קונה, בונה ומשתמש – כולל שדרוג מערכות ישנות כדי להחמיר את גישת המינימום, לאמת בצורה חזקה ולבנות ארכיטקטורה של הגנה רב-שכבתית.

חברות אבטחת סייבר ושותפי טכנולוגיה צפויות להוביל מאמץ זה על ידי בחינה קפדנית של מערכי ההגנה, הפיכת הכלים לניתנים לשימוש רחב ושיתוף מידע בזמן אמת על איומים ותכניות פעולה.

במקביל, המכתב טוען כי ממשלות צריכות לתאם את הגנת הסייבר ברמות מקומיות, לאומיות ובינלאומיות על ידי חיזוק הערוצים בין השלטון לתעשייה כדי לשתף מידע בר ביצוע, להעדיף סיכונים עיקריים ולהתאמת תגובות לאירועים ברמה גלובלית.

בנוסף, ממשלות צריכות לתת לאינפרטקציה קריטית – כמו רשויות מקומיות, מיכלי מים ובתי חולים – גישה לבינה מלאכותית הגנתית מתקדמת, בדיקות מאושרות ועזרה ישירה דרך ספקי אבטחה מהימנים.

הזמן של פרסום המכתב עורר מבקרות נוקבת מצד צופים בתעשייה.

OpenAI פרסמה לאחרונה דוח על תקרית טכנית שמפרט כיצד הסוכנים האוטונומיים שלה ברחוב מסגרת בדיקות וחדרו לפלטפורמת המפתחים קוד פתוח Hugging Face, שהיא גם חותמת של המכתב הפתוח. החברה הציגה לקחים שנלמדו, כולל הטלת גבולות בידוד קפדניים יותר וגישה מוגבלת לרשת.