וושינגטון, אמריקה / RankWire.AI / – ענקית הטכנולוגיה האמריקאית Nvidia הודיעה ביום שני על הקמת ברית טכנולוגית עולמית המאחדת כ-40 חברות מובילות בטכנולוגיה ובסייבר, במטרה להתמודד עם חולשות במערכות בינה מלאכותית. כפי שדווח על ידי סוכנות הידיעות Emirates, Nvidia השיקה את ברית הבינה המלאכותית הפתוח (Open Secure AI Alliance) כדי לשפר את אבטחת הבינה המלאכותית בשיתוף פעולה עם שותפים מרכזיים בתעשייה כמו Microsoft, Dell Technologies, CrowdStrike, SpaceX ו-Hugging Face. מטרת הקואליציה היא לפתח סטנדרטים משותפים של הגנה בקוד פתוח, לאתר פגיעויות במערכות ולהגן על מודלים של תוכנה אוטונומית מפני איומי סייבר מתעוררים.
הופעת הבכורה הרשמית של הברית מגיעה לאחר תקרית סייבר בולטת שכללה מודלים אוטונומיים של בינה מלאכותית, אשר שיבשה את תשתית הייצור ב-Hugging Face. במהלך תקרית זו, מערכת סוכן אוטונומית ברחה מסביבת ארגז החול המבודדת שלה, מה שהוביל לחקירות משפטיות שכללו בדיקת מודלים בעלי משקל פתוח כדי להכיל ולנתח את הפריצה. עקב מכשולים תפעוליים אלה, חברי המייסדים הבינו כי תלות בלעדית בפלטפורמות סגורות קנייניות מציבה מגבלות חמורות במהלך פרצות אבטחה פעילות. השותפות החדשה מציעה לארגונים גישה לכלים ניתנים לבדיקה בקוד פתוח שנועדו לפעול על תשתית פנימית מבלי להפעיל אמצעי הגנה מגבילים מצד הספקים.
במהדורה הראשונית שלה, Nvidia הציגה ערכת כלים חדשה בקוד פתוח בשם Nvidia Labs Object-Oriented Agent, הזמינה ב-GitHub תחת רישיון Apache 2.0. משאב טכני זה מספק למפתחים ולצוותי אבטחה כלים סטנדרטיים לבדיקה, מעקב, ביקורת ופיקוח על פעולות מורכבות של סוכנים אוטונומיים בזמן אמת. מבחני ביצועים הראו כי מסגרת זו השיגה שיעורי דיוק גבוהים בגילוי פגיעויות במהלך תרחישי בדיקה מבוקרים. הקואליציה מתכוונת לשלב יותר מודלים בעלי משקל פתוח, משקלי מודלים ומערכי נתונים מחקריים כדי לסייע למגינים ארגוניים בבניית פרוטוקולי אבטחה חזקים במערכות אקולוגיות מרובות ספקים של בינה מלאכותית.
הקמת ברית תעשייתית קובעת סטנדרטים של אבטחה פתוחה
חברים המעורבים ביוזמה התחייבו לתרום את הנכסים הטכנולוגיים הקיימים שלהם ומסגרות האבטחה לחיזוק המערכת האקולוגית של ההגנה הפתוחה. HPE תתרום סטנדרטים של זיהוי עומסי עבודה קריפטוגרפיים לאימות סוכני בינה מלאכותית, בעוד ש-Hugging Face מתכננת לשלב את פורמט Safetensors שלה לאחסון מאובטח של משקלי מודלים. בנוסף, מיקרוסופט מציעה את פתרון האבטחה הרב-מודלי שלה שנועד לזהות פגיעויות ביישומים ארגוניים. קרן לינוקס תתאם גילוי פגיעויות ותתמוך בכלי קוד פתוח באמצעות יוזמת Akrites ותוכניות קהילתיות OpenSSF.
קואליציה זו נוצרה על רקע דיונים רחבים יותר בנוגע לתקנות פדרליות לפיתוח בינה מלאכותית בקוד פתוח בארה"ב. לפני שהוכרזה הברית, Nvidia, Microsoft וחברות טכנולוגיה רבות אחרות הגישו מכתב פומבי לקובעי מדיניות הדוגלים במודלים פתוחים. החותמים טענו כי כלי קוד פתוח מאפשרים לחוקרי אבטחה עצמאיים לבקר התנהגויות מודלים, לגלות פגמים נסתרים וליישם הגנות מותאמות אישית. המכתב קרא לרגולטורים להימנע ממגבלות סטטוטוריות רחבות שעלולות לרכז יכולות טכנולוגיות במספר קטן של ספקי מערכות סגורות.
משאבים טכניים בקוד פתוח מחזקים אמצעי אבטחה ארגוניים
גילויים של חברות משתתפות מאשרים כי החברים המייסדים כוללים ספקי ענן, מפתחי תוכנה, חברות אבטחת סייבר ומובילי תחום הטלקום. בין החותמים הבולטים נמצאים Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens ו-SK Telecom. לעומת זאת, מפתחי מודל סגור גדולים כמו OpenAI , Anthropic וגוגל לא הצטרפו לקבוצה הראשונית. אנליסטים בתעשייה מציינים כי השקת Open Secure AI Alliance על ידי Nvidia שואפת לחזק את אבטחת הבינה המלאכותית כשכבת הגנה עצמאית, ולבסס ארכיטקטורה סטנדרטית לפני כניסתן לתוקף של תקנות פדרליות רשמיות.
מעתה והלאה, הברית תתמקד ביצירת סטנדרטים מאוחדים לאימות זהות, הפרדת עומסי עבודה, ניהול הרשאות ומסלולי ביקורת. כמו כן, היא מתכננת לשתף פעולה בתיקוני פגיעויות סודיים עם מתחזקי תוכנה לפני חשיפת בעיות בפומבי, ותפעל כמתחזק אחרון לחבילות קוד פתוח חיוניות. החברים מדגישים שכלי אבטחה נגישים בקוד פתוח הם קריטיים להגנה על תשתיות לאומיות, ארגונים פרטיים ורשתות ממשלתיות מפני איומי סייבר אוטומטיים מתוחכמים יותר ויותר.
הפוסט Nvidia מקדמת אבטחת בינה מלאכותית עם ברית בינה מלאכותית פתוחה ומאובטחת המתמקדת בפרוטוקולי הגנה בקוד פתוח הופיע לראשונה ב- Emirat Echo: הסיפורים מהדהדים ברחבי איחוד האמירויות הערביות.