Secure AI Framework (SAIF) de la Google
Potențialul AI, mai ales al AI-ului generativ, este imens. Odată cu inovarea, industria are nevoie de standarde de securitate pentru dezvoltarea și implementarea inteligenței artificiale în mod responsabil. De aceea am lansat Secure AI Framework (SAIF), un cadru conceptual pentru securizarea sistemelor AI.
SAIF a fost creat pentru a soluționa principalele probleme ale specialiștilor în securitate, cum ar fi managementul riscurilor legate de modelele AI / ML, securitatea și confidențialitatea, pentru a garanta că modelele AI sunt securizate în mod prestabilit la implementare.
Suntem încântați să vorbim despre primii pași ai procesului nostru de creare a unui ecosistem SAIF pentru instituții guvernamentale, companii și organizații cu scopul de a dezvolta un cadru pentru implementare AI securizată care funcționează pentru toată lumea.
Punem SAIF la dispoziția instituțiilor guvernamentale și organizațiilor
Colaborăm cu instituții guvernamentale și organizații pentru a reduce riscurile de securitate asociate cu AI. Colaborarea noastră cu factori de decizie și organizații care definesc standarde, cum ar fi NIST, contribuie la cadrele de reglementare în continuă schimbare. Am evidențiat recent rolul cadrului SAIF în securizarea sistemelor AI, în conformitate cu angajamentele privind AI ale Casei Albe.
Extindem cadrul SAIF cu ajutorul aliaților din industrie
Ne bucurăm de susținere în industrie pentru cadrul SAIF din partea partenerilor și a clienților, organizând workshopuri despre SAIF cu specialiști și publicând recomandări privind securitatea AI. Am încheiat un parteneriat cu Deloitte pentru a elabora o documentație despre modul în care organizațiile pot folosi AI pentru a gestiona problemele de securitate.
-
Îmbunătățirea securității AI: echipa roșie pentru AI de la Google
Descoperă modul în care echipa roșie pentru AI de la Google, echipată cu tehnologii de ultimă generație, îmbunătățește securitatea sistemelor AI. Descoperă informații esențiale și lecții în cel mai recent raport.
-
Securizarea sistemelor AI cu Mandiant
Mandiant recomandă integrarea securității proactive în sistemele AI pentru alinierea la SAIF în scopul obținerii unei protecții eficiente.
-
Android: reguli privind dezvoltarea securizată
Securizează-ți organizația cu alertele de vulnerabilitate în timp real de la Android și respectă regulile privind dezvoltarea securizată pentru codul de învățare automată.
-
Securizarea AI cu Google Cloud
Google Cloud oferă o serie de resurse recomandate care se axează pe securitatea cibernetică, implementarea sistemelor AI, guvernanța riscurilor și transformarea securizată, esențiale pentru consiliile de administrație.
Care este legătura dintre SAIF și AI-ul responsabil?
Pentru Google este foarte important să dezvolte AI în mod responsabil și să le dea altora posibilitatea să facă același lucru. Principiile privind AI, publicate în 2018, descriu angajamentul nostru de a dezvolta tehnologii într-un mod responsabil și într-o manieră care este creată pentru siguranță, promovează răspunderea și respectă standarde înalte de excelență științifică. AI-ul responsabil este abordarea noastră cuprinzătoare care are mai multe atribute, cum ar fi Echitatea, Interpretabilitatea, Securitatea și Confidențialitatea, care ghidează toate procesele Google de dezvoltare a produselor cu AI.
SAIF este cadrul nostru pentru crearea unei abordări standardizate și holistice privind integrarea măsurilor de securitate și confidențialitate în aplicații bazate pe învățare automată. Se aliniază atributelor Securitate și Confidențialitate pentru dezvoltarea AI-ului în mod responsabil. SAIF garantează că aplicațiile bazate pe învățare automată sunt dezvoltate în mod responsabil, ținând cont de ecosistemul în continuă schimbare al amenințărilor și de așteptările utilizatorilor.
Cum aplică Google SAIF?
Google dezvoltă de mult timp AI-ul și securitatea cibernetică responsabile și face de mulți ani recomandări privind securitatea pentru noi inovații în materie de AI. Secure AI Framework are la bază experiența și cele mai bune practici pe care le-am dezvoltat și implementat și reflectă abordarea companiei Google în ceea ce privește dezvoltarea aplicațiilor bazate pe învățare automată și AI generativ, cu protecții adaptabile, sustenabile și scalabile pentru securitate și confidențialitate. Vom continua să îmbunătățim și să dezvoltăm cadrul SAIF pentru a gestiona noi riscuri, contexte în continuă schimbare și progrese din domeniul AI.
Cum pot specialiștii să implementeze cadrul?
Consultă ghidul rapid de implementare a cadrului SAIF.
-
Pasul 1 – Înțelege cum se folosește
- Înțelegerea problemei companiilor pe care o va rezolva AI și a datelor necesare pentru a instrui modelul va ajuta la crearea politicii, a protocoalelor și a măsurilor de control care trebuie implementate în cadrul SAIF.
-
Pasul 2 – Formează echipa
- Dezvoltarea și implementarea sistemelor AI, la fel ca în cazul sistemelor tradiționale, sunt acțiuni multidisciplinare.
- Sistemele AI sunt adesea complexe și opace, au multe componente variabile, se bazează pe volume mari de date, necesită multe resurse, pot fi folosite pentru a aplica decizii bazate pe raționament și pot să genereze conținut nou care poate fi jignitor, dăunător sau poate perpetua stereotipuri și prejudecăți sociale.
- Formează echipa multifuncțională potrivită pentru a te asigura că ții cont de la bun început de considerentele legate de securitate, confidențialitate, risc și conformitate.
-
Pasul 3 – Familiarizează-te cu noțiunile de bază despre AI
- Când echipele încep să evalueze modul de utilizare pentru companie, complexitățile, riscurile și măsurile de securitate diverse și în continuă schimbare aplicabile, este esențial ca părțile implicate să înțeleagă elementele de bază ale ciclului de dezvoltare a modelelor AI, structura și logica metodologiilor pentru modele, inclusiv capabilități, beneficii și limitări.
-
Pasul 4 – Aplică cele șase elemente de bază ale SAIF (enumerate mai sus)
- Nu este necesar ca aceste elemente să fie aplicate în ordine cronologică.
Unde pot să găsesc mai multe informații despre SAIF și modul în care îl pot aplica pentru compania sau entitatea mea?
Urmărește-ne în continuare! Google va continua să creeze și să ofere resurse, îndrumări și instrumente asociate cu Secure AI Framework, precum și alte recomandări privind dezvoltarea aplicațiilor bazate pe AI.
Întrucât ne numărăm printre primele companii care au vorbit despre principiile privind AI, am impus standardul pentru AI-ul responsabil. Acesta ne îndrumă în procesul de dezvoltare a produselor pentru siguranță. Susținem și dezvoltăm cadre în industrie pentru a ridica ștacheta în ceea ce privește securitatea și am învățat că pentru a avea succes pe termen lung este esențial să creăm o comunitate pentru a ne susține demersurile. De aceea suntem încântați să construim o comunitate bazată pe SAIF pentru toată lumea.
Află cum protejăm mai mulți utilizatori în mediul online decât orice altă companie din lume.