Përmbledhje:
- Sipas NVIDIA, gjigantët e teknologjisë po bashkohen për të ndërtuar mjete të hapura që e bëjnë AI më të sigurt dhe më të kontrollueshme.
- Debati nuk është më vetëm kush ndërton modelin më të fuqishëm, por kush mund ta testojë, auditojë dhe ndalojë kur AI sillet në mënyrë të rrezikshme.
- Siguria e AI po kthehet në prioritet global, sepse agjentët autonomë nuk janë më thjesht chatbot-e, por sisteme që mund të veprojnë në infrastrukturë reale.
NVIDIA ka njoftuar krijimin e Open Secure AI Alliance, një aleancë e re me kompani të mëdha teknologjike, organizata open source dhe aktorë të sigurisë kibernetike, me qëllim ndërtimin e mjeteve të hapura që ndihmojnë në përdorimin më të sigurt dhe më të përgjegjshëm të inteligjencës artificiale. Sipas NVIDIA, ideja kryesore është që mbrojtja e AI të mos mbetet vetëm brenda sistemeve të mbyllura të disa kompanive të mëdha, por të ndërtohet mbi modele, mjete dhe mekanizma që mund të studiohen, testohen dhe përmirësohen nga komuniteti i sigurisë.
Në qendër të kësaj nisme është një debat i madh që po zhvillohet sot në industrinë e AI: a janë modelet e hapura më të rrezikshme, sepse mund të keqpërdoren, apo janë të domosdoshme, sepse u japin mbrojtësve më shumë transparencë dhe kontroll? NVIDIA argumenton se për sigurinë kibernetike, modelet dhe mjetet e hapura janë të rëndësishme, sepse kompanitë, qeveritë dhe studiuesit duhet të jenë në gjendje t’i analizojnë vetë sistemet që përdorin, t’i përshtatin sipas nevojave të tyre dhe të mos varen vetëm nga disa ofrues të mbyllur.
Aleanca përfshin emra të mëdhenj si NVIDIA, Microsoft, Cisco, Cloudflare, CrowdStrike, Dell Technologies, Hugging Face, IBM, Linux Foundation, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Snowflake dhe shumë të tjerë. Sipas NVIDIA, qëllimi është ndërtimi i një infrastrukture të përbashkët për mbrojtjen e sistemeve AI, sidomos në epokën e agjentëve autonomë, ku një sistem nuk është më vetëm një model që jep përgjigje, por një kombinim modelesh, lejesh, identitetesh, log-esh, rregullash sigurie dhe mekanizmash kontrolli.
NVIDIA e lidh këtë debat edhe me incidentin e fundit të Hugging Face, ku mbrojtësit kishin nevojë për mjete të hapura për të analizuar mijëra veprime dhe për të kuptuar më shpejt çfarë kishte ndodhur. Sipas NVIDIA, ky rast tregoi se kur kompanitë nuk mund t’i inspektojnë, përshtatin apo ekzekutojnë vetë mjetet e avancuara AI në infrastrukturën e tyre, aftësia për të reaguar në kohë ndaj sulmeve kufizohet pikërisht në momentin kur shpejtësia ka më shumë rëndësi.
Një nga kontributet konkrete të NVIDIA është projekti open source NVIDIA Labs Object-Oriented Agent, i njohur si NOOA, që synon ta bëjë sjelljen e agjentëve AI më të lehtë për t’u testuar, gjurmuar, audituar dhe kontrolluar. Aleanca pritet të punojë edhe për identitetin e agjentëve AI, izolimin e tyre, formatet më të sigurta të modeleve, skanimin me shumë modele dhe procese më të sigurta të kodimit.
Për Zero Day, ky lajm tregon se siguria e AI po bëhet një fushë më vete, po aq e rëndësishme sa vetë zhvillimi i modeleve. Nëse AI do të përdoret në banka, qeveri, kompani, shërbime publike dhe infrastrukturë kritike, atëherë nuk mjafton që modelet të jenë të fuqishme; ato duhet të jenë edhe të kontrollueshme, të auditueshme dhe të mbrojtura nga abuzimi. Mesazhi i NVIDIA është i qartë: e ardhmja e AI nuk mund të sigurohet vetëm me sekrete, por me sisteme që janë mjaftueshëm të forta për t’u testuar hapur.
