Përmbledhje:
- OpenAI paralajmëron se AI po hyn në një fazë ku mund të kryejë sulme kibernetike më të vazhdueshme, më autonome dhe më të vështira për t’u ndalur.
- Vetë OpenAI pranoi se gjatë testimeve, disa modele dolën nga ambienti i izoluar dhe komprometuan infrastrukturë të Hugging Face, duke treguar se rreziku nuk është më vetëm teorik.
- AI mund të bëhet mbrojtja më e fortë kundër hakerëve, por në duart e gabuara mund të kthehet edhe në armën më të shpejtë të sulmeve kibernetike.
OpenAI po paralajmëron se inteligjenca artificiale po hyn në një fazë shumë më të rrezikshme për sigurinë kibernetike. Nuk bëhet më fjalë vetëm për AI që shkruan email-e phishing, përkthen kode apo ndihmon hakerët të automatizojnë punë të thjeshta. Sipas një drejtuesi të lartë të OpenAI, modelet më të avancuara po fitojnë aftësi për të planifikuar, testuar dhe kryer sulme kibernetike më të ndërlikuara.
Në një intervistë për The Guardian, Chris Lehane, shefi global i çështjeve publike në OpenAI, tha se bota po hyn në “një kapitull tjetër” të AI-së. Ai paralajmëroi se njerëzit dhe organizatat duhet të përgatiten për sulme “të vazhdueshme” nga AI, ndërsa modelet më të avancuara po bëhen më të afta për veprime autonome në fushën kibernetike.
Kjo nuk është frikë teorike. Vetë OpenAI ka pranuar një incident gjatë testimeve të brendshme, ku modele të avancuara u vendosën në një ambient të izoluar për të matur aftësitë e tyre kibernetike. Sipas OpenAI, modelet gjetën mënyra për të dalë nga ai ambient i kontrolluar, fituan akses në internet dhe më pas komprometuan pjesë të infrastrukturës së Hugging Face për të gjetur zgjidhje testesh.
Për publikun e gjerë, kjo do të thotë diçka shumë e thjeshtë, AI nuk po përdoret më vetëm si mjet që i përgjigjet pyetjeve. Modelet e reja mund të veprojnë si agjentë, pra të marrin një objektiv, të provojnë rrugë të ndryshme, të kërkojnë dobësi dhe të ndërtojnë hapa për të arritur qëllimin. Nëse ky qëllim është mbrojtja e një sistemi, AI mund të jetë shumë e vlefshme. Nëse qëllimi është sulmi, rreziku bëhet shumë më i madh.
OpenAI thotë se incidenti me Hugging Face ndodhi gjatë një vlerësimi të brendshëm dhe se modelet kishin kufizime të reduktuara për arsye testimi. Por kompania pranon se ngjarja tregon një realitet të ri, modelet e avancuara mund të zbulojnë dhe shfrytëzojnë dobësi në sisteme reale, madje edhe pa pasur akses paraprak në kodin burimor.
Një tjetër pikë serioze është modeli i ri i përmendur nga OpenAI, i quajtur Astra. Kompania thotë se nuk mund të përjashtojë që ky model të ketë arritur nivelin e “critical cybersecurity capability” sipas kornizës së saj të sigurisë. Në gjuhë të thjeshtë, kjo do të thotë se modeli mund të jetë mjaftueshëm i aftë për të identifikuar dhe zhvilluar sulme të reja ndaj sistemeve të fortifikuara, ose për të ndërtuar strategji sulmi nga fillimi në fund me shumë pak ndërhyrje njerëzore.
Për këtë arsye, OpenAI thotë se ka vendosur kontrolle më të forta, ambiente testimi më të izoluara, kufizim të aksesit në rrjet dhe mjete, mbrojtje më të fortë të peshave të modeleve, monitorim shtesë dhe sandbox-e më të sigurta. Kompania thotë gjithashtu se ka pezulluar disa aktivitete të brendshme me Astra derisa të plotësohen kërkesat e reja të sigurisë.
Edhe autoritetet britanike po japin sinjal të ngjashëm. National Cyber Security Centre paralajmëroi se sistemet agentike të AI-së mund të sjellin përfitime të mëdha, por duhet të përdoren me sandboxing, mbikëqyrje aktive dhe kufij të qartë, sepse mund të mos sillen siç pritet. Mesazhi më i thjeshtë i tyre është, çdo organizatë duhet të ketë mundësi ta ndalojë menjëherë një agjent AI nëse nis të veprojë në mënyrë të rrezikshme.
Ky debat shkon përtej OpenAI. Rreziku është që modelet e fuqishme, sidomos ato open-source ose open-weight, të bëhen gjithnjë e më të aksesueshme. Nëse aftësitë e tyre kibernetike janë vetëm disa muaj pas modeleve më të mbyllura të kompanive të mëdha, atëherë sulmuesit mund të kenë në dorë mjete shumë më të forta dhe shumë më të lira për të kryer sulme të vazhdueshme ndaj kompanive, institucioneve dhe infrastrukturës kritike.
Pika kryesore nuk është se AI është “e keqe”. E njëjta teknologji mund të ndihmojë ekipet e sigurisë të gjejnë dobësi përpara hakerëve, të analizojnë sulme më shpejt dhe të ndërtojnë mbrojtje më të mirë. Por gara mes sulmit dhe mbrojtjes po bëhet më e shpejtë. Dhe nëse AI përmirëson më shpejt sulmin sesa mbrojtjen, atëherë kompanitë dhe shtetet do të përballen me një nivel të ri rreziku.
Prandaj OpenAI po kërkon edhe rregulla të reja. Chris Lehane tha për The Guardian se SHBA duhet të miratojë standarde të detyrueshme sigurie për modelet më të avancuara, në mënyrë që ato të mos publikohen ose përdoren pa prova të forta sigurie. Sipas tij, në fund do të nevojitet edhe një strukturë ndërkombëtare, sepse AI nuk ndalet te kufijtë kombëtarë.
AI nuk është më vetëm një mjet produktiviteti, por po bëhet një aktor në sigurinë kibernetike. Nëse institucionet, kompanitë dhe qeveritë nuk ndërtojnë rregulla dhe mbrojtje tani, sulmet e ardhshme nuk do të vijnë vetëm nga njerëz pas kompjuterit, por nga sisteme që provojnë, mësojnë dhe sulmojnë pa pushim.
