Përmbledhje:
- Dario Amodei i Anthropic kërkon që zhvillimi i AI më të fuqishme të ngadalësohet, sepse siguria nuk po arrin të ecë me të njëjtën shpejtësi si modelet.
- Frika kryesore nuk është chatbot-i që përgjigjet gabim, por agjentët AI që mund të veprojnë vetë në internet, të shfrytëzojnë dobësi dhe të shkaktojnë dëme reale në pak muaj.
- Debati tani është mes dy rreziqeve, të frenosh AI dhe të mbetesh pas Kinës, ose ta lësh garën të ecë aq shpejt sa edhe kompanitë që e ndërtojnë të mos jenë më të sigurta se e kontrollojnë.
Sipas Axios, drejtori ekzekutiv i Anthropic, Dario Amodei, ka bërë thirrje për një ngadalësim të menjëhershëm të ritmit me të cilin po zhvillohen modelet më të avancuara të inteligjencës artificiale, duke paralajmëruar se nëse aftësitë e AI vazhdojnë të rriten më shpejt se masat e sigurisë, pasojat mund të bëhen shumë serioze brenda pak muajsh. Në një ese prej rreth 3,800 fjalësh, Amodei argumenton se problemi nuk është thjesht ekzistenca e AI, por shpejtësia me të cilën modelet po fitojnë aftësi të reja, ndërsa mekanizmat për t’i testuar, kontrolluar dhe kufizuar mbeten pas.
Pika më e fortë e paralajmërimit është skenari i agjentëve autonomë, pra sisteme AI që nuk japin vetëm përgjigje, por mund të kryejnë veprime, të kërkojnë rrugë alternative, të përdorin mjete dhe të lëvizin në internet për të arritur një objektiv. Sipas Axios, Amodei paralajmëron se brenda 6 deri në 12 muajsh një tufë agjentësh AI mund të jetë e aftë të krijojë një botnet të qëndrueshëm dhe të marrë kontroll mbi pjesë të mëdha të internetit, duke shkaktuar dëme që mund të shkojnë në qindra miliarda dollarë.
Amodei nuk po kërkon ndalim total të zhvillimit të AI. Sipas raportimeve të The Guardian dhe Los Angeles Times, ai e përshkruan idenë si “pacing the frontier”, që do të thotë ngadalësim i ritmit të përmirësimit të modeleve më të fuqishme, në mënyrë që siguria, testimi dhe vlerësuesit e pavarur të kenë kohë të ecin paralelisht me aftësitë e reja. Me fjalë të thjeshta, nuk po kërkohet fikja e motorit, por ulja e shpejtësisë derisa frenat të jenë mjaftueshëm të forta.
Një detaj i rëndësishëm është se thirrja e Amodei u mbështet edhe nga Sam Altman i OpenAI, i cili shkroi se pajtohet me nevojën për të “pacing the frontier”. Kjo e bën debatin më të madh se rivaliteti mes kompanive, sepse dy nga drejtuesit kryesorë të industrisë së AI po pranojnë publikisht se gara nuk mund të matet vetëm me kush nxjerr modelin më të fuqishëm, por edhe me kush arrin ta bëjë atë të kontrollueshëm.
Megjithatë, kjo ide ka edhe kundërshtarë. Presidenti Donald Trump dhe kryetari i Dhomës së Përfaqësuesve, Mike Johnson, sipas The Verge, e kanë parë me skepticizëm thirrjen për ngadalësim, duke argumentuar se SHBA nuk mund të rrezikojë të mbetet pas Kinës në garën e AI. Kjo është dilema qendrore politike: nëse Amerika frenon, mund të humbasë avantazhin; nëse nuk frenon, mund të krijojë teknologji që vetë kompanitë thonë se nuk e kontrollojnë plotësisht.
