Mesazhi kryesor:
- Anthropic po kërkon që laboratorët kryesorë të AI-së të bien dakord për një mënyrë të koordinuar dhe të verifikueshme për të ngadalësuar ose ndalur zhvillimin, nëse rreziqet bëhen shumë të mëdha.
- Shqetësimi kryesor lidhet me mundësinë që sistemet e avancuara të AI-së të fillojnë të përmirësojnë vetveten më shpejt sesa njerëzit mund t’i kontrollojnë.
- Një ndalim i vetëm nga një kompani nuk do të kishte shumë efekt, nëse konkurrentët vazhdojnë garën. Prandaj debati po zhvendoset nga “sa shpejt mund të ndërtojmë AI më të fuqishme?” te “çfarë bëjmë nëse duhet t’i ndalim?”.
Anthropic, kompania pas Claude, po kërkon që industria e inteligjencës artificiale të përgatitet për një skenar që deri pak vite më parë dukej ekstrem: ndalimin e përkohshëm të zhvillimit të modeleve më të fuqishme, nëse rreziqet dalin jashtë kontrollit.
Sipas Reuters, Anthropic u ka bërë thirrje laboratorëve kryesorë të AI-së të krijojnë një plan të përbashkët, të koordinuar dhe të verifikueshëm për të ngadalësuar ose pezulluar zhvillimin e sistemeve të avancuara. Ideja nuk është që një kompani të ndalojë e vetme, sepse kjo do t’i jepte avantazh konkurrentëve. Që një “pauzë” të kishte kuptim, ajo duhet të zbatohej nga aktorët kryesorë njëkohësisht.
Shqetësimi kryesor është shpejtësia me të cilën po përparon AI. Anthropic paralajmëron se aftësitë e këtyre sistemeve po rriten me ritëm shumë të lartë dhe se në të ardhmen mund të afrohemi me atë që quhet “recursive self-improvement”: momenti kur AI ndihmon në ndërtimin e versioneve edhe më të fuqishme të vetes. Në një skenar të tillë, rreziku nuk është vetëm keqpërdorimi nga njerëzit, por edhe humbja graduale e kontrollit njerëzor mbi zhvillimin e teknologjisë.
Ky paralajmërim vjen në një kohë kur rregullimi ligjor i AI-së, sidomos në SHBA, po ecën më ngadalë se vetë teknologjia. Reuters raporton se administrata amerikane po kërkon më shumë testime vullnetare nga laboratorët për modelet më të fuqishme, por shumë prej masave mbeten ende të varura nga vetërregullimi i industrisë.
Në thelb, Anthropic po kërkon që AI të ketë një “frenë emergjence”. Jo për ta ndalur inovacionin, por për të shmangur një garë ku askush nuk do të jetë i pari që ngadalëson. Pyetja nuk është më vetëm kush do ta ndërtojë modelin më të fuqishëm. Pyetja është: kush do të ketë guximin ta ndalë, nëse bëhet shumë i rrezikshëm?
