Mesazhet kryesore:
- Frika nuk është se AI po mendon si njeri, por se mund të nisë të përmirësojë veten më shpejt se njeriu.
- Sa më shumë AI përdoret për të ndërtuar një model tjetër AI, aq më e vështirë bëhet të kuptojmë kush e kontrollon zhvillimin.
- Rreziku rritet kur AI përmirësohet më shpejt se kontrolli ynë dhe kompanitë nuk duan të ngadalësojnë garën.
Ideja që inteligjenca artificiale mund t’i shpëtojë kontrollit njerëzor dikur dukej si skenar filmi. Sot po diskutohet gjithnjë e më seriozisht nga laboratorët që vetë po ndërtojnë modelet më të fuqishme.
Në qendër të debatit është një koncept i quajtur recursive self improvement. Me fjalë të thjeshta, bëhet fjalë për momentin kur AI nuk përdoret vetëm nga njerëzit për të shkruar tekst, kod apo analiza, por nis të ndihmojë drejtpërdrejt në krijimin e modeleve më të avancuara të AI. Pra AI bëhet pjesë e zinxhirit që përmirëson vetë AI.
Kjo mund të sjellë përparime të jashtëzakonshme. Nëse modelet bëhen më të afta për kërkim shkencor, programim, biologji apo siguri kibernetike, ato mund të përshpejtojnë zbulime që njerëzve do t’u duheshin vite. Por e njëjta fuqi hap edhe një pyetje të madhe. Çfarë ndodh nëse ritmi i përmirësimit bëhet më i shpejtë se aftësia jonë për ta kuptuar, testuar dhe kufizuar?
Anthropic ka paralajmëruar se industria duhet të përgatitet për këtë skenar me plane të koordinuara. Jo sepse AI ka dalë tashmë jashtë kontrollit, por sepse gara mes kompanive mund ta bëjë shumë të vështirë ndalimin në kohë. Nëse një laborator ngadalëson, të tjerët mund të vazhdojnë. Kjo e kthen sigurinë në problem kolektiv.
Thelbi i debatit nuk është paniku. Është kontrolli. Modelet e reja po bëhen më autonome, më të afta dhe më të dobishme. Por sa më shumë fuqi u japim, aq më shumë duhet të kemi mekanizma për t’i ndalur kur është e nevojshme.
AI mund të mos na ketë shpëtuar ende nga duart. Por pyetja serioze është nëse po ndërtojmë frena para se të na duhen.
