Përmbledhje:
- Yuval Noah Harari paralajmëron se brenda 10 vitesh AI mund të ndikojë sisteme kyçe si financa, media dhe politika, duke i bërë vendimet që prekin jetën tonë më të vështira për t’u kuptuar nga njerëzit.
- Rreziku nuk është vetëm që AI të bëjë gabime, por që ajo të krijojë sisteme aq të ndërlikuara sa politikanët, bizneset dhe qytetarët të ndjekin vendime që nuk arrijnë t’i shpjegojnë.
- Nëse AI futet në sistemet që drejtojnë paratë, informacionin dhe pushtetin, transparenca dhe kontrolli njerëzor bëhen po aq të rëndësishme sa vetë inovacioni.
Yuval Noah Harari po ngre një paralajmërim më të thellë se frika e zakonshme se AI do të marrë vende pune. Sipas tij, rreziku më i madh nuk është vetëm ekonomik, por politik dhe shoqëror: çfarë ndodh kur sistemet që drejtojnë paratë, informacionin, besimin dhe vendimmarrjen bëhen aq komplekse sa njerëzit nuk i kuptojnë më?
Në intervistën e tij për The Economist, Harari argumenton se AI mund të fitojë ndikim efektiv mbi financën, median dhe politikën brenda një dekade, nëse qeveritë dhe shoqëritë nuk vendosin kufij më herët. Ai nuk thotë se kjo është e pashmangshme, por paralajmëron se ritmi aktual i zhvillimit e bën skenarin shumë serioz.
Për ta kuptuar thjesht: problemi nuk është vetëm se AI mund të japë një përgjigje të gabuar. Problemi është se AI mund të fillojë të ndërtojë dhe menaxhojë sisteme që ndikojnë jetën tonë, ndërsa njerëzit nuk arrijnë më të kuptojnë logjikën pas tyre.
Harari përdor financën si shembull kryesor. Sot sistemi financiar është i ndërlikuar, por mekanizmat kryesorë, paraja, interesi, aksionet, obligacionet dhe kreditë, janë ende të kuptueshme për njerëzit. Sipas tij, AI mund të krijojë instrumente financiare shumë më të ndërlikuara, të cilat vetë modelet i kuptojnë, por njerëzit jo. Në atë moment, besimi nuk ndërtohet më mes njerëzve, por mes sistemeve AI.
Kjo do të ishte një ndryshim shumë i madh. Nëse një krizë financiare ndodh dhe politikanët, bankierët apo rregullatorët nuk kuptojnë pse sistemi po sillet në një mënyrë të caktuar, ata mund të përfundojnë duke ndjekur rekomandimin e AI-së pa e kuptuar arsyen. Pra njeriu mbetet formalisht në kontroll, por në praktikë vendimi kalon te makina.
Ky nuk është shqetësim vetëm i Harari-t. Axios ka raportuar se edhe kompanitë më të mëdha të AI-së po krijojnë ekipe të posaçme për të kuptuar si funksionojnë modelet e tyre, sepse vetë krijuesit pranojnë se nuk e dinë gjithmonë saktësisht si “mendojnë” modelet ose çfarë mund të bëjnë kur u jepen detyra autonome.
Pra problemi nuk është fantashkencë. Modelet moderne nuk shkruhen rresht pas rreshti si software tradicional. Ato trajnohen mbi sasi gjigante të dhënash dhe më pas zhvillojnë sjellje që testohen, por jo gjithmonë kuptohen plotësisht. Kjo është arsyeja pse transparenca, auditimi dhe kontrolli po bëhen aq të rëndësishme sa vetë aftësia e modelit.
Reuters raportoi gjithashtu se Komisioneri i Lartë i OKB-së për të Drejtat e Njeriut, Volker Türk, paralajmëroi se AI e avancuar mund të sjellë rreziqe serioze, përfshirë ndërprerje të shërbimeve, komunikimeve dhe sistemeve demokratike. Ai kërkoi garanci të forta sigurie përpara se dëmet të bëhen të pakontrollueshme.
Për Zero Day, pika më e rëndësishme është kjo: AI nuk po bëhet vetëm një mjet që përdorim. Ajo po bëhet pjesë e sistemeve që na organizojnë jetën, nga lajmet që shohim, te kreditë që marrim, te vendimet e administratës, te tregjet financiare dhe te komunikimi politik.
Nëse këto sisteme bëhen të pakuptueshme, qytetari humb diçka shumë më të madhe se një vend pune. Humb aftësinë për të pyetur, kundërshtuar dhe kuptuar vendimet që e prekin.
Në fund, paralajmërimi i Harari-t nuk është se AI do të marrë pushtetin me robotë. Paralajmërimi është më i heshtur dhe më realist: AI mund të futet aq thellë në ekonomi, politikë dhe informacion, sa njerëzit të vazhdojnë të jetojnë brenda sistemeve që nuk i kuptojnë më.
Dhe kur nuk kupton sistemin që të drejton, nuk je më plotësisht në kontroll të jetës tënde
