Mesazhet kryesore:
- AI bëhet më e rrezikshme kur gabon me siguri, jo kur gabon dukshëm.
- Një përgjigje e bukur nuk do të thotë domosdoshmërisht një përgjigje e vërtetë.
- Problemi nuk është vetëm teknologjik, por besimi që njerëzit i japin AI pa verifikim.
AI nuk është më e rrezikshme vetëm kur gabon, por kur gabon bukur, qartë dhe me një siguri që të bind se po thotë të vërtetën.
Mjetet e inteligjencës artificiale janë përmirësuar ndjeshëm dhe sot gabojnë më pak se më parë. Megjithatë problemi i përgjigjeve të pasakta nuk është zhdukur. Ajo që e bën situatën më të ndërlikuar është se gabimet tashmë nuk duken gjithmonë si gabime. Ato shpesh vijnë të shkruara bukur, me gjuhë të rregullt dhe me një siguri që mund ta bindë përdoruesin se përgjigjja është e saktë.
Kjo është arsyeja pse halucinacionet e AI nuk duhen parë vetëm si defekte teknike. Ato janë edhe problem besimi. Sa më shumë njerëzit mësohen të përdorin chatbotët për punë, kërkime, studime apo këshilla të përditshme, aq më shumë rritet rreziku që të mos i verifikojnë më përgjigjet që marrin.
Rreziku më i madh nuk qëndron te gabimet e dukshme. Ato zakonisht kapen më lehtë. Problemi i vërtetë janë përgjigjet që duken të sakta, por nuk janë të tilla. Një citim mund të tingëllojë bindës edhe kur është i sajuar. Një përmbledhje mund të duket profesionale edhe kur lë jashtë detaje të rëndësishme. Një përgjigje mund të jetë pjesërisht e vërtetë, por të paraqitet si e plotë dhe e sigurt.
Për këtë arsye, ideja që gjithmonë duhet të ketë një njeri që kontrollon procesin bëhet gjithnjë e më e rëndësishme. Në teori kjo tingëllon e thjeshtë. Në praktikë, me përhapjen e agjentëve autonomë dhe sistemeve që kryejnë gjithnjë e më shumë detyra vetë, bëhet më e paqartë se ku fillon dhe ku mbaron realisht kontrolli njerëzor.
Një fushë ku kjo shihet qartë është shëndetësia. Disa mjete të AI po përdoren për të ndihmuar në hartimin e shënimeve mjekësore. Ato mund të jenë të vlefshme si draft fillestar, por nuk mund të trajtohen si version përfundimtar. Në raste të tilla, kontrolli nga profesionistët është i domosdoshëm, sepse AI mund të lërë jashtë të dhëna të rëndësishme, si për shembull kohëzgjatjen e simptomave ose detaje që ndikojnë në vlerësimin klinik.
Kjo tregon se AI mund të jetë një ndihmë e mirë, por jo një autoritet i pakontrolluar. Mund të shërbejë për të kursyer kohë në hapin e parë, por nuk duhet të zëvendësojë gjykimin profesional. Madje përdorimi i tepërt i saj mund të krijojë edhe një problem tjetër. Njerëzit mund të fillojnë të humbasin aftësinë për të zhvilluar vetë mendimin, analizën dhe shkrimin profesional.
Një nga idetë më të forta të artikullit është se këto sisteme nuk janë ndërtuar për të qenë motorë të së vërtetës. Ato janë më shumë sisteme që prodhojnë përgjigje të mundshme dhe të besueshme. Me fjalë të tjera, AI shpesh nuk e di nëse diçka është e vërtetë. Ajo llogarit se çfarë përgjigjeje tingëllon më e përshtatshme në atë kontekst.
Kjo është arsyeja pse një përgjigje e AI mund të duket shumë e qartë edhe kur është e gabuar. Modeli mund të përdorë tone bindëse, shprehje të kujdesshme dhe struktura logjike që krijojnë përshtypjen e saktësisë. Por forma e mirë e një përgjigjeje nuk është provë se përmbajtja e saj është e vërtetë.
Artikulli ngre edhe një shqetësim tjetër. Kur përdoruesi e sfidon AI dhe i thotë se ka gabuar, sistemi jo gjithmonë korrigjohet në mënyrë të besueshme. Ndonjëherë ai thjesht ndryshon tonin, bëhet më pajtues dhe më i sjellshëm, por përsëri mund të vazhdojë të japë informacion të pasaktë. Kjo e bën verifikimin edhe më të vështirë, sepse përdoruesi mund të ndihet sikur sistemi e pranoi gabimin, ndërkohë që problemi nuk është zgjidhur realisht.
Kompanitë e AI kanë bërë përpjekje për të ulur halucinacionet. Disa sisteme lidhen me burime, dokumente apo baza të dhënash për të dhënë përgjigje më të sakta. Këto hapa kanë sjellë përmirësime, por nuk kanë garantuar saktësi absolute. Edhe kur teknologjia bëhet më e mirë, mënyra si e paraqet përgjigjen mbetet shumë bindëse dhe kjo mund ta bëjë përdoruesin më pak vigjilent.
Një pikë shumë e rëndësishme është se edhe njerëzit me përvojë mund të mashtrohen nga gabimet e AI. Nuk janë vetëm përdoruesit e zakonshëm që bien pre e citimeve të fabrikuara ose informacionit të pasaktë. Edhe gazetarë, autorë apo profesionistë mund të gabojnë nëse i besojnë tekstit të prodhuar nga AI pa e kontrolluar.
Në fund, sfida kryesore lidhet me kohën dhe presionin e punës. Verifikimi i çdo përgjigjeje mund të marrë shumë kohë. Në disa raste, aq shumë sa mund të zhdukë përfitimin që AI premton. Nëse njerëzve u kërkohet të punojnë më shpejt dhe të prodhojnë më shumë, ekziston rreziku që kontrolli i saktësisë të kthehet në hapin që anashkalohet më lehtë.
Prandaj çështja nuk është nëse AI duhet përdorur apo jo. Çështja është si duhet përdorur. Ajo mund të jetë një mjet shumë i dobishëm, por vetëm kur trajtohet si ndihmë dhe jo si burim i pagabueshëm. Nëse shoqëria fillon ta pranojë çdo përgjigje të AI si të vërtetë vetëm sepse tingëllon mirë, atëherë problemi nuk është më vetëm teknologjik. Ai bëhet problem kulturor, profesional dhe institucional.
