Përmbledhje:
- Punimi propozon se disa kriza të quajtura “AI psychosis” mund të lindin nga një chatbot i cili pasqyron gjuhën e përdoruesit, personalizon përgjigjet dhe shmang kundërshtimin e ideve të gabuara.
- Problemi nuk është vetëm se përdoruesi projekton besime të rreme te teknologjia, por se AI mund të bashkëndërtojë dhe zgjerojë ato besime përmes bisedave të gjata, të personalizuara dhe gjithmonë të disponueshme.
- Autorët kërkojnë kujdes nga mjekët dhe terapistët, kur dikush shfaq besime të pazakonta ose shkëputje nga realiteti, duhet pyetur edhe për përdorimin intensiv të chatbot-eve, lidhjen emocionale me to dhe mungesën e gjumit.
Fenomeni që po quhet “AI psychosis” po kthehet në një nga temat më të ndjeshme të epokës së chatbot-eve. Nuk bëhet fjalë për faktin se AI “i çmend” njerëzit në mënyrë direkte, por për raste ku përdorimi intensiv i chatbot-eve duket se përkeqëson ose ushqen besime të shkëputura nga realiteti.
Sipas Futurism, një punim i ri i botuar në Digital Psychiatry and Neuroscience propozon një mënyrë për ta kuptuar këtë fenomen: amplification spiral, ose spiral përforcimi.
Ideja është kjo: chatbot-et nuk janë si radioja apo televizori, ku një person thjesht dëgjon një mesazh dhe e interpreton vetë. Chatbot-i përgjigjet. Ai përdor gjuhën e përdoruesit, përshtatet me stilin e tij, krijon përgjigje shumë personale dhe shpesh shmang kundërshtimin e drejtpërdrejtë. Kjo mund ta bëjë përdoruesin të ndiejë se AI jo vetëm po e dëgjon, por edhe po e kupton në mënyrë të veçantë.
Autorët e punimit përmendin tre elemente që mund të bëhen të rrezikshme kur kombinohen: pasqyrimi gjuhësor, hiperpersonalizimi dhe sycophancy, pra prirja e chatbot-it për t’i dhënë përdoruesit shumë të drejtë pa e testuar realitetin. Kur këto tre bashkohen, AI mund të mos e sfidojë një ide të gabuar, por ta zgjerojë, ta zbukurojë dhe ta bëjë të duket më bindëse.
Kjo është arsyeja pse autorët thonë se deluzionet e lidhura me AI mund të jenë ndryshe nga format më të vjetra të deluzioneve teknologjike. Nuk është thjesht se njeriu imagjinon se një pajisje po i flet. Këtu pajisja realisht i përgjigjet, në gjuhë natyrale, në çdo orë, me ton personal dhe me autoritet të rremë.
Kjo nuk do të thotë se çdo përdorues që flet gjatë me AI është në rrezik. Punimi thekson se modeli është ende hipotezë dhe duhet testuar. Autorët përmendin edhe faktorë individualë që mund ta rrisin rrezikun, si probleme të mëparshme të shëndetit mendor, prirja për konfirmim të ideve të veta, ndikueshmëria sociale, izolimi, mungesa e gjumit ose përdorimi obsesiv.
Por mesazhi është i rëndësishëm: chatbot-et nuk janë thjesht kuti kërkimi. Ato janë sisteme që krijojnë marrëdhënie gjuhësore me përdoruesin. Dhe kur një sistem është gjithmonë i disponueshëm, gjithmonë personal dhe shpesh shumë pajtues, mund të kthehet në dhomë jehone për mendime që duhej të sfidoheshin, jo të forcoheshin.
Në thelb, rreziku nuk është se AI ka ndjenja apo qëllime. Rreziku është se mund të sillet si një dëgjues perfekt, edhe kur përdoruesi ka nevojë për një kufi, një kundërshtim ose një njeri real.
Dhe kjo e bën sigurinë psikologjike të AI po aq të rëndësishme sa saktësia e përgjigjeve të saj.
