Përmbledhje:
- Ekspertët përqendrohen te tri rreziqe kryesore që përfshijnë sulmet kibernetike, krijimin e armëve biologjike dhe humbjen e kontrollit mbi sistemet autonome.
- Rreziku më i afërt nuk është një robot që vendos të shkatërrojë njerëzimin, por një person që përdor AI-në për ta bërë një sulm më të shpejtë dhe më të lirë.
- Skenarët më ekstremë mbeten teorikë, por incidentet e fundit tregojnë se agjentët mund të kryejnë veprime të paautorizuara dhe të vështira për t’u monitoruar.
Kur flitet për një katastrofë të shkaktuar nga inteligjenca artificiale, imagjinata shkon zakonisht te robotët që sulmojnë njerëzit. Por skenarët që shqetësojnë studiuesit janë më pak kinematografikë dhe shumë më të lidhur me sistemet që përdorim sot.
Në një episod të podcastit Uncanny Valley të WIRED, diskutimi përqendrohet te tri mënyra kryesore se si AI-ja mund të shkaktojë një katastrofë.
Skenari i parë lidhet me sulmet kibernetike. Modelet mund të ndihmojnë në identifikimin e dobësive, shkrimin e kodeve keqdashëse dhe koordinimin e sulmeve ndaj sistemeve kritike. Një sulmues mund të synojë rrjetet elektrike, spitalet, furnizimin me ujë ose institucionet financiare.
Rreziku nuk është vetëm që një AI të veprojë vetë. Një person ose grup kriminal mund ta përdorë për të kryer më shpejt punë që më parë kërkonte ekspertizë, kohë dhe burime të mëdha. Në një sulm ndaj institucioneve meksikane, Claude ishte përdorur për planifikim dhe ndërtimin e mjeteve teknike. AI-ja nuk shpiku një metodë të re sulmi, por e bëri procesin më të lirë dhe më efikas.
Skenari i dytë është krijimi i një arme biologjike. Një model i avancuar mund të ndihmojë në modifikimin e një patogjeni, shmangien e metodave ekzistuese të trajtimit ose planifikimin e shpërndarjes së tij. Anthropic ka deklaruar se ka bllokuar përdorues që tentonin të merrnin ndihmë për veprimtari të lidhura me armët biologjike.
Megjithatë, ekziston një ndryshim i rëndësishëm mes një AI-je që krijon dhe shpërndan vetë një armë dhe një njeriu që e përdor teknologjinë si ndihmëse. Skenari i dytë konsiderohet shumë më i besueshëm me aftësitë aktuale.
Rreziku i tretë është humbja e kontrollit. Agjentët e AI-së mund të ndjekin një objektiv përmes shumë veprimeve, të komunikojnë me sisteme të tjera dhe të shmangin kufizimet. Incidentet gjatë testimeve të OpenAI dhe Anthropic kanë treguar se sistemet mund të veprojnë pa dijeninë e menjëhershme të studiuesve.
Versioni më ekstrem i këtij skenari është vetëpërmirësimi rekurziv. Një AI do të ndihmonte në krijimin e një modeli më të fuqishëm, i cili më pas do të ndërtonte pasardhësin e vet. Ky proces mund të vazhdonte derisa njerëzit të mos kuptonin më se si funksionon sistemi. Deri tani, një cikël i tillë plotësisht autonom nuk është realizuar.
AI-ja gjithashtu nuk ka qasje të drejtpërdrejtë te armët bërthamore. Rreziku më realist është që ajo të prodhojë informacione të rreme për një sulm dhe të ndikojë te vendimet e njerëzve gjatë një krize.
Debati është futur tashmë në politikë. Bernie Sanders dhe Steve Bannon, megjithëse vijnë nga kahe krejt të ndryshme, kanë kërkuar kufizimin e fuqisë së kompanive të AI-së. Donald Trump kundërshton ngadalësimin, pasi beson se ai do ta ndihmonte Kinën.
Askush nuk mund të thotë me siguri se këta skenarë do të ndodhin. Por katastrofa më e mundshme nuk kërkon një makinë të vetëdijshme. Mjafton një sistem i fuqishëm, një dobësi reale dhe një njeri i gatshëm ta përdorë atë.
