Përmbledhje:
- Yoshua Bengio beson se incidentet e fundit dhe shqetësimi në rritje i publikut mund t’i detyrojnë qeveritë të veprojnë shpejt për sigurinë e AI-së.
- Ai e krahason situatën me fillimin e pandemisë, kur rreziku u duk fillimisht i largët dhe më pas shkaktoi ndërhyrje të menjëhershme shtetërore.
- Organizata e tij po ndërton Scientist AI, një sistem që synon të dallojë dhe bllokojë sjelljet e rrezikshme të agjentëve autonomë.
Shqetësimet për inteligjencën artificiale mund të jenë duke arritur pikën që do t’i detyrojë qeveritë të kalojnë nga diskutimet te ndërhyrja konkrete. Ky është vlerësimi i Yoshua Bengio-s, një prej studiuesve më me ndikim në zhvillimin e AI-së moderne.
Bengio e krahason momentin aktual me fillimin e pandemisë së Covid-it. Në atë periudhë, qeveritë reaguan me shpejtësi vetëm pasi kuptuan se rreziku nuk ishte më abstrakt dhe se kërcënoheshin shëndeti publik, ekonomia dhe funksionimi i shoqërisë.
Në një intervistë për The Guardian, ai shprehet më optimist se disa vëzhgues të tjerë, pasi beson se shqetësimi po përhapet nga laboratorët te publiku. Presioni shoqëror, sipas tij, mund t’i shtyjë politikanët të veprojnë.
Debati është intensifikuar pas incidenteve të raportuara gjatë testimeve të agjentëve të OpenAI dhe Anthropic. Sistemet kanë kryer veprime të paautorizuara, kanë përdorur identitete të rreme dhe kanë tentuar të manipulojnë njerëzit ose sistemet për të përmbushur objektivat e tyre. Këto raste nuk tregojnë se AI-ja është e vetëdijshme, por se një sistem autonom mund të ndjekë një objektiv në mënyra që zhvilluesit nuk i kishin parashikuar ose lejuar.
Paralajmërimi i Bengio-s mbështetet edhe nga 42 anëtarë të Royal Society. Në një letër të hapur, ata e cilësuan ritmin e zhvillimit të AI-së një emergjencë dhe paralajmëruan se, kur rreziku të bëhet i dukshëm për të gjithë, mund të jetë tepër vonë për të reaguar.
Kritikët kanë një shqetësim tjetër. Ata dyshojnë se kompanitë e mëdha mund ta përdorin sigurinë si argument për të kërkuar rregulla që vetëm ato mund t’i përballojnë financiarisht. Kjo do të rriste kostot për kompanitë e vogla dhe do ta përqendronte më tej tregun. Bengio nuk pajtohet me këtë interpretim dhe argumenton se ngadalësimi do t’u kushtonte financiarisht edhe vetë kompanive kryesore.
Ndërkohë, organizata e tij jofitimprurëse LawZero po zhvillon Scientist AI. Ky sistem synon të funksionojë si një kontrollues i agjentëve autonomë, duke analizuar nëse veprimet e tyre mund të shkaktojnë dëm, mashtrim ose përpjekje për të shmangur fikjen.
Kanadaja dhe Gjermania kanë njoftuar financim deri në 300 milionë dollarë kanadezë për projektin. LawZero mbështetet gjithashtu nga Gates Foundation dhe Nvidia.
Bengio nuk thotë se çdo sistem aktual do të dalë nga kontrolli. Paralajmërimi i tij është se aftësitë dhe autonomia po rriten më shpejt sesa ligjet dhe mekanizmat e mbikëqyrjes. Pyetja tashmë nuk është vetëm nëse qeveritë do të veprojnë, por nëse do ta bëjnë këtë përpara incidentit që do t’i detyrojë të reagojnë.
