Për shkak të përdorimit nga çdo mendje njerëzore, inteligjenca artificiale nuk është më vetëm një instrument inovacioni. Në disa raste, ajo kthehet në një mekanizëm të sofistikuar të dhunës digjitale. Ndër format më alarmante të këtij abuzimi janë aplikacionet që gjenerojnë përmbajtje intime përmes deepfake, të njohura si “nudifier apps”, të cilat përdorin fotografinë e një personi real për të krijuar imazhe apo video intime pa pëlqimin e tij.
Nga perspektiva juridike dhe teknologjike, këto platforma nuk mund të përfaqësojnë inovacionin. Inovacioni nuk mund të ndërtohet mbi shkatërrimin e identitetit të dikujt tjetër. Nuk mund të quhet zhvillim teknologjik një mekanizëm që përdor inteligjencën artificiale për të prodhuar poshtërim, shantazh, seksualizim të pavullnetshëm apo trafikim të imazhit njerëzor. Përkundrazi, kemi të bëjmë me një abuzim të teknologjisë në emër të inovacionit, ku fitimi ekonomik dhe perversiteti digjital vendosen mbi të drejtat themelore të individit.
Rreziku bëhet edhe më i rëndë kur viktimat janë fëmijët. Sot, mijëra fotografi të fëmijëve publikohen çdo ditë në rrjetet sociale nga vetë prindërit. Fotografitë e ditëlindjeve, shkollës, pushimeve apo jetës së përditshme mund të merren lehtësisht nga interneti nga individë problematikë dhe të përdoren nga aplikacione deepfake për të gjeneruar përmbajtje intime. Ky kërcënim që po diskutohet aktualisht nga institucionet europiane, organizatat për mbrojtjen e fëmijëve dhe ekspertët e sigurisë kibernetike. Një shoqëri që nuk arrin të mbrojë imazhin dhe integritetin moral të fëmijëve në hapësirën digjitale, rrezikon të normalizojë forma të reja të dhunës dhe abuzimit psikologjik.
Viktimat përjetojnë ankth, izolim social, humbje të vetëbesimit dhe traumë psikologjike afatgjatë. Në rastin e të miturve, pasojat mund të ndikojnë drejtpërdrejt në zhvillimin emocional dhe social të tyre. Një fëmijë që bëhet viktimë e një deepfake intim mund të përballet me bullizëm, stigmatizim dhe dëmtim të reputacionit në një moshë ku personaliteti ende formohet. Kjo është arsyeja pse shumë studiues të etikës së AI dhe organizata ndërkombëtare e konsiderojnë këtë fenomen si një formë të re të dhunës digjitale dhe shfrytëzimit seksual të teknologjizuar.
Në aspektin penal dhe etik, ekziston një tjetër problem, pamundësia reale për të verifikuar pëlqimin. Këto aplikacione shpesh mbështeten tek deklarata formale si “I confirm”, por juridikisht kjo nuk ka asnjë garanci reale. Personi që ngarkon fotografinë mund të mos ketë asnjë lidhje me viktimën. Në praktikë, sistemi nuk verifikon nëse personi në imazh ka autorizuar përdorimin e fytyrës apo trupit të tij. Kjo e bën pothuajse të pamundur funksionimin etik të këtyre platformave. Pikërisht për këtë arsye, Bashkimi Europian po lëviz drejt ndalimit të plotë të aplikacioneve “nudifier”, duke argumentuar se rreziku i abuzimit është shumë më i madh sesa çdo pretendim për përdorim legjitim.
Edhe argumenti se këto aplikacione përfaqësojnë “liri teknologjike” bie përballë realitetit. Ashtu siç nuk konsiderohet inovacion krijimi i malëare-it apo platformave për mashtrim financiar, nuk mund të konsiderohet inovacion një industri që monetizon seksualizimin artificial të individëve pa pëlqim. Në thelb, kemi të bëjmë me një ekonomi të ndërtuar mbi degradimin e identitetit njerëzor.
Organizata ndërkombëtare dhe institucione europiane kanë paralajmëruar se deepfake-et intime po përdoren gjithnjë e më shumë për shantazh, cyberbullying dhe manipulim social. Europol ka ngritur shqetësimin për rritjen e përdorimit të AI në krijimin e materialeve të abuzimit seksual ndaj të miturve, ndërsa UNICEF dhe organizata të tjera për mbrojtjen e fëmijëve kanë theksuar se teknologjitë gjeneruese po krijojnë forma të reja të shfrytëzimit digjital të fëmijëve.
Prandaj, ndalimi total i këtyre aplikacioneve nuk duhet parë si kufizim i teknologjisë, por si mbrojtje e dinjitetit njerëzor dhe e sigurisë sociale. Shoqëria nuk mund të presë derisa pasojat të bëhen të pakthyeshme. Në momentin kur inteligjenca artificiale përdoret për të cenuar identitetin, integritetin moral dhe sigurinë psikologjike të individëve, veçanërisht të fëmijëve, ndërhyrja ligjore bëhet e domosdoshme.
