Mesazhet Kryesore:
- Aplikacionet “nudify” nuk janë thjesht mjete teknologjike, por instrumente potenciale dhune digjitale.
- Kur platformat i shfaqin, i sugjerojnë ose i reklamojnë këto aplikacione, ato bëhen pjesë e problemit.
- Rreziku më i madh nuk është vetëm krijimi i imazhit të rremë, por normalizimi i abuzimit pa pëlqim.
- Në epokën e AI, siguria digjitale nis nga kontrolli i atyre që e shpërndajnë teknologjinë.
Një hetim i ri i Tech Transparency Project ngre një shqetësim serioz për rolin e Apple dhe Google në përhapjen e aplikacioneve që përdorin inteligjencën artificiale për të krijuar imazhe intime të rreme. Edhe pse të dyja kompanitë kanë rregulla që ndalojnë aplikacione të tilla, sistemi i kërkimit, reklamat dhe sugjerimet automatike në App Store dhe Google Play duket se i drejtojnë përdoruesit pikërisht drejt tyre.
Sipas hetimit, kërkime me terma si “nudify”, “undress” dhe “deepnude” nxorën në rezultate aplikacione që mund të marrin një foto reale të një gruaje dhe ta shndërrojnë atë në një imazh nudo, në video pornografike ose në avatarë seksualë. Problemi nuk është vetëm ekzistenca e këtyre aplikacioneve, por fakti që ato bëhen të dukshme përmes vetë infrastrukturës së dyqaneve digjitale më të mëdha në botë.TTP testoi rezultatet kryesore në Apple App Store dhe Google Play Store. Afërsisht 40 për qind e aplikacioneve të shfaqura në kërkime rezultuan të afta të krijonin imazhe nudo ose gjysmë nudo të grave. Disa prej tyre shfaqeshin edhe si reklama të sponsorizuara, çka do të thotë se platformat jo vetëm i lejojnë, por në raste të caktuara përfitojnë edhe nga promovimi i tyre.Të dhënat e cituara në raport tregojnë se aplikacionet e identifikuara janë shkarkuar rreth 483 milionë herë dhe kanë gjeneruar më shumë se 122 milionë dollarë të ardhura gjatë gjithë periudhës së funksionimit. Edhe më shqetësues është fakti se 31 prej tyre ishin të klasifikuara si të përshtatshme për të mitur, në një kohë kur rastet e deepfake seksual në shkolla janë kthyer në një problem gjithnjë e më të madh.Apple nuk dha koment për raportin, ndërsa Google tha se disa prej aplikacioneve janë pezulluar dhe se procesi i verifikimit vazhdon. Pas publikimit të gjetjeve, Apple hoqi 15 aplikacione dhe Google hoqi 7 të tjera.Ky raport tregon se sfida nuk është më vetëm teknologjia që prodhon abuzim, por arkitektura digjitale që e bën atë të kërkueshëm, të reklamueshëm dhe të shkarkueshëm.
