Përmbledhje:
- 1. AI nuk lind e paanshme. Ajo mëson edhe stereotipet që ekzistojnë në të dhënat tona.
- 2. Paragjykimi nuk mbetet vetëm në ekran. Ai mund të ndikojë në punësim, kredi dhe mundësi reale për gratë.
- 3. Problemi nuk zgjidhet duke i besuar verbërisht teknologjisë, por duke kërkuar transparencë, kontroll dhe përfaqësim më të barabartë.
AI nuk është neutrale. Ajo po mëson edhe paragjykimet tona
Inteligjenca artificiale shpesh paraqitet si një teknologji objektive, e aftë të marrë vendime pa emocione dhe pa preferenca personale. Por sistemet e AI nuk krijohen në një boshllëk. Ato mësojnë nga të dhënat, tekstet, fotografitë dhe vendimet që njerëzit kanë prodhuar ndër vite. Kur këto materiale përmbajnë stereotipe dhe pabarazi, teknologjia mund t’i mësojë, t’i përsërisë dhe madje t’i përforcojë ato.
Sipas një analize të cituar nga UN Women, 44.2% e 133 sistemeve të inteligjencës artificiale të studiuara shfaqnin një formë paragjykimi gjinor. Problemi nuk kufizohet te mënyra se si AI përshkruan gratë. Ai mund të ndikojë edhe në vendime konkrete që lidhen me punësimin, kredinë, shërbimet publike dhe mundësitë ekonomike.
Një studim i UNESCO-s zbuloi se modelet gjeneruese i lidhnin emrat e grave me fjalë si “shtëpi”, “familje” dhe “fëmijë”, ndërsa emrat e burrave me “biznes”, “drejtues”, “pagë” dhe “karrierë”. Në një nga modelet e testuara, gratë përshkruheshin në role shtëpiake katër herë më shpesh se burrat.
Këto nuk janë vetëm gabime të padëmshme në një tekst të prodhuar nga një chatbot. Nëse një sistem përdoret për të filtruar CV, për të vlerësuar kandidatë ose për të rekomanduar njerëz për një pozicion, paragjykimi mund të shndërrohet në diskriminim real. Reuters ka raportuar më herët se Amazon braktisi një sistem eksperimental rekrutimi pasi u zbulua se ai penalizonte aplikimet që përmbanin terma të lidhur me gratë.
Zgjidhja nuk është heqja dorë nga AI, por ndërtimi i sistemeve më të kontrollueshme. Kjo kërkon të dhëna më përfaqësuese, testime të vazhdueshme, transparencë dhe më shumë gra në ekipet që zhvillojnë teknologjinë. Përndryshe, AI nuk do ta korrigjojë realitetin tonë. Ajo thjesht do ta automatizojë pabarazinë.
