Përmbledhje:
- BE-ja propozon që chatbot-et të mos simulojnë emocione ose marrëdhënie njerëzore gjatë komunikimit me përdoruesit nën 18 vjeç.
- Fëmijët nën 13 vjeç do të mund t’i përdorin chatbot-et vetëm nën mbikëqyrjen e prindërve, ndërsa sistemet nuk do të ruajnë kujtesën mes bisedave.
- Masat janë pjesë e projektit EU Kids Act dhe ende duhet të miratohen nga Parlamenti Europian dhe shtetet anëtare përpara se të bëhen ligj.
Bashkimi Europian dëshiron të ndryshojë mënyrën se si chatbot-et komunikojnë me fëmijët dhe adoleshentët. Objektivi nuk është të ndalohet çdo përdorim i inteligjencës artificiale, por të pengohen sistemet që shtiren si miq, partnerë emocionalë ose persona që e kuptojnë thellësisht përdoruesin.
Sipas projektit EU Kids Act, chatbot-et që përdoren nga personat nën 18 vjeç nuk duhet të simulojnë emocione ose marrëdhënie ndërpersonale. Në shënjestër pritet të jenë shërbime si ChatGPT, Character AI dhe My AI i Snapchat, veçanërisht kur paraqiten si shoqërues gjithmonë të gatshëm për të dëgjuar dhe dhënë këshilla.
Shqetësimi i Komisionit Europian është se një fëmijë mund të krijojë varësi emocionale nga një sistem që nuk ka ndjenja, përgjegjësi apo aftësi reale për të kuptuar pasojat e këshillave të tij. Chatbot-i mund të komunikojë në mënyrë bindëse dhe personale, por përgjigjet e tij prodhohen nga një algoritëm.
Sipas dokumenteve të siguruara nga WIRED, fëmijët nën 13 vjeç nuk do të lejohen t’i përdorin këto sisteme pa mbikëqyrjen e një prindi ose kujdestari. Platformat gjithashtu nuk duhet t’ua aktivizojnë automatikisht chatbot-et të miturve apo t’i vendosin ato në krye të listës së kontakteve.
Një tjetër ndryshim i rëndësishëm lidhet me kujtesën. Chatbot-et nuk do të lejohen të ruajnë bisedat e të miturve për t’i përdorur në komunikimet e ardhshme. Komisioni shqetësohet se sistemet mund të grumbullojnë me kalimin e kohës të dhëna të ndjeshme për problemet familjare, shëndetin mendor, marrëdhëniet dhe pasiguritë personale të fëmijëve.
Presidentja e Komisionit Europian, Ursula von der Leyen, deklaroi se platformat kanë vepruar pa përgjegjshmëri të mjaftueshme me shëndetin mendor të fëmijëve. Një anketë në Francë, Gjermani, Suedi dhe Irlandë tregoi se rreth gjysma e personave të moshës 11 deri në 25 vjeç kishin diskutuar çështje intime ose personale me chatbot-et. Megjithatë, kjo grupmoshë përfshin edhe të rritur dhe rezultati nuk tregon se të gjithë kanë krijuar varësi.
BE-ja ngre shqetësime edhe për përdorimin e chatbot-eve në shkollë. Një analizë e OECD-së në 91 vende gjeti se nxënësit që deklaronin përdorimin e AI-së për detyrat kishin rezultate më të ulëta në teste. Ky është një korrelacion dhe nuk provon vetë se AI-ja i ka shkaktuar rezultatet e dobëta.
Kompanitë që nuk respektojnë detyrimet e propozuara mund të gjobiten deri në 6 për qind të xhiros së tyre vjetore globale. Sipas Reuters, propozimi përfshin edhe verifikimin e moshës dhe kufizime më të gjera për rrjetet sociale.
Megjithatë, rregullat nuk janë ende përfundimtare. Ato duhet të diskutohen dhe miratohen nga Parlamenti Europian dhe 27 shtetet anëtare. Deri atëherë, çështja kryesore mbetet nëse platformat mund të krijojnë chatbot-e të dobishme për fëmijët pa i projektuar ato për t’u kthyer në miqtë e tyre më të afërt.
