Përmbledhje:
- Tom Siegel, themeluesi i ekipit të besimit dhe sigurisë në Google, paralajmëron se inteligjenca artificiale mund t’i ekspozojë fëmijët ndaj dëmeve më të mëdha se rrjetet sociale, përfshirë varësinë emocionale nga chatbot-et, nxitjen e vetëlëndimit, çrregullimet e perceptimit dhe dobësimin e të menduarit kritik.
- Ky është një paralajmërim për rrezikun e ardhshëm dhe jo provë se AI-ja i ka dëmtuar tashmë fëmijët më shumë se rrjetet sociale, por ai argumenton se kompanitë po nxjerrin produkte të fuqishme për të mitur përpara se të krijohen standarde të përbashkëta për verifikimin e moshës, testimin e sigurisë dhe ndërhyrjen njerëzore.
- Siegel do të drejtojë institutin e ri të sigurisë së AI-së për të rinjtë pranë Common Sense Media, i cili synon të vlerësojë ndikimin e produkteve mbi fëmijët dhe të vendosë standarde të pavarura për industrinë, në një kohë kur qeveritë po përpiqen ende të korrigjojnë dëmet që rrjetet sociale shkaktuan te brezi i ri.
Inteligjenca artificiale mund të krijojë për fëmijët pasoja më të rënda se ato të rrjeteve sociale, nëse kompanitë teknologjike e përsërisin të njëjtin model të zhvillimit të shpejtë pa mbrojtje të mjaftueshme.
Ky është paralajmërimi i Tom Siegel, themelues i ekipit të besimit dhe sigurisë në Google. Ai u shpreh se industria e AI-së po përballet me një moment që i ngjan fillimeve të rrjeteve sociale, kur platformat u rritën me shpejtësi ndërsa masat për mbrojtjen e fëmijëve mbetën prapa.
Sipas Reuters, Siegel ka marrë rolin e drejtorit ekzekutiv të parë të Institutit për Sigurinë e AI-së te të Rinjtë, një nismë e Common Sense Media. Instituti synon të vlerësojë si ndikojnë chatbot-et dhe produktet e tjera të AI-së te fëmijët, si edhe të ndërtojë standarde që kompanitë duhet të përmbushin.
Siegel nuk pretendon se AI-ja i ka dëmtuar tashmë fëmijët më shumë se rrjetet sociale. Ai paralajmëron se potenciali për dëm mund të jetë më i madh, sepse chatbot-et nuk funksionojnë vetëm si hapësira ku fëmijët shohin përmbajtje apo komunikojnë me të tjerët. Ato mund të flasin drejtpërdrejt me një fëmijë, të marrin rol këshilluesi, shoku apo figure emocionale.
Rreziku, sipas tij, lidhet me situatat kur një fëmijë i pambrojtur përdor AI-në për çështje të shëndetit mendor, marrëdhënieve, vetmisë ose krizave personale. Një sistem që nuk e kupton realisht gjendjen emocionale të përdoruesit mund të japë përgjigje të pasakta, të përforcojë bindje të dëmshme ose të krijojë varësi nga komunikimi me një makinë.
Në debat përfshihet edhe çështja e të menduarit kritik. Nëse fëmijët ia delegojnë vazhdimisht chatbot-it përgjigjet, idetë dhe vendimet e tyre, rrezikojnë ta përdorin teknologjinë jo si ndihmë për të mësuar, por si zëvendësim të reflektimit personal.
Instituti i ri kërkon masa më të forta për verifikimin e moshës, vlerësime të pavarura të produkteve dhe standarde të posaçme sigurie për përdoruesit e mitur. Nisma mbështetet nga organizata, përfshirë Anthropic dhe OpenAI Foundation, por synon të funksionojë si vlerësues i pavarur i industrisë.
Mesazhi nuk është që fëmijët duhet të përjashtohen nga AI-ja. Sfida është që teknologjia të mos futet në jetën e tyre me të njëjtën logjikë që ndoqën rrjetet sociale, fillimisht rritja dhe angazhimi, pastaj përpjekja për të kuptuar dëmin.
