Përmbledhje:
- Meta pezulloi programin Model Compatibility Initiative pasi një problem sigurie bëri që disa të dhëna të mbledhura nga punonjësit të bëheshin të aksesueshme për më shumë njerëz brenda kompanisë.
- Programi mblidhte të dhëna nga kompjuterët e punonjësve, përfshirë lëvizje të mausit, klikime, tastiera dhe përmbajtje në ekran, me qëllim trajnimin e AI për të përdorur software si njerëzit.
- Rasti tregon një tension të ri në epokën e AI, kompanitë duan të përdorin punën njerëzore si të dhëna trajnimi, por punonjësit kërkojnë privatësi, kontroll dhe siguri mbi atë që regjistrohet.
Meta ka pezulluar një program të brendshëm që gjurmonte mënyrën si punonjësit përdornin kompjuterët, pasi një problem sigurie bëri që të dhëna potencialisht të ndjeshme të ekspozoheshin brenda kompanisë.
Sipas WIRED, programi quhej Model Compatibility Initiative, ose MCI, dhe ishte prezantuar në prill për punonjësit në SHBA. Qëllimi i tij ishte të mblidhte të dhëna për mënyrën si njerëzit përdorin software: lëvizje të mausit, vendndodhje klikimesh, tastiera dhe përmbajtje në ekran.
Meta e ka mbrojtur projektin me argumentin se këto të dhëna janë të nevojshme për të trajnuar sisteme AI që të mësojnë si të përdorin programe kompjuterike në mënyrë të ngjashme me njerëzit. Me fjalë të thjeshta, kompania donte që AI të mësonte nga sjellja reale e punonjësve.
Por pikërisht këtu nis problemi. Kur një sistem regjistron klikime, tastiera dhe përmbajtje në ekran, ai nuk mbledh vetëm “sjellje teknike”. Ai mund të prekë edhe informacion pune, komunikime të brendshme, materiale të ndjeshme ose të dhëna që punonjësit nuk duan të ekspozohen më gjerë.
WIRED raporton se një inxhinier i Meta-s publikoi një njoftim të brendshëm sigurie, ku thuhej se databazat me informacion të mbledhur nga MCI ishin bërë të aksesueshme për këdo brenda kompanisë. Meta tha se nuk ka prova që të dhënat janë aksesuar në mënyrë të papërshtatshme, por vendosi ta pezullojë programin ndërsa heton çështjen.
Ky rast është i rëndësishëm sepse tregon një konflikt që do ta shohim gjithnjë e më shpesh në epokën e AI. Kompanitë kanë nevojë për të dhëna reale për të trajnuar sisteme më autonome. Por të dhënat reale shpesh vijnë nga njerëz realë, nga puna e tyre, nga ekranet e tyre dhe nga rutina e tyre e përditshme.
Në teori, kjo mund të ndihmojë AI të bëhet më e aftë për të përdorur software, për të automatizuar detyra dhe për të rritur produktivitetin. Në praktikë, hap një pyetje shumë të ndjeshme: sa shumë mund të monitorohet një punonjës në emër të inovacionit?
Punonjësit e Meta-s kishin kundërshtuar programin për arsye privatësie, sigurie dhe lirie personale. Fillimisht, sipas WIRED, ata nuk mund të hiqnin dorë nga programi, por pas protestave të brendshme Meta e ndryshoi pjesërisht qasjen.
Në thelb, historia nuk është vetëm për një rrjedhje të brendshme të dhënash. Është për kufirin e ri mes punës, mbikëqyrjes dhe trajnimit të AI.
Sepse nëse çdo klikim, çdo ekran dhe çdo veprim pune kthehet në material për të trajnuar AI, pyetja nuk është vetëm sa e zgjuar bëhet makina.
Pyetja është sa privatësi mbetet për njeriun që po e mëson atë.
