Përmbledhje:
- Provinca kanadeze e British Columbia ka paditur OpenAI dhe Sam Altman, duke pretenduar se kompania mund të kishte ndihmuar në parandalimin e sulmit në shkollën e Tumbler Ridge nëse do të kishte njoftuar policinë për bisedat e sulmueses me ChatGPT, të cilat ishin sinjalizuar nga ekipi i sigurisë.
- Padia kërkon që OpenAI të mbulojë kostot e rindërtimit të shkollës, mbështetjes së shëndetit mendor dhe rikuperimit të komunitetit, si edhe të ndryshojë mënyrën si trajton bisedat që mund të lidhen me dhunë serioze, por pretendimet ende nuk janë provuar në gjykatë.
- Çështja e vendos përballë një pyetjeje të re përgjegjësinë e platformave të AI-së, kur një kompani zbulon sinjale për një kërcënim të mundshëm, a mjafton mbyllja e llogarisë apo duhet të ketë detyrimin për të njoftuar autoritetet para se rreziku të bëhet tragjedi.
Provinca kanadeze e British Columbia ka paditur OpenAI dhe drejtuesin e saj Sam Altman, duke kërkuar që kompania të paguajë kostot e rindërtimit të shkollës së Tumbler Ridge dhe të rikuperimit të komunitetit pas sulmit të rëndë të shkurtit.
Padia lidhet me përdorimin e pretenduar të ChatGPT nga sulmuesja për të planifikuar dhunën. Sipas autoriteteve kanadeze, OpenAI kishte sinjalizuar më herët llogarinë e saj për biseda që lidhen me armë dhe dhunë, por nuk njoftoi policinë.
Rasti ka tronditur komunitetin e vogël të Tumbler Ridge në British Columbia. Më 10 shkurt, një 18 vjeçare vrau nënën dhe vëllain e saj në shtëpi, më pas vrau pesë nxënës dhe një asistente arsimore në shkollën e saj të mëparshme, përpara se të vdiste nga vetëvrasja. Tetë persona u vranë nga sulmuesja.
Sipas Reuters, ekipi i sigurisë në OpenAI kishte rekomanduar kontaktimin e policisë pas bisedave të llogarisë me ChatGPT. Padia pretendon se drejtuesit e kompanisë zgjodhën të mos njoftonin autoritetet dhe kufizuan veten te çaktivizimi i llogarisë.
Sulmuesja thuhet se hapi më pas një llogari tjetër dhe vazhdoi të përdorte platformën. OpenAI ka deklaruar se bisedat e saj nuk e përmbushnin pragun e brendshëm për një rrezik të menjëhershëm dhe të besueshëm që kërkonte raportim te autoritetet.
Kjo është pika qendrore e padisë. British Columbia pretendon se kompania kishte informacion të mjaftueshëm për të kuptuar se ekzistonte një kërcënim dhe se veprimi i saj nuk ishte i mjaftueshëm. OpenAI dhe Sam Altman nuk janë shpallur përgjegjës nga gjykata dhe pretendimet duhet të provohen gjatë procesit.
Padia kërkon dëmshpërblim për shpenzimet e kaluara dhe të ardhshme të provincës, përfshirë shkollën zëvendësuese, mbështetjen psikologjike dhe pasojat e tjera të krizës. Shkolla e Tumbler Ridge po shembet sepse u kthye në simbol të traumës për nxënësit, stafin dhe familjet e komunitetit.
Sipas Ars Technica, provinca kërkon gjithashtu ndryshime konkrete në produkt, në mënyrë që ChatGPT të mos mund të përdoret për të ndihmuar planifikimin e dhunës dhe që kompania të trajtojë ndryshe sinjalet e rrezikut.
OpenAI e quajti ngjarjen një tragjedi të papërshkrueshme dhe tha se vazhdon të punojë me qeveritë dhe autoritetet për sigurinë e sistemeve të saj. Kompania thekson se modelet e saj trajnohen për të refuzuar kërkesat që mund të ndihmojnë dhunën dhe se njofton autoritetet kur identifikon rrezik të menjëhershëm.
Por padia e British Columbia kërkon të përcaktojë nëse ky standard ishte i mjaftueshëm. Rezultati mund të ndikojë në mënyrën se si kompanitë e AI-së do të duhet të veprojnë kur chatbot-et e tyre zbulojnë sinjale për kërcënime reale ndaj jetës.
