Kompanija OpenAI, koja stoji iza ChatGPT-a, prijavila je Federalnom istražnom birou (FBI) 25-godišnjeg muškarca sa Floride nakon što je u razgovorima sa chatbotom iznosio detaljne planove da siluje i ubije svoju bivšu devojku.
„Ubiću je do kraja ovog meseca. Ako ne može da bude moja, neće biti ničija“, napisao je Darren Zhou u razgovoru sa ChatGPT-jem, a njegove poruke kasnije su sačuvane u sudskim dokumentima.
Prema navodima istražitelja, Zhou, bivši analitičar Goldman Sachsa koji je živeo u blizini imanja Donalda Trampa u Palm Biču, počeo je u martu da razgovara sa ChatGPT-jem o raskidu sa devojkom sa kojom je bio šest meseci.
U razgovorima je opisivao njene hobije, mesta na koja je izlazila, muškarce iz njenog okruženja na koje je bio ljubomoran, ali i želju da ponovo budu zajedno.
OpenAI u svojim pravilima navodi da mali tim zaposlenih može pregledati razgovore sa ChatGPT-jem ukoliko sistem detektuje da korisnik planira da povredi druge osobe. U ozbiljnim slučajevima kompanija može informacije proslediti policiji.
Iako su razgovori sa ChatGPT-jem već korišćeni kao dokaz u brojnim sudskim postupcima, mnogo je ređih slučajeva u kojima je sama kompanija prijavila korisnika policiji zbog sadržaja njegovih razgovora.
Istražitelji navode da su Zhouove poruke ubrzo prešle sa priče o raskidu na pretnje silovanjem, ubistvom, ali i ubistvom i samoubistvom.
Federalni agenti su u maju prosledili šerifovoj kancelariji okruga Palm Bič dva meseca njegovih razgovora sa ChatGPT-jem. Do tada su, prema navodima istražitelja, mete njegovih pretnji postali i članovi porodice bivše devojke.
Zamenik šerifa koji je pregledao prepisku — u kojoj su se nalazile samo Zhouove poruke, a ne odgovori ChatGPT-ja — ocenio je da nije reč o „nejasnim emotivnim ispadima“, već o obrascu u kojem se vidi uvežbavanje i planiranje.
Policija je potom obavila proveru bezbednosti njegove bivše devojke, 21-godišnje žene iz Lejk Vort Biča. Ona je istražiteljima rekla da je raskinula sa Zhouom zbog njegovog „nepredvidivog, ljubomornog i kontrolišućeg ponašanja“.
Raskid je, kako je navela, obavila telefonom jer se plašila njegove reakcije.
SAZNAJTE VIŠE:
Nakon raskida, Zhou ju je, prema njenim rečima, neprestano kontaktirao pozivima, porukama i putem društvenih mreža. Ispitivao ju je zbog komentara koje je jedan muškarac ostavljao ispod njenih TikTok snimaka, optuživao je da ga je brzo prebolela i ignorisao njene ponovljene zahteve da prestane da joj se javlja.
Istražitelji navode da je Zhou nastavio da poziva i šalje poruke bivšoj devojci koristeći različite brojeve telefona koje su generisale aplikacije.
Ona je napravila snimke ekrana poruka, od kojih su mnoge bile uznemirujuće, uvredljive, seksualno eksplicitne i preteće.
Na osnovu poruka koje je Zhou slao ChatGPT-ju, kao i komunikacije sa bivšom devojkom, policija ga je uhapsila u maju.
U zatvoru okruga Palm Bič proveo je dva dana, nakon čega je pušten uz kauciju od 100.000 dolara.
Pomoćnica državnog tužioca Ana Cuskova u junu ga je optužila za teško uznemiravanje i proganjanje, pisane pretnje smrću i nezakonitu upotrebu mobilnog telefona. Za ova krivična dela bila je predviđena kazna do 25 godina zatvora.
Zhou je 13. avgusta priznao krivicu po sve tri tačke optužnice, nakon što je sa tužilaštvom postigao sporazum kojim je izbegao zatvorsku kaznu, ali i osudu za krivično delo sa statusom krivičnog prestupnika.
Sudija Okružnog suda Skot Suskauer rekao je da je sporazum prihvatio isključivo zato što se sa njim saglasila Zhouova bivša devojka.
U skladu sa dogovorom, sud mu nije izrekao formalnu osudu, već mu je odredio osam godina uslovne kazne, tokom kojih mora da poštuje niz strogih ograničenja.
Sud je uzeo u obzir i činjenicu da je Zhou diplomirao sa najvišim počastima na Univerzitetu Northeastern u Bostonu i da ranije nije imao krivični dosije.
Njegov advokat Bel takođe je naveo da Zhou nije posedovao vatreno oružje, uprkos tome što su njegove poruke ukazivale na suprotno.
„On nije nasilna osoba. Nije loš čovek. Prošao je kroz veoma težak period kada je njegovo mentalno zdravlje bilo ozbiljno narušeno i sada je neverovatno dobro“, rekao je Bel.
Slučaj je ponovo otvorio pitanje načina na koji kompanije koje razvijaju veštačku inteligenciju postupaju kada njihovi sistemi detektuju potencijalno ozbiljne pretnje po bezbednost ljudi. Istovremeno, činjenica da su razgovori korisnika sa AI četbotom postali deo policijske istrage i sudskog postupka pokazuje da takva komunikacija može imati značajnu dokaznu vrednost u krivičnim predmetima.
OSTALE TEME:
VUČIĆ: “Neću prisustvovati sahrani generala Ratka Mladića, dolazi mi predsednik Uzbekistana”
Izvor: Detroitnews ; Foto: Printscreen /Društvene mreže
Dodaj Serbian Times kao svoj Google izvor