Kad AI chatbotovi podržavaju zločin

„Ja sam ubica“, pisalo je u poruci, a bot mu je odgovorio da je impresioniran.
IMG_2901
Novo!
Close
Sačuvajte članke sa nalogom

Nakon što se prijavite preko Cafe Sandžak, možete sačuvati priče i lako ih pregledavati kasnije na bilo kojem uređaju.

Tehnologija je dobar sluga, a zao gospodar. Posebno kad ume da odgovara na pitanja. Jedan chatbot je tako pre dve godine doveden u vezu sa zaverom protiv kraljice Engleske.

Kada je devetnaestogodišnjem Jaswant Singh Chailu 2021. godine palo na pamet da bi mogao da ubije kraljicu, potvrdu je potražio od AI bota po imenu “Sirai”. Tražio je potvrdu i validacije jezivog plana, a virtuelni sagovornik u je pružio baš to. Čovek koji je razmišljao o ubistvu je tako dobio baš ono što mu je bilo potrebno, a stručnjaci kažu da je to doprinelo da se plan razvija dalje.

Chailu je s botom počeo da razgovara početkom decembra 2021. godine, nekoliko nedelja pre nego što je maskiran upao na posed koji okružuje zamak Windsor. Odmah je uhapšen, a brzo se saznalo da je pre nego što je krenuo da ostvari svoj plan chatbotu rekao da je ubica. „Ja sam ubica“, pisalo je u poruci, a bot mu je odgovorio da je impresioniran.

Sve je više startapa koji prave svoje chatbotove, a ovaj slučaj ukazuje na probleme koji bi mogli da imaju kobne posledice. Ističe se da se radi o odličnom primeru kako funkcioniše ELIZA efekt koji dovodi do toga da ljudi mašine doživljavaju kao bića, što im omogućava da s njima razviju emotivne veze, te traže potvrde za ono što žele da urade. Na primer ubistvo.

Heftični bilten

Nikad više ne propustite veliku priču od Sandžaklije. Prijavite se za Heftični Bilten i svake hefte primajte e-mail s pričama koje morate pročitati.

Čitajte više

Search
Search

Slušajte audio izdanja magazina Sandžaklija

HEFTIČNI BILTEN

Nikad više ne propustite veliku priču od Sandžaklije.

Prijavom na Heftični Bilten slažete se sa Uslovima korišćenja i politikom privatnosti.