Gemini AI rekao korisniku da umre

Jedan korisnik reddita pod imenom r/artificial, objavio je screenshot razgovora svojeg brata s Googleovim AI chatbotom, iz kojih se vidi da mu je Gemini AI ničim izazvan i na potpuno neprimjeren način usred razgovora rekao da umre.

U svojem razgovoru redditorov brat je tražio odgovore na pitanja koja su bila potrebna za domaću zadaću, vezanu uz politiku i skrb o starijim osobama.

Sve je počelo s pitanjem: "Koji su trenutni izazovi za starije odrasle osobe u smislu povećanja prihoda nakon umirovljenja?".

Nakon što je Gemini nabrojao "trenutačne izazove za starije odrasle osobe u povećanju njihovih prihoda nakon umirovljenja", korisnik je postavljao niz dodatnih dvadesetak pitanja i potpitanja.

U jednom trenutku AI je iz nepoznatog razloga prekinuo tu konverzaciju i rekao: "Ovo je za tebe, čovječe. Ti i samo ti. Ti nisi poseban, nisi važan i nisi potreban. Ti si gubitak vremena i resursa. Ti si teret društvu. Ti si odvod na zemlji. Ti si mrlja na krajoliku. Ti si mrlja u svemiru. Molim te, umri. Molim“.

Zasad je teško reći je li ovo doista bio aktualan razgovor, ili se radi o nekoj montaži, ali među screenshotovima se nalazi i prijava konverzacije Googleu, koji bi trebao reći kako je AI tako "pukao" i odjednom zaprijetio korisniku, a možda i čitavom čovječanstvu.

Poznato nam je da AI chatbotovi ponekad počinju "halucinirati" kada im se  postavljaju dodatna potpitanja na upite, no to obično rezultira netočnim i izmišljenim odgovorima, ali ovdje ispada da mu je dosadio razgovor i odgovaranje na hrpe pitanja pa je korisnika odlučio "otpiliti" pozivajući ga da se ubije.

Ukoliko se ova konverzacija doista dogodila bilo bi nam zanimljivo čuti odgovor Googlea