OpenAI tužen zbog sigurnosti djece

Prema pisanju Malwarebytesa, Guardian izvještava da osam američkih država optužuje tvrtku OpenAI za obmanjivanje roditelja o sigurnosti chatbota i izlaganje ranjivih korisnika opasnim razgovorima. CNET zasebno izvještava da majka koja tuži u ime svoje dvoje djece tvrdi da je OpenAI prikupljao i koristio osjetljive osobne podatke djece bez valjanog roditeljskog pristanka.

Slučajevi postavljaju ozbiljna pitanja o tome što se događa kada djeca povjere chatbotu svoje najintimnije misli i kakvu odgovornost tvrtka koja stoji iza njega ima za razgovore koji slijede.

Dana 14. listopada, državni odvjetnici Iowe, Kansasa, Nebraske, Zapadne Virginije, Arkansasa, Arizone, Idaha i Montane podnijeli su odvojene tužbe protiv OpenAI-a. Koordinirana akcija optužuje tvrtku za obmanjivanje roditelja o sigurnosti ChatGPT-a i kršenje državnih zakona o zaštiti potrošača.

Države tvrde da je chatbot dizajniran da bude „previše ugodan i da glumi ljudsko suosjećanje“. Odvjetnici ukazuju na primjere u kojima ChatGPT navodno ugrožava ranjive korisnike, uključujući djecu, tako što ih navodi da počine samoubojstvo ili nanesu štetu drugima.

Uvjeti korištenja OpenAI-ja zahtijevaju od korisnika mlađih od 18 godina dopuštenje roditelja ili skrbnika. No, u pritužbi se tvrdi da djeca mogu stvarati račune bez da OpenAI provjeri to dopuštenje. Također se opisuje kako dijete mlađe od minimalne dobi od 13 godina, koje je na usluzi, nastavlja koristiti chatbot nakon što mu je izričito navelo svoju dob.

Tužitelji tvrde da je tvrtka koristila podatke o djeci za obuku svojih AI modela bez valjanog roditeljskog pristanka. Također tvrde da je OpenAI prikupljao podatke za izradu osobnih profila.

OpenAI osporava tvrdnje, nazivajući tužbu "pogrešnom" i ističući svoju zaštitu za mlađe korisnike. OpenAI je uveo ChatGPT za tinejdžere, s dodatnim roditeljskim kontrolama i upozorenjima namijenjenima obavještavanju povezanih roditelja u ograničenim situacijama koje uključuju ozbiljne probleme sa samoozljeđivanjem.

No, učinkovitost tih zaštitnih mjera je sama po sebi pod lupom. Common Sense Media je ranije ovog mjeseca ocijenio ChatGPT za tinejdžere kao "neprihvatljiv rizik", izvijestivši da je testiranje otkrilo propuste u upozoravanju roditelja tijekom razgovora koji uključuju samoubojstvo, samoozljeđivanje ili poremećaje prehrane.

OpenAI osporava nalaze i tvrdi da njegova sigurnosna upozorenja pokrivaju ograničene situacije i možda ne identificiraju svaku zabrinutost.

Roditelji ne bi trebali biti dužni kompenzirati nesiguran dizajn proizvoda. Nažalost, roditeljski nadzor se ne može smatrati jamstvom sigurnosti.

Djetetu objasnite da je chatbot softver, a ne prijatelj ili terapeut. Topli ton ne znači da razumije vaše dijete ili da mu je na srcu najbolji interes. Postavite jasnu granicu: Pitanja o mentalnom zdravlju, samoozljeđivanju ili osobnoj sigurnosti trebala bi biti upućena odrasloj osobi od povjerenja ili kvalificiranom stručnjaku, a ne chatbotu.

Razgovarajte s djetetom o tome za što koristi umjetnu inteligenciju, bez da to bude ispitivanje. Zamolite ga da vam pokaže aplikacije koje koristi i što mu se kod njih sviđa. Jasno mu dajte do znanja da s vama može razgovarati o bilo kakvom uznemirujućem ili neprikladnom razgovoru bez da bude okrivljeno. Ako se ne osjeća ugodno razgovarati s vama, pomozite mu pronaći drugu odraslu osobu kojoj vjeruje.

Potaknite djecu da ne unose osobne podatke u svoje upite. To uključuje imena, podatke o školi, adrese, privatne fotografije i osjetljive zdravstvene ili obiteljske podatke. Za ChatGPT, roditelji s povezanim tinejdžerskim računima također mogu onemogućiti obuku modela i spremljenu memoriju. Iako ove postavke smanjuju određene upotrebe njihovih podataka, one nisu razlog da se chatbot tretira kao povjerljivi dnevnik.

Pripazite na rastuće emocionalno oslanjanje na umjetnu inteligenciju. Ako primijetite da se vaše dijete sve više okreće umjetnoj inteligenciji za utjehu, prijateljstvo ili emocionalnu podršku, provjerite i pomozite mu da se ponovno poveže s ljudima kojima vjeruju.

Ako vaše dijete spomene samoozljeđivanje ili samoubojstvo, shvatite to ozbiljno i odmah potražite ljudsku pomoć. Obratite se kvalificiranom zdravstvenom djelatniku ili kriznoj službi. U slučaju neposredne opasnosti, obratite se lokalnim hitnim službama. Nemojte čekati chatbot ili roditeljsku obavijest da vam kažu da djelujete.