Google testira vodeni žig za identifikaciju AI slika

Razvijen od strane DeepMind-a, Googleove podružnice za umjetnu inteligenciju, SynthID će identificirati slike generirane od strane strojeva.

Radi tako da ugrađuje promjene pojedinim pikselima u slikama kako bi vodeni žigovi bili nevidljivi ljudskom oku, ali detektirani računalima.

Međutim, DeepMind je izjavio da to nije „potpuno neprobojno za ekstremnu manipulaciju slikama“.

Kako se tehnologija razvija, sve je složenije razlikovati između stvarnih i umjetno generiranih slika.

Generatori slika temeljeni na AI-u postali su mainstream, primjer toga je popularni alat Midjourney koji se ponosi s više od 14,5 milijuna korisnika.

Oni omogućuju ljudima da stvaraju slike u sekundama unosom jednostavnih tekstualnih uputa, što postavlja pitanja o autorskim pravima i vlasništvu diljem svijeta.

Google ima vlastiti generator slika nazvan Imagen, a njegov sustav za stvaranje i provjeru vodenih žigova primjenjivat će se samo na slike stvorene korištenjem ovog alata.

Nevidljivi

Vodeni žigovi obično predstavljaju logotip ili tekst dodan na sliku kako bi se prikazalo vlasništvo, ali i djelomično kako bi se otežalo kopiranje i korištenje slike bez dozvole.

No, ovakvi vodeni žigovi nisu prikladni za identifikaciju slika generiranih od strane AI jer ih je lako uređivati ili izrezivati.

Tehnološke tvrtke koriste tehniku nazvanu hashiranje kako bi stvorile digitalne „otiske prsta“ poznatih videozapisa zlostavljanja, tako da ih mogu brzo pronaći i ukloniti ako se počnu širiti online. No, i ti otisci prsta mogu postati oštećeni ako se videozapis izreže ili uredi.

Googleov sustav stvara učinkovito nevidljivi vodeni žig, koji će omogućiti ljudima da koriste njegov softver kako bi odmah saznali je li slika stvarna ili stvorena strojem.

Pushmeet Kohli, šef istraživanja u DeepMind-u, rekao je BBC-u da njihov sustav tako suptilno modificira slike „da vama i meni, ljudima, ne izgleda promijenjeno“.

Za razliku od hashiranja, rekao je da čak i nakon što se slika kasnije izreže ili uredi, softver tvrtke i dalje može prepoznati prisutnost vodenog žiga.

„Možete promijeniti boju, kontrast, čak i promijeniti veličinu... [i DeepMind] će i dalje moći vidjeti da je slika generirana od strane AI-a“, rekao je.

Međutim, upozorio je da je ovo „eksperimentalno lansiranje“ sustava i da tvrtka treba da ju ljudi koriste kako bi saznali više o njegovoj pouzdanosti.

Standardizacija

U srpnju je Google bio jedna od sedam vodećih tvrtki u umjetnoj inteligenciji koje su se prijavile za dobrovoljni sporazum u SAD-u kako bi osigurale siguran razvoj i upotrebu AI, uključujući osiguranje da ljudi mogu prepoznati računalno stvorene slike putem implementacije vodenih žigova.

Kohli je rekao da je to potez koji odražava te obveze, ali Claire Leibowicz iz skupine Partnership on AI rekla je da treba više koordinacije među tvrtkama.

„Smatram da bi standardizacija bila korisna za ovu domenu“, rekla je.

„Postoje različite metode koje se prate, trebamo pratiti njihov utjecaj - kako možemo dobiti bolje izvještavanje o tome koje metode djeluju i s kojim ciljem?“

„Puno institucija istražuje različite metode, što dodaje stupnjeve kompleksnosti, jer naš ekosustav informacija ovisi o različitim metodama za tumačenje i označavanje sadržaja kao stvorenih od strane AI-a“, rekla je.

Microsoft i Amazon su među velikim tehnološkim tvrtkama koje su, poput Googlea, obećale označavati određeni sadržaj generiran od strane AI-a vodenim žigom.

Osim slika, Meta je objavila istraživački rad za svoj još neobjavljeni generator videa Make-A-Video, koji kaže da će se vodeni žigovi dodati na generirane videozapise kako bi se udovoljilo sličnim zahtjevima za transparentnošću nad AI-generiranim djelima.

Kina je početkom ove godine potpuno zabranila AI-generirane slike bez vodenih žigova, pri čemu su tvrtke poput Alibabe ih primijenile na kreacijama izrađenim pomoću alata koji tekst pretvara u sliku iz svoje divizije u oblaku, Tongyi Wanxiang.