Nova AI metoda za sigurnosne kritične situacije

Istraživači s američkog tehnološkog instituta MIT, razvili su novu tehniku ​​koja pomaže generativnim modelima umjetne inteligencije da pronađu rješenja za probleme s visokim ulozima.

U ovim okruženjima, uvjerljiv odgovor nije dovoljan: Izlaz često mora zadovoljiti i nepregovarajuće sigurnosne, fizičke ili specifične zahtjeve zadatka, poznate kao "tvrda ograničenja".

Istraživači su razvili metodu koja pomaže generativnim modelima da ispune te stroge zahtjeve bez žrtvovanja kvalitete svojih rezultata.

Ključ njihove tehnike je dati modelu više slobode tijekom procesa generiranja i nametnuti stroga ograničenja na konačni izlaz, umjesto u svakom međukoraku.

U eksperimentima koji obuhvaćaju robotiku, kontrolu fizičkih procesa i računalni vid, nova metoda je dosljedno zadovoljavala potrebna ograničenja, a istovremeno je identificirala bolja rješenja od postojećih tehnika.

Ova prilagodljiva, "plug-and-play" tehnika funkcionira u trenutku implementacije, tako da se može primijeniti na prethodno obučene generativne modele bez njihovog ponovnog treniranja. Takve modele može učiniti korisnijima u primjenama gdje se sigurnosna pravila, fizikalni zakoni ili drugi strogi zahtjevi ne smiju kršiti.

Istraživači su razvili algoritam pod nazivom HardFlow koji upravlja procesom uzorkovanja tako da konačni izlaz zadovoljava korisnikova stroga ograničenja bez prevelikih restrikcija i da je više kvalitete.

HardFlow preformulira uzorkovanje s ograničenim uvjetima kao problem optimizacije putanje, koristeći alate iz područja optimalnog upravljanja. To omogućuje okviru da usmjerava putanju uzorkovanja modela prema cilju, praveći suptilne korekcije tijekom procesa, a istovremeno namećući stroga ograničenja na konačni izlaz.

Kako bi problem učinili rješivim, istraživači su iskoristili strukturu modela usklađivanja toka kako bi problem rastavili na niz manjih, jednokoračnih podproblema.  Zatim su primijenili sustavne transformacije i aproksimacije kako bi izveli učinkovit, skalabilan algoritam koji i dalje pronalazi izvedivo rješenje.

Preformuliranje zadatka kao optimizacijskog problema omogućuje HardFlowu uključivanje dodatnih ciljeva koji mogu poboljšati kvalitetu konačnog odgovora. Na primjer, HardFlow bi mogao pronaći put bez sudara za robota koji je ujedno i najkraća udaljenost do njegovog cilja.

Kroz eksperimente u robotskoj manipulaciji, navigaciji labirintima i uređivanju slika vođenim tekstom, HardFlow je postigao savršeno zadovoljenje ograničenja, a istovremeno je dosljedno nadmašivao osnovne metode u mjerama kvalitete rješenja.

Na primjer, omogućilo je robotskom manipulatoru da izbjegne sudare s preprekama, a istovremeno pronađe najbrži put do ciljnog objekta. Većina drugih metoda rezultirala je ili sudarima ili je pronašla putove koji su trajali znatno dulje.

Osim toga, vrijeme izračuna HardFlowa bilo je usporedivo ili kraće od vremena većine konkurentskih metoda.

U budućnosti bi istraživači mogli proširiti okvir na postavke u kojima se i sam model umjetne inteligencije može ažurirati, tako da se zadovoljstvo ograničenjima i kvaliteta uzorka mogu poboljšati na prilagodljiviji način.

Čitav rad istraživača MIT-a možete pronaći na ovoj poveznici.