Tim za istraživanje katastrofičnih AI rizika

Tim nazvan Preparedness vodit će Aleksander Madry , direktor MIT -ova Centra za primjenjivo strojno učenje . (Madry se pridružio tvrtki OpenAI u svibnju kao „voditelj tima Preparedness“ , prema LinkedInu .) Glavne odgovornosti tima Preparedness bit će praćenje, predviđanje i zaštita od opasnosti budućih AI sustava, uključujući njihovu sposobnost uvjeravanja i zavaravanja ljudi (kao u phishing napadima) i sposobnosti generiranja zlonamjernog koda.
Neki od kategorija rizika koje je tim Preparedness zadužen za proučavanje čine se nešto nevjerojatnijima od drugih....
- Objavljeno u Svijet










