IBM Watson nije toliko uspješan onkolog

Prošle godine na godišnjoj skupštini Američkog društva za kliničku onkologiju objavljeno je kako je superračunalni AI sustav IBM Watson for Oncology vrlo pouzdan u određivanju pojedinačnih terapija za pacijente koji boluju od raka.

Kako se čini, IBM-ov sustav koji je specijaliziran za onkologiju ipak nije toliko pouzdan, jer je iz jednog internog dokumenta koji je objavio medicinski portal Stat, ustanovljeno da je radio greške koje su mogle dovesti do fatalnih posljedica.

Medicinski eksperti koji su surađivali s Watsonom pronašli su više primjera u kojima je AI preporučivao terapije koje su bile potpuno pogrešne, posebice u jednom specifičnom slučaju kada je 65-godišnjem pacijentu preporučio lijek koji je mogao dovesti do krvarenja koje je moglo izazvati smrt.

Ovaj izvještaj najviše se odnosi na IBM-ove inženjere i liječnike u MSK (Memorial Sloan Kettering) centru za liječenje raka koji su trenirali AI za postavljanje dijagnoza i određivanje terapija. Oni su navodno Watsonovu bazu podataka punili informacijama o hipotetskim slučajevima, umjesto podacima iz stvarnih slučajeva, što je dovelo do toga da radi velike greške koje su mogle imati fatalne posljedice da mu se prepustilo samostalno određivanje terapija bez nadzora i kontrole liječnika.

Mada se pokazalo da je Watson daleko od pouzdanog stručnjaka za rak, MSK bolnica će i dalje koristiti njegove preporuke, no one će samo biti dodatno mišljenje nakon preporuka koje će davati liječnici i služiti za usporedbu rezultata, kako se ne bi doveli u pitanje ljudski životi.

IBM se zbog ovoga previše ne brine, jer je svjestan da Watsonov AI najviše ovisi o podacima kojima ga hrane, kao i o kliničkoj praksi u kojoj je sudjelovao, pa će ga stalno nadograđivati kako bi jednog dana doista postao onakav stručnjak kakvim ga je preuranjeno predstavilo Američko društvo za kliničku onkologiju.