IBM腫瘤醫生「沃森」被曝不好用,醫療AI前景堪憂?

IBM腫瘤醫生「沃森」被曝不好用,醫療AI前景堪憂?

來自專欄知識分子32 人贊了文章

?韓國第一位接受沃森腫瘤輔助治療的癌症患者,正和嘉川大學吉醫學中心的腫瘤專家一起瀏覽自己的疾病信息。來源:嘉川大學吉醫學中心

編者按:

最近,IBM公司用於輔助醫生設計癌症治療方案的AI產品沃森被曝出諸多問題,包括可能開出危險和錯誤的癌症治療方案。這會對醫療AI行業產生什麼樣的影響?從事醫療AI研究或產業化的幾位專家表達了他們的看法。

撰文 | 蔣海宇

責編 | 陳曉雪

● ● ●

「這個產品非常糟糕。我們當時為了醫院推廣購買這個產品,希望它能實現IBM宣稱的願景。結果大多數情況下,它根本沒用。」美國佛羅里達朱皮特醫療中心(Jupiter Medical Center)的一名醫生,當著IBM高管的面,這樣評價他們的沃森腫瘤(Watson for Oncology)。

對,就是那個曾被看好,也激起許多爭議的醫療輔助人工智慧系統沃森。沃森腫瘤的使用非常簡單:只需將患者個人信息(比如病歷、成像報告等)輸入系統,系統便基於大量的醫學研究、醫學指南、臨床試驗等信息,推薦合適的治療方案,供醫生參考。

7月25日,美國健康醫療媒體STAT曝出,IBM公司的內部文件顯示,用於輔助醫生設計癌症治療方案的AI產品沃森問題不小:除了上面那種來自用戶的抱怨,還會開出危險和錯誤的癌症治療方案。

沃森腫瘤是IBM在醫療人工智慧領域的重要產品,能夠根據患者病歷等信息提供包括乳腺癌、肺癌、直腸癌、結腸癌等多種癌症的治療方案,合作者有紀念斯隆-凱特琳癌症中心 (Memorial Sloan Kettering Cancer Center)、梅奧醫院(Mayo Clinic)、奎斯特診斷公司(Quest Diagnostics)等醫療領域的著名機構。根據其中國代理公司官網,國內已經有20多個省的近80家醫院引進沃森腫瘤會診中心。

IBM」家醜」被泄

STAT收到的內部文件,是時任IBM 沃森醫療部門執行健康官(Health』s deputy chief health officer)Andrew Norden於2017年夏天,在公司內部報告上用的幻燈片。

據STAT的報道,IBM在這份報告里,對沃森的批評毫不留情,要點包括:

△沃森系統的訓練,使用的不是真實患者的數據,而是假想患者的假想數據

訓練數據不夠。幻燈片展示了八種癌症。截至報告發布當天,訓練數據量最高的肺癌只有635例,而最低的卵巢癌只有106例。

△訓練沃森時,對假想患者推薦的治療方案,是基於紀念斯隆-凱特琳癌症中心專家的方案,而非醫療指南或真實證據

△在對假想情形進行試驗時,沃森開出了不合適且危險的治療方案。比如,它為一個顯示有可能正嚴重出血的肺癌患者,推薦同時使用化療和安維汀。然而,安維汀可能引起嚴重的出血,不應推薦給已經出血的患者。

△用來評估沃森系統和癌症專家間方案相似性的實驗,可能有偏向性,使兩種方案很容易相同。

人工智慧公司 Nara Logics的CEO Jana Eggers在接受STAT採訪時指出,沃森系統顯然沒有使用醫療系統中的大數據,「我搞不懂,明明有真人的真實數據,為什麼他們還要生造出一堆幻想的病人出來?」

一些專家認為,如果這些假想數據對真實患者狀況有代表性,也能很好地訓練沃森。不過,「我們還需要看到數據有代表性的證據」,斯坦福大學生物信息研究中心副教授Jonathan Chen說。

事實上,對沃森的質疑從未斷過。早在去年2017年,STAT就發表過一份對沃森醫療人工智慧系統的調查,對上述問題都有提及。原IBM 沃森研究中心的Claudia Perlich教授,在2017年接受美國科技媒體Gizmodo採訪時,更直言沃森醫療是「小兒科」,「我們數據科學共同體的認知是,沃森能做的,你都應該可能找到免費軟體來實現,或者自己做一個。」

此次的內部文件,更多是暴露了IBM自身對沃森局限性的認知。

今年5月,IBM對其沃森醫療部門進行裁員。IBM發言人Ian Colley告訴電氣電子工程師學會(IEEE),只有少量沃森醫療部門工作人員被裁掉,裁員也只是部門精簡的一部分。然而,被裁掉的一名工程師透露,大約有80%的員工被迫離職。「離職的都是重要技術人員,以及和客戶面對面打交道的人,可不是無關緊要的行政人員。」這名工程師說。

推薦治療並非主流

人工智慧在醫療中有很多應用場景,包括醫學影像、基因組信息處理、藥物研發、健康數據管理、導診機器人等等。臨床診療方面的應用對現有醫療實踐影響最顯著,所以最受關注。沃森腫瘤這種試圖根據患者信息,推薦治療方案的應用,只是其中一種,也不是主流。

目前在臨床方面,醫療人工智慧多與醫學影像相關,著重在為醫生提供各式工具,或優化已有影像工具,以幫助他們診斷或治療。

比如,人工智慧診斷工具可以從醫學影像中識別人眼看不見,或者容易看漏的病灶。在這方面,根據CT影像識別肺結節篩查肺癌,是目前最常見的應用之一。

?利用機器學習,識別肺結節。圖片來源:Vatsal Sodha, Medium

也有團隊在用機器學習提升醫學影像的成像速度和質量。照過X光片的人,可能記得,醫生會讓病人屏住呼吸。這樣做的目的,是為了防止呼吸運動影響成像。X光成像只需幾秒鐘,但正電子發射計算機斷層掃描(PET)通常要進行十幾分鐘,就不是屏住呼吸能解決的了。目前很多研究團隊,通過自動門控技術,修復呼吸對PET成像的影響。

?原始PET成像(a)和使用自動門控技術糾偏過的PET成像(b),(b)圖的偽影更少了。圖片來源:Walker et al. 2018。

人工智慧也可將2D影像變成3D影像,幫助外科醫生進行手術。清華大學廖洪恩教授帶領的微創診療與三維影像實驗室,將醫學圖像智能化分析運用在血管內介入手術,讓醫生能看見手術導管在血管里的具體位置。他們的評估顯示,影像中導管形狀與實際導管的誤差僅為2.23 ± 0.87 毫米(Chen et al. 2017)。目前該研究還在進行動物實驗。除此之外,他們還將該技術用於骨科移植,讓醫生能看見患者股骨的三維形態,幫助醫生匹配合適的植入物。

?血管內介入手術示意圖

(來源:Capture Vascular, YouTube)

還有一些應用,中國科學院自動化研究所研究員田捷告訴《知識分子》,是通過人工智慧幫助患者避免不必要的手術。外科大夫在為結直腸癌病患做手術前,會為患者做一個輔助化療,以控制癌症的發展,之後再進行手術。一部分病患在輔助化療以後,病情已經完全緩解,但醫生無法判斷患者體內是否還有癌細胞。田捷介紹,他所在研究所和北大腫瘤醫院的合作研究,通過分析醫療影像,有90%的把握把那些已經緩解的患者篩選出來,免受開刀。

北美放射醫學大會這樣描述未來的醫學影像中心:「醫學影像中心就像飛機駕駛艙一樣,是各種各樣信息的綜合體;而未來的醫生則相當于飛行員,要處理各種各樣的信息」。田捷很贊同這個說法,並補充道,「在我看來,AI不會替代醫生,只會更有效地輔助醫生。而醫生也不應懼怕新興技術,而是積極地去利用它,使用它。」

醫療人工智慧商業前景不明

從實驗室里的人工智慧研究,到實驗室外的商業化產品,過程並不簡單。億歐智庫的一項統計顯示,11家千萬級以上的醫療人工智慧企業中,有7家都與醫療影像相關。現在已經有多家公司進駐各大三甲醫院。這些產品主要利用目標識別,針對某個疾病,輔助診斷疾病。

由於目前的人工智慧產品都只針對單項任務,對醫生的幫助有待觀察。比如,騰訊覓影針對肺部的影像,識別肺結節。「醫生看片時不只找出結節,還需對結節定性。另外,我們肺里還有其他病變,比如:還可能有梗塞,可能還有支氣管擴張,還有肺的纖維化等。」廣東省人民醫院影像醫學部主任兼放射科主任梁長虹指出,「如果系統能把五、六種常見病的查找結合在一起,那將滿足胸片閱讀工作90%以上,才基本上能說幫助到我們醫生,減輕我們的負擔。」

談到此次沃森腫瘤問題被曝,東軟醫療首席科學家黃峰認為,IBM的問題不會影響到中國的相關產業。「人工智慧的作用是多方面的,IBM選擇了風險最大的應用。國內企業要務實的多。」黃峰說。

目前來看,醫療人工智慧的商業前景還不明朗。「我認為他們現在還缺乏比較好的商業模式,基本都沒有產生盈利,基本上還在探索商業模式及利用數據完善產品。」梁長虹說,「現在基本上是把系統給到醫院,利用醫院的現有數據,對系統進行訓練。」在這個意義上,目前人工智慧對醫院數據的依賴,要大於醫院對人工智慧系統的需求。

「人工智慧輔助診療系統尚未獲批正式用於臨床。用於臨床之前,它們需要通過葯監局的安全性和有效性的審批。而目前為止,沒有任何一個系統得到審批。」田捷說。

參考文獻:

1. IBM』s Watson supercomputer recommended 『unsafe and incorrect』 cancer treatments, internal documents show, STAT,statnews.com/2018/07/25

2. Layoffs at Watson Health Reveal IBM』s Problem With AI, IEEE, spectrum.ieee.org/the-h

3. Why Everyone Is Hating on IBM Watson—Including the People Who Helped Make It, Gizmodo, gizmodo.com/why-everyon

4. Chen, Fang, Jia Liu, and Hongen Liao. "3D Catheter Shape Determination for Endovascular Navigation Using a Two-Step Particle Filter and Ultrasound Scanning." IEEE transactions on medical imaging 36, no. 3 (2017): 685-695.

5. Walker, Matthew D., Kevin M. Bradley, and Daniel R. McGowan. "Evaluation of principal component analysis-based data-driven respiratory gating for positron emission tomography." The British journal of radiology 91, no. 1085 (2018): 20170793.

6.《2018中國醫療人工智慧發展研究報告》,億歐智庫,2018

製版編輯 | 皮皮魚

本頁刊發內容未經書面許可禁止轉載及使用

公眾號、報刊等轉載請聯繫授權

copyright@zhishifenzi.com

商務合作請聯繫

business@zhishifenzi.com

知識分子為更好的智趣生活 ID:The-Intellectual


推薦閱讀:

智庫解析個性化醫療
這兩隻猴子讓國內外媒體炸了 未來可能帶來醫療革新?!
睡前消息【18-07-13】沒啥好事
IVD體外診斷行業科普

TAG:醫療 | 健康 | 人工智慧 |