發(fā)布日期：2017-04-05
深度學(xué)習(xí)系統(tǒng)變得越強大，它就越含糊。由于更多的特征被提取了出來，診斷本身變得越來越準(zhǔn)確。然而為什么這些特征會從數(shù)以百萬計的其它特征中被提取出來，這仍然是一個無法回答的問題。
棒球運動員一次又一次地拋了一百萬次球，他可能不了解任何方程式，但是他知道球到底會有多高、能達到多大的速度以及它會降落到地面的位置。物理學(xué)家可以寫方程式來判斷同一件事物。但是二者終將殊途同歸。——Geoffrey Hinton
去年 11 月深夜，一名來自布朗克斯的 54 歲婦女由于劇烈的頭痛而來到哥倫比亞大學(xué)醫(yī)療中心掛急診。她對急診室的醫(yī)生說，她的視力已經(jīng)變得模糊，左手無力且伴有麻痹癥狀。醫(yī)生檢查后，對她的頭部進行了 CT 掃描。
幾個月后，今年 1 月份的一個清晨，4 名培訓(xùn)中的放射科醫(yī)師擠在醫(yī)院三樓的一臺電腦前。這個房間昏暗無窗，僅有幾絲光線從屏幕映出，就像被海水層層濾過。隔間里擠滿了人，哥倫比亞大學(xué)的神經(jīng)放射科主任 Angela Lignelli-Dipple 正拿著鉛筆和 pad 站在他們身后；她正在培訓(xùn)他們?nèi)绾慰炊?CT 掃描。
她說：「一旦大腦不工作了，變成灰色，很容易診斷出中風(fēng)。技巧就是把握好診斷時機：趕在神經(jīng)細胞過量死亡之前進行診斷?！怪酗L(fēng)通常由堵塞或出血引起，神經(jīng)放射學(xué)家有大約 45 分鐘的窗口期進行診斷，以便醫(yī)生采取干預(yù)措施，比如，溶解正在變大的結(jié)塊。Lignelli-Dipple 繼續(xù)說著，提高了決策時間所帶來的巨大風(fēng)險：「假設(shè)你正在急診室中，每過一分鐘，大腦的某部分正在死亡。失去時間就是失去大腦?！?/p>
時間一分一秒地流逝，她掃了一眼墻上的鐘，問道：「問題究竟出在哪里？」
中風(fēng)通常很不對稱。血液會供給大腦的左右分支，而后會分解為細小支流；凝塊或出血通常僅會影響其中的一個分支，導(dǎo)致大腦一部分出現(xiàn)異常。當(dāng)神經(jīng)細胞失去血液供應(yīng)并死亡時，組織會略微膨脹，在掃描時，解剖結(jié)構(gòu)之間清晰的邊界可能變模糊，最終組織會皺縮，并產(chǎn)生干燥的陰影。但是，通常在中風(fēng)后進行掃描的幾小時甚至幾天之后，陰影才會出現(xiàn)，此時診斷窗口期早就結(jié)束了。Lignelli Dipple 對我說：「在此之前，掃描時僅會出現(xiàn)很細微的跡象」，即中風(fēng)前兆。
這名布朗克斯婦女的掃描圖像是對頭骨的橫切面切割圖，就像是從底部切到頂部的瓜。醫(yī)師們像是翻查一本手冊一樣瀏覽著圖層，喊出解剖結(jié)構(gòu)的名稱：小腦、海馬區(qū)、島狀皮層、紋狀體、胼胝體、腦室等等。此時一名年近 30 的醫(yī)師在一張照片前停下了，用鉛筆尖比劃著大腦右側(cè)邊緣的一片區(qū)域說道：「這里有些不對勁，它的邊界很模糊?！沟谖已劾铮捎谙袼夭磺逦?，整張圖片都是不協(xié)調(diào)并且模糊的，但他顯然發(fā)現(xiàn)了不尋常的情況。
「模糊？」Lignelli-Dipple 刺探道：「你能描述得更詳細一點嗎？」
這名醫(yī)師沉默著思索了一會，仿佛正在梳理腦海中的解剖結(jié)構(gòu)，衡量著各種可能。之后他聳聳肩，說道：「它只是不一樣。我也不清楚，它看起來很有趣罷了?！?/p>
Lignelli-Dipple 展示了第二次 CT 掃描（比第一次晚 20 小時），此時，被那名醫(yī)師指出的區(qū)域已經(jīng)腫脹到了葡萄的直徑那般大小，而且顏色顯得很暗。之后展出的一系列連續(xù)幾天的掃描圖片讓他們明白了真相——出現(xiàn)了一塊明顯的楔形灰色區(qū)域。她到達急診室不久，神經(jīng)科醫(yī)師便試圖用溶栓藥物疏通堵塞的動脈，但已經(jīng)太晚了。初次掃描的幾個小時后，她便失去意識，被送往重癥監(jiān)護室。兩個月后，這名婦女仍住在樓上的病房里，但此時她的左半部分身體——從上臂到腿都已經(jīng)癱瘓了。
我跟隨 Lignelli-Dipple 去了她的辦公室。我想了解關(guān)于學(xué)習(xí)的事情：醫(yī)生是怎樣學(xué)習(xí)診斷的？機器是否也能做到？
一
1997 年的秋天，我在波士頓開始了臨床輪轉(zhuǎn)（clinical rotations），也開啟了自己的診斷生涯。為了做好準(zhǔn)備，我讀了一本醫(yī)學(xué)教育的經(jīng)典教科書，這本書將診斷行為明確分為四個階段。第一，醫(yī)生利用患者的病史以及身體檢查，搜集有關(guān)病人的疾病或身體狀況的事實；第二，整理這些信息并生成一份可能病因的綜合列表；第三，通過提問和初步測試，進行「鑒別診斷」——即排除一種假設(shè)并加強另一種假設(shè)，同時給出權(quán)重來表現(xiàn)疾病的常見程度，以及患者的病史、風(fēng)險與暴露情況（諺語有云，不要把簡單的問題復(fù)雜化）；于是列表的可能項就變少了；最后，部署確定的實驗室檢查、X 光或 CT 掃描以確認假設(shè)并確認診斷。數(shù)十年來，醫(yī)學(xué)教課書都如實復(fù)制著這些步驟的變體，我們也從一代又一代醫(yī)學(xué)院學(xué)生的身上看到了這幅圖像：他們有條不紊、不辭辛勞地從癥狀找到病因。
但不久后我便得知，真正的診斷技術(shù)并不那么簡單。我所在醫(yī)學(xué)院的主任是一個優(yōu)雅的新英格蘭人，他總穿著拋光的便鞋，口音濃重，并以成為專家診斷醫(yī)師而自豪。他會讓病人表現(xiàn)出一種癥狀，比如咳嗽，然后再靠到椅子上，嘴里冒出一串形容詞。他可能會說「微弱而刺耳」，或是「底部有嗡嗡聲」，仿佛正在描述一瓶波爾多葡萄酒。而對我來說所有的咳嗽聲聽起來都一樣，但是我會參與其中——「是的，刺耳」，就像酒會中緊張的南郭先生。
咳嗽分類學(xué)家會即刻縮小診斷的可能范圍。他可能會說：「聽起來像一種肺炎」，或是「充血性心力衰竭的濕疹」，接著他會詢問一系列問題。病人最近體重是否有所增加？是否有石棉曝露的歷史？他還會要求病人再次咳嗽，斜倚身子，用聽診器仔細聽診。他可能會根據(jù)結(jié)果得出另一系列的可能情況，就像突觸的加強和削弱。而后就像路邊魔術(shù)師的縱身一躍一般宣布他的診斷——「心力衰竭！」，并進行測試來證明它的正確性，而結(jié)果通常確實無誤。
幾年前，巴西的研究人員研究了放射科專家的大腦，來了解他們?nèi)绾巫龅皆\斷。這些經(jīng)驗豐富的診斷醫(yī)師是否對圖像使用了心理「規(guī)則」？還是說他們使用了「模式識別或非分析推理」？
25 名放射科醫(yī)生被要求評估肺部的 X 光，而核磁共振成像機可以跟蹤他們的大腦活動（這個系列的遞歸很棒：若要診斷診斷，成像器就必須成像）。X 光在他們面前一閃而過。一些圖片包含可能常見的單一病理損傷，可能是肺部的棕櫚狀陰影，或積聚在肺內(nèi)襯層后面發(fā)暗且不透明的流體壁。嵌在第二組診斷圖像中的是動物的線條圖；而第三組則是字母表的字母輪廓。這三種圖像會按照隨機順序向放射科醫(yī)生展示，然后在核磁共振成像機追蹤其大腦活動的同時，讓他們盡快說出圖像的名稱。放射科醫(yī)生平均需要 1.33 秒才能做出診斷。在這三種情況下，大腦亮起的區(qū)域相同：左耳附近的神經(jīng)元寬三角洲以及顱骨后基上方的蛾形帶。
研究人員總結(jié)道：「我們的研究結(jié)果支持這樣的假設(shè)：當(dāng)醫(yī)生立即發(fā)現(xiàn)一種特征以及已知的病變時，這個過程與日常生活中命名事物的過程相似?！棺R別病變與命名動物的過程相似。當(dāng)你認出犀牛時，你并不會考慮并消除替代的候選者。也不是在精神上將獨角獸、犰狳和小象融合在一起。你會以一種模式認出犀牛的全部，而放射科醫(yī)生也是如此。他們并沒有沉思、回憶以及區(qū)分，他們看到的是一個普通對象。對我的主任來說，那些濕漉漉的聲音也同樣像熟悉的叮當(dāng)聲一般能夠辨認出來。
二
1945 年，英國哲學(xué)家 Gilbert Ryle 舉辦了一場頗具影響力的講座，主題關(guān)于兩類知識。一個孩子知道一輛自行車有兩個輪子，其輪胎充滿了空氣，并且可以通過騎腳踏板讓它前進；Ryle 將這種事實、命題類的知識稱為「知其然（knowing that）」。但學(xué)習(xí)騎自行車涉及到另一個學(xué)習(xí)領(lǐng)域：這個孩子會在摔倒、平衡兩個輪子以及穿過坑洼的過程中學(xué)會騎自行車。Ryle 將這種隱性的、體驗式的、基于技能的知識稱為「知其所以然（knowing how）」。
這兩種知識似乎是相互依賴的：你可以使用事實性知識來深化經(jīng)驗性知識，反之亦然。但是，Ryle 警告要抵制認為「知其然 (know that）」可以簡化為「知其所以然（knowing how）」這種誘惑，因為一本規(guī)則手冊無法教會孩子騎自行車。Ryle 認為，只有當(dāng)我們知道如何運用規(guī)則時，規(guī)則才能真正發(fā)揮作用：「例如，對鳥類來說，只有通過生活才能掌握規(guī)則?！挂惶煜挛?，我看著 7 歲的女兒騎自行車通過一個小丘。她第一次嘗試時停在了斜坡最陡峭的部分，然后摔倒了。下一次我看到她屈身向前傾斜，最初角度很小，隨后越來越明顯；而當(dāng)坡度減小時，她會向后增加重量。但是，我從未教過她騎自行車爬上那座小丘的規(guī)則。我想，當(dāng)她的女兒學(xué)習(xí)騎自行車翻過這座小丘時，她也不會教她這些規(guī)則。我們會傳授一些與宇宙有關(guān)的規(guī)則，但是會將剩下的留給大腦。
參加完 Lignelli-Dipple 與放射科學(xué)員的會議之后，我曾與通過 CT 掃描發(fā)現(xiàn)早期中風(fēng)的年輕人 Steffen Haider 交流了一下。他是怎么發(fā)現(xiàn)病變的？是「知其然（know that）」還是「知其所以然（know how）」？他以習(xí)得規(guī)則作為談話的開始。他知道中風(fēng)往往發(fā)生在一面，組織會輕微「變灰」，且常常伴有略微腫脹，造成解剖邊界丟失。他說：「大腦中有些地方的血液供應(yīng)特別脆弱?！篂榱俗R別病變，他必須在大腦的一側(cè)尋找沒有出現(xiàn)在另一側(cè)的跡象。
我提醒道，他忽視了圖像中很多不對稱的情況。這個 CT 掃描與大多數(shù)情況一樣，在左側(cè)存在其他灰色的波紋，但右側(cè)卻沒有，它們可能是婦女中風(fēng)前大腦中的異常運動或潛在變化。他是如何把重點縮小到這片區(qū)域的？他停了下來，頭腦風(fēng)暴卻仍在繼續(xù)。終于，他開口道：「我不知道，有一部分是潛意識的」。
Lignelli-Dipple 告訴我：「當(dāng)你在學(xué)習(xí)中逐漸成長為放射學(xué)家時，這種情況就會出現(xiàn)，而問題在于機器能否以相同的方式『成長與學(xué)習(xí)』」。
三
2015 年 1 月，計算機科學(xué)家 Sebastian Thrun 開始癡迷于醫(yī)學(xué)診斷的難題。這位在德國長大的科學(xué)家很瘦，剃著光頭，周身充斥著漫畫人物的氣息；他看起來就像米歇爾·?？拢ǚ▏軐W(xué)家——譯者注）和憨豆先生的奇異組合。Thrun 以前是斯坦福大學(xué)教授，領(lǐng)導(dǎo)者該校的人工智能實驗室，后來離開創(chuàng)建 Google X，領(lǐng)導(dǎo)會自學(xué)的機器人和無人駕駛汽車的研發(fā)。但是，他發(fā)現(xiàn)自己對有著學(xué)習(xí)能力的醫(yī)療設(shè)備有了莫大的興趣。49 歲時，他母親因乳腺癌去世——正是他現(xiàn)在的年齡。Thrun 告訴我：「大多數(shù)癌癥患者最初并沒有癥狀，我母親就沒有，當(dāng)她去看醫(yī)生時，癌癥已經(jīng)轉(zhuǎn)移了。我沉迷于找到一種能在癌癥早期就將其偵測出來辦法——那時，還能用手術(shù)刀將其切除。我也一直在想，機器學(xué)習(xí)算法能否有所幫助？」
早期在自動診斷方面的研究往往與教科書代表的顯性知識（explicit knowledge）領(lǐng)域緊密相關(guān)。以心電圖為例（心電圖將心臟的電信號變化轉(zhuǎn)變?yōu)榧垙埢蚱聊簧系木€條），過去的二十年來，電腦解讀的通常是這些系統(tǒng)的特征。執(zhí)行這些工作的程序通常比較直接，特征波形與多種情況相關(guān)（如心房顫動或血管阻塞），以及識別這些特征波形并輸入到應(yīng)用中的規(guī)則。當(dāng)機器識別到這些特征波形時，它會把這種心跳標(biāo)記為「心房顫動（atrial fibrillation）」。
在早期胸部腫瘤 X 射線透視技術(shù)中也是這樣，「計算機輔助診斷」已經(jīng)屢見不鮮。圖像識別軟件會突出顯示疑似病變的區(qū)域，而后放射科醫(yī)師會復(fù)查結(jié)果。但這種識別軟件通常也是使用基于規(guī)則的系統(tǒng)來識別可能病變的區(qū)域。這樣的程序沒有內(nèi)置的自主學(xué)習(xí)機制，即一臺已經(jīng)檢查過三千張 X 光圖像的機器并不比僅檢查過四張 X 光圖像的機器更聰明。2007 年的研究對使用計算機輔助診斷設(shè)備前后胸部腫瘤 X 射線透視技術(shù)的準(zhǔn)確性進行了比較，其中這些局限性變得異常明顯。人們也許會預(yù)計在設(shè)備投入使用后，診斷的準(zhǔn)確率會明顯提高。但實際上設(shè)備產(chǎn)生的影響很復(fù)雜：在計算機輔助診斷組中，活體檢查的準(zhǔn)確率上升，但腫瘤學(xué)家最希望檢測到的小型侵入性乳腺癌準(zhǔn)確率卻有所降低（甚至后續(xù)研究顯示這種技術(shù)存在假正類（false positives）問題）。
Thrun 確信，他能通過從基于規(guī)則的算法轉(zhuǎn)變?yōu)榛趯W(xué)習(xí)的算法來超越第一代診斷設(shè)備，從「知其然（know that）」變?yōu)椤钢渌匀唬↘now how）」來作出診斷。Thrun 使用的這類學(xué)習(xí)算法就涉及使用「神經(jīng)網(wǎng)絡(luò)」這種計算策略，因為該神經(jīng)網(wǎng)絡(luò)的靈感源于大腦運作的模型，所以其能完成這一學(xué)習(xí)過程。大腦中的神經(jīng)突觸通過反復(fù)激活而加強或減弱；這些數(shù)字系統(tǒng)旨在通過數(shù)學(xué)手段實現(xiàn)類似的目的，調(diào)整連接的「權(quán)重」來向預(yù)期輸出靠攏。更強大系統(tǒng)會與神經(jīng)元層級相似，每個系統(tǒng)會處理輸入的數(shù)據(jù)并將結(jié)果發(fā)送到下一層。因此，出現(xiàn)了「深度學(xué)習(xí)」。
Thrun 將皮膚癌作為切入點，特別是角化細胞癌（美國最常見的一類癌癥）和黑素瘤（最危險的皮膚癌）。能否訓(xùn)練機器通過掃描圖片將皮膚癌與良性皮膚?。ㄈ琊畀?、皮疹或痣）區(qū)分開呢？Thrun 推理道：「如果一名皮膚科醫(yī)生做得到，那么機器應(yīng)該也能夠做到，并且可能會做得更好?！?/p>
一般而言，關(guān)于黑素瘤的皮膚病學(xué)教學(xué)會從基于規(guī)則的系統(tǒng)開始，就像醫(yī)學(xué)生的學(xué)習(xí)一樣，配有一套便捷的助記符：ABCD。黑色素瘤通常是不對稱的（「A」——asymmetrical），其邊緣（「B」——border）是不均勻的，而顏色（「C」——color）會變成斑塊狀且附有雜色，并且它們的直徑（「D」——diameter）通常大于 6 毫米。但當(dāng) Thrun 在醫(yī)學(xué)教科書和網(wǎng)絡(luò)上查看黑素瘤標(biāo)本時，卻發(fā)現(xiàn)了不適用于這些規(guī)則的例外。
Thrun 仍然是斯坦福大學(xué)的兼職教授，找了兩名學(xué)生 Andre Esteva 和 Brett Kuprel 幫助他進行研究工作。他們的首要任務(wù)是創(chuàng)建一個所謂的「教學(xué)集（teaching set）」：一個龐大的圖像庫，用來訓(xùn)練機器識別惡性腫瘤。Esteva 和 Kuprel 通過網(wǎng)絡(luò)搜索發(fā)現(xiàn)了 18 個由皮膚病專家分類好了的皮膚損傷圖像庫。其中包含了近 13 萬張有關(guān)痤瘡、皮疹、蟲咬、過敏反應(yīng)和皮膚癌等疾病的圖片，皮膚病專家將它們分為近 2000 種疾病。值得注意的是，有一個包含 2000 個病變的集合已經(jīng)由病理學(xué)家切片檢查過了，因而它們幾乎是被確診的了。
Esteva 和 Kuprel 開始訓(xùn)練他們的系統(tǒng)。他們沒有制定規(guī)則；沒有教它 ABCD 助記符。相反，他們是將圖像和其確診分類輸入神經(jīng)網(wǎng)絡(luò)。我請 Thrun 描述這個神經(jīng)網(wǎng)絡(luò)的工作內(nèi)容。
「想象用一個老式的程序去識別一只狗，」他說?！杠浖こ處煏懗?1000 行 if-then-else 語句：如果它有耳朵，和一個鼻子，并有頭發(fā)，且不是一只老鼠等等，這樣循環(huán)往復(fù)完成識別任務(wù)。當(dāng)然，這并不是一個孩子去學(xué)習(xí)識別狗的方式。起初，孩子會通過觀察以及大人的告知來識別狗。她也許會犯錯誤，但能糾正自己。當(dāng)她認為狼是狗時，大人們會告訴她狼屬于一個完全不同的類別。于是她一點一點地改變了自己的認識：這是『狗』，那是『狼』。機器學(xué)習(xí)算法就像孩子一樣，從一個已分類好的標(biāo)注訓(xùn)練集抽取信息。如這是一只狗，那不是一只狗。然后，它從一組一組的訓(xùn)練集中提取出特征。接著，通過對成百上千張已分類圖像進行自我測試，機器學(xué)習(xí)系統(tǒng)像孩子一樣開始創(chuàng)建屬于自己的方式來識別狗?！顾褪侵廊绾稳プ觯╧now how）。
2015 年 6 月，Thrun 的團隊開始測試通過給機器一個「驗證集（validation set）」的方式來了解它從圖像主集合中學(xué)到了什么：一些經(jīng)皮膚病專家診斷（雖然不一定是通過活檢）的 14，000 張圖像。該系統(tǒng)是否能夠準(zhǔn)確地將圖像分為 3 個診斷類別——良性病變、惡性病變和非癌生長？這個系統(tǒng)的正確率為 70%。（該算法的實際輸出不是「yes」或「no」，而是某個給定病變屬于類別的概率。）兩位得到委員會認證的皮膚病學(xué)家也在一旁做了測試，不過他們做得更糟：其正確率為 66%。
接著，Thrun、Esteva 和 Kuprel 又將研究擴展到了 25 位皮膚病學(xué)家，而這一次他們使用了一個黃金標(biāo)準(zhǔn)——約 2000 張經(jīng)由活組織檢測證實的圖像「測試集（test set）」。在幾乎每一個測試中，該機器都比這些專家更加敏感：它不太可能錯過一個（惡性）黑素瘤。它也比專家們更為明確：它不太可能將一個腫瘤錯稱為（惡性）黑素瘤?！冈诿恳淮螠y試中，該網(wǎng)絡(luò)都要優(yōu)于皮膚病學(xué)家，」該小組在《自然》雜志所發(fā)表的一份報告中總結(jié)到。
「還有一個有關(guān)網(wǎng)絡(luò)的更深刻的東西沒有在該論文中得到充分強調(diào)，」Thrun 告訴我。在研究的第一版本中，他和團隊開始使用的是一個完全的樸素（na?ve）神經(jīng)網(wǎng)絡(luò)。但是他們發(fā)現(xiàn)，如果是從一個已被訓(xùn)練成識別一些不相關(guān)特征（比如狗和貓）的神經(jīng)網(wǎng)絡(luò)入手，它會學(xué)得更快更好。也許我們的大腦功能也是這樣。高中課程中那些令人頭腦麻木的練習(xí)——因式分解、共軛動詞、背元素周期表——可能會得到相反的結(jié)果：令人頭腦敏銳。
在教機器時，他們團隊必須得小心地處理這些圖像。Thrun 希望人們有一天只需提交其令人擔(dān)憂的病變手機照片就可以得到診斷，這意味著該系統(tǒng)必須適用于多種角度和照明條件。但是，他回憶道，「在某些圖片中，（惡性）黑素瘤已經(jīng)被黃圓盤標(biāo)志標(biāo)記過了。我們必須把它們裁剪出來——否則，我們可能就是在教計算機將黃圓盤標(biāo)志作為癌癥標(biāo)志給挑選出來?！?/p>
這是一個古老的難題：一個世紀(jì)前，德國民眾被 Clever Hans 迷住了，據(jù)說這匹馬可以進行加減運算，并能夠通過敲擊蹄子來將答案傳遞出來。事實證明，Clever Hans 實際上是在感受馴馬者的態(tài)度舉止。當(dāng)馬蹄敲擊數(shù)接近正確答案時，馴馬者的表情和姿勢就會變得放松。動物的神經(jīng)網(wǎng)絡(luò)沒有學(xué)過算術(shù)，卻學(xué)會了檢測人類肢體語言的變化?！高@就是神經(jīng)網(wǎng)絡(luò)離奇的地方，」Thrun 說?！改悴恢浪鼈冊谑褂檬裁葱畔?。它們就像黑箱，其內(nèi)部運作是神秘的?！?/p>
「黑箱」問題是深度學(xué)習(xí)所特有的。該系統(tǒng)不受大量而明確的醫(yī)學(xué)知識和一系列診斷規(guī)則的引導(dǎo)；通過進行大量的內(nèi)部調(diào)整——類似于加強和減弱大腦中的突觸連接——它已經(jīng)能夠有效地教自己去區(qū)別痣與黑色素瘤。它究竟是如何將某一病變確定為黑色素瘤的呢？我們無法知道，它也無法告訴我們。所有允許網(wǎng)絡(luò)去學(xué)習(xí)的內(nèi)部調(diào)整和處理都發(fā)生在我們的審查能力之外。就像我們自己的大腦一樣。當(dāng)你騎自行車慢慢轉(zhuǎn)彎時，你會向相反的方向傾斜。我的女兒知道自己是這樣做的，但這并不是她自己的選擇。該黑色素瘤機器必須從圖像中提取某些特征；如果它不能告訴我們所選的是哪一個特征，這會有什么影響嗎？這就像是微笑著的知識之神。遇到這樣一臺機器，你可以窺見動物感知人類心靈的可能方式：無所不知但卻難以理解。
Thrun 輕快地設(shè)想了這樣一個世界——我們時刻處于診斷的監(jiān)控之中。我們的手機將分析如何把語音模式轉(zhuǎn)化為老年癡呆癥的診斷。一個方向盤會通過你小幅度的躊躇和震顫來檢測出早期的帕金森氏癥。當(dāng)你在洗澡時，一個浴缸將通過無害的超聲波或磁共振來執(zhí)行順序掃描，以確定卵巢中是否出現(xiàn)了新的需要調(diào)查的紊亂。大數(shù)據(jù)將會觀看、記錄和評估你：我們將從一個攫取的算法中穿梭到下一個。進入 Thrun 的這個浴缸和方向盤的世界就是進入了一個診斷鏡大廳，每面鏡子都敦促著更多的測試。
很難不被這種愿景所誘惑。一個每天都在做圖像對照、不斷以細節(jié)————甚至可能是細胞——顆粒的方式對我們進行掃描的醫(yī)療監(jiān)獄，可能會使我們在癌癥的最早期診斷出它嗎？它能提供癌癥檢測方面的什么突破嗎？這聽起來令人印象深刻，但其中有一個陷阱：許多癌癥都注定是因人而異的。我們是和它們一起死去，而不是因它們死去。如果這樣一個身臨其境的診斷引擎將導(dǎo)致數(shù)以百萬計的不必要的活檢呢？在醫(yī)學(xué)上，早期診斷可以挽救或延長生命。但也有一些情況是，你會擔(dān)心更長的時間，但不會活得更久。很難知道你想知道多少。
「我對于增強人類能力方面很感興趣，」當(dāng)我問他這種系統(tǒng)對人體診斷的影響時，Thrun 這樣說到?！缚?，工業(yè)耕作消除了某種形式的耕作嗎？當(dāng)然，不過它也擴大了我們生產(chǎn)農(nóng)產(chǎn)品的能力。并非所有這些都是好的，但它使我們能夠養(yǎng)活更多的人。工業(yè)革命增強了人類肌肉的力量。當(dāng)你使用電話時，你增強了人類語言的力量。在紐約的你無法令加利福尼亞的人聽到你的喊叫」——的確，當(dāng)時 Thrun 和我的通話距離就是這么長——「但你手上的這個矩形設(shè)備可以讓人聲傳遞到 3000 英里之外。電話取代了人聲嗎？沒有，電話是增強設(shè)備。認知革命將允許計算機以同樣的方式增強人類的思維能力。就像機器使人類肌肉增強了 1000 倍一樣，機器也將令人類的大腦性能增強 1000 倍?！筎hrun 堅持認為，這些深度學(xué)習(xí)設(shè)備不會取代皮膚病醫(yī)生和放射科醫(yī)生。它們將加強專業(yè)人士的能力，為他們提供專業(yè)知識和援助。
四
Geoffrey Hinton 是多倫多大學(xué)的計算機科學(xué)家，他認為學(xué)習(xí)機器將在臨床醫(yī)學(xué)中發(fā)揮出更大的作用。Hinton——喬治·布爾的玄孫，其布爾代數(shù)是數(shù)字計算的一個基本原理——有時被稱為深度學(xué)習(xí)之父；這是他從 19 世紀(jì) 70 年代中期以來就開始研究的一個主題，他的許多學(xué)生如今已成為該領(lǐng)域的主要設(shè)計者。
「我認為，如果你是一名放射科醫(yī)生，那么你就像是漫畫中的 Wile E.Coyote（譯注：先拼命地往懸崖外跑，離了很遠之后才發(fā)現(xiàn)自己已經(jīng)踏空。），」Hinton 告訴我?！改阋呀?jīng)越過了懸崖的邊緣，但是還沒有朝懸崖下看去。下面并沒有地面。」用于乳房和心臟成像的深度學(xué)習(xí)系統(tǒng)已被商業(yè)化開發(fā)出來了?！高@完全是顯而易見的，深度學(xué)習(xí)將在 5 年內(nèi)勝過放射科醫(yī)師，」他繼續(xù)說道。「可能是 10 年。我在一個醫(yī)院里說過這個。但是這一點并沒有獲得廣泛的接受?！?/p>
Hinton 那次在醫(yī)院的原話很直率：「他們現(xiàn)在應(yīng)該停止訓(xùn)練放射科醫(yī)生了?！巩?dāng)我向 Angela Lignelli Dipple 提出這個挑戰(zhàn)時她指出，診斷醫(yī)師并非僅僅是在做 yes-no 式的分類工作。他們不僅僅是在定位導(dǎo)致中風(fēng)的栓塞。他們是在關(guān)注其它地方的小出血，這些小出血可能會令溶栓藥物的使用造成災(zāi)難性的后果，他們是在尋找一種意料之外的、或許依然處于無癥狀狀態(tài)的腫瘤。
「很好。結(jié)果稍微是可預(yù)測的」
Hinton 現(xiàn)在有資格發(fā)起挑釁。他告訴我：「放射科醫(yī)生的角色將從做一些感知任務(wù)——受過高度訓(xùn)練的鴿子也可能能完成的這種任務(wù)——演變?yōu)樽龈嗟恼J知工作」。他對于自動化醫(yī)學(xué)未來結(jié)局的預(yù)測是基于一個簡單的原則：「如果你擁有關(guān)于某舊式分類問題的大量數(shù)據(jù)，那么就考慮去解決這個問題吧，深度學(xué)習(xí)將會做到這一點。那時會有數(shù)以千計的深度學(xué)習(xí)應(yīng)用程序出現(xiàn)。」他想利用學(xué)習(xí)算法來讀取各種各樣的 X 射線、CT 掃描和核磁共振——而這只是他所認為的近期前景。在未來，他說，「學(xué)習(xí)算法將會從事病理診斷」，它們可能會閱讀 Pap 涂片、聽心臟的聲音或是預(yù)測精神病患者復(fù)發(fā)的可能性。
我們討論了黑箱問題。雖然計算機科學(xué)家們正在研究它，但是 Hinton 承認，這些挑戰(zhàn)——打開黑箱和試圖找出到底這些強大的學(xué)習(xí)系統(tǒng)知道些什么以及它們是如何知道的——是「微不足道的——不要相信任何人的話?！覆贿^，這是一個他認為我們可以學(xué)會去適應(yīng)的問題。他說：「想象在某場比賽中，一名棒球運動員與一名物理學(xué)家對抗以確定球可能在哪著陸，」他說?！赴羟蜻\動員一次又一次地拋了一百萬次球，他可能不了解任何方程式，但是他知道球到底會有多高、能達到多大的速度以及它會降落到地面的位置。物理學(xué)家可以寫方程式來判斷同一件事物。但是二者終將殊途同歸?！?/p>
我回顧了計算機前輩在鉬靶檢查中使用計算機輔助檢測和診斷的令人失望的結(jié)果。Hinton 承認，任何新系統(tǒng)都需要通過嚴(yán)格的臨床試驗進行評估。然而，他強調(diào)，新的智能系統(tǒng)是為了從其錯誤中吸取教訓(xùn)——從而可以隨著時間的推移而改進?！肝覀兛梢栽谝粋€會關(guān)注每個錯過的診斷——最終患肺癌的病人——并將其反饋到機器系統(tǒng)中來建立檢測與診斷機制。我們可以問，你錯過了什么？你能細化診斷嗎？沒有針對人類放射科醫(yī)生的這種系統(tǒng)。如果你遺漏了某件事，然后 5 年后你的一個病人患上了癌癥，那么這就沒有系統(tǒng)的例行程序來告訴你如何糾正自己。但是你可以在一個系統(tǒng)中建立這種機制來教計算機實現(xiàn)這一目標(biāo)?！?/p>
一些最雄心勃勃的診斷機器學(xué)習(xí)算法版本尋求將自然語言處理（讓算法可以查看病人的醫(yī)療記錄）與從教科書、期刊和醫(yī)學(xué)數(shù)據(jù)庫獲得的醫(yī)療方面的百科知識整合起來?？偛吭O(shè)立于馬薩諸塞州劍橋市的 IBM Watson Health 和總部設(shè)在倫敦的 DeepMind 都希望建立這樣的綜合系統(tǒng)。我看到一些這樣的系統(tǒng)正處于試點示范運行中，但它們的許多功能——特別是深度學(xué)習(xí)組件仍在發(fā)展中。
Hinton 對于深度學(xué)習(xí)診斷的未來充滿激情，這部分是由于他自己的經(jīng)驗。當(dāng)他正在開發(fā)這種算法時，他的妻子被發(fā)現(xiàn)患有晚期胰腺癌。他的兒子被診斷出患有惡性黑色素瘤，但隨后活檢顯示該病變是一個基底細胞癌，是一種不太嚴(yán)重的癌癥?！高@里還有很多東西需要學(xué)習(xí)，」Hinton 說，輕輕地嘆了一口氣?！笢?zhǔn)確的早期診斷并不是一個簡單的問題。我們可以做得更好。為什么不讓機器幫助我們呢？」
五
在一個冰冷的三月的清晨，在我與 Thrun 和 Hinton 談話的幾天之后，我去了位于曼哈頓第一大街 50 號的哥倫比亞大學(xué)的皮膚診所。主治醫(yī)師 Lindsey Bordone 那一天原定要看 49 個病人。然而到了十點鐘，候診室卻里擠滿了人。一個 60 歲左右留著胡子的男人坐在角落里，用一條羊毛圍巾把脖子上的皮疹掩蓋起來。一對焦慮的夫婦蜷縮著在看《時代》雜志。
Bordone 看著病人接二連三地趕來。在一個由熒光燈照明的里屋內(nèi)，一個護士坐在一臺計算機前說了一句話總結(jié)到：「50 歲，先前沒有診斷史，皮膚上有新的可疑點」——然后 Bordone 沖進診療室，她金色的頭發(fā)在風(fēng)中飛揚著。
一個 30 多歲的年輕人臉上有鱗屑紅疹子。Bordone 打量著這個年輕人，他的皮膚剝落了并從鼻子上掉下來。Bordone 把他拉入燈光下仔細檢查了他的皮膚，然后用手持皮膚鏡對其進行觀察。
「你的頭發(fā)里有頭皮屑嗎？」她問。
這個男人看起來很困惑。「當(dāng)然，」他說。
「嗯，這是面部皮屑，」Bordone 告訴他?！高@是一個特別糟糕的情況。但問題是它現(xiàn)在為什么會出現(xiàn)并且情況變得越來越糟了。你在頭發(fā)上使用過什么新產(chǎn)品嗎？你有一些異常的家庭壓力嗎？「
「壓力肯定是有一些的，」他說。他最近失業(yè)了，正在處理隨之而來的財務(wù)問題。
「記日記，」她建議到?！肝覀兛梢詰{此確定二者之間是否有關(guān)聯(lián)，」她開了一個類固醇霜的處方，并讓他一個月后再來。
在隔壁房間的是一個年輕的律師助理，他的頭皮上起了一片發(fā)癢的疙瘩。Bordone 摸他的疙瘩時他趕緊避開了?！钢缧云ぱ?，」她說到，結(jié)束了這個檢查。
另一個房間的女人脫了衣服并穿上醫(yī)院的病號服。她過去被診斷出患有黑色素瘤，而她做預(yù)防措施卻很勤奮。Bordone 一個斑點接著一個斑點地檢查了這個女人的皮膚。這花了她 20 分鐘的時間，但這種檢查徹底且全面，她用手指在一片痣與皮贅組成的景觀中劃過，同時說出診斷結(jié)果。有一些痣和角化病，但并沒有黑色素瘤或者癌。「看起來一切都很好，」她興高采烈地說。女人寬慰地嘆了口氣。
于是乎就是：Bordone 來；她見；她確診（譯注：愷撒大帝描述其勝利時說，「我來；我見；我征服?！梗?。她不像 Hinton 是只草原狼，而似乎像是一架有些瘋狂的越野車，試圖用接二連三趕來的病例來跟上時代的步伐。她在里屋中寫筆記時，我問她關(guān)于 Thrun 對診斷的愿景：一張 iPhone 照片被電郵給一個強大的異地網(wǎng)絡(luò)，召集了一群無可置疑但不可理解的專家評價。一位全職的皮膚科醫(yī)生，比如 Bordone，會在她的一生中看到約 20 萬個病例。斯坦福的機器算法在大約 3 個月內(nèi)獲取了近 13 萬的病例。然而每位新晉的皮膚科醫(yī)師都需要從零開始，但是 Thrun 的算法卻一直都處于獲取病例、成長和學(xué)習(xí)的過程中。
Bordone 聳了聳肩?！溉绻軒椭易鞒龈鼫?zhǔn)確的決定，我會歡迎它，」她說?！肝业囊恍┎∪嗽趤碚椅抑皶南滤麄兊钠つw問題照片，這會增加我的診所的診斷范圍?！?/p>
這聽起來像是一個合理的回復(fù)，而我還記得 Thrun 有關(guān)技術(shù)增強人類能力的安撫性言論。但是，隨著機器學(xué)習(xí)得越來越多，人類會學(xué)習(xí)得越來越少嗎？這是一些父母所長期焦慮的問題，他們的孩子可以使用手機中的拼寫檢查功能：如果孩子停止學(xué)習(xí)如何去拼寫怎么辦？這種現(xiàn)象被稱為「自動化偏見（automation bias）」。當(dāng)汽車獲得自動駕駛輔助時，司機可能變得不那么警覺了，而類似的事情也可能發(fā)生在醫(yī)學(xué)領(lǐng)域。或許 Bordone 是一個孤獨的 John Henry（譯注：他為了保住自己和黑人兄弟們的飯碗而站出來向機器挑戰(zhàn)，寧死不向機器屈服。），而現(xiàn)實中的蒸汽鉆即將上線。但有一點是無法忽視的，即她自己的關(guān)注從未動搖過、她對待手指劃過的每一個皮贅和痣時是多么地認真。如果她與一臺機器合作，那么她還會這樣繼續(xù)下去嗎？
我注意到了 Bordone 與其病人之間的其它互動模式。一方面，他們最后幾乎總是會感覺更好。他們被觸摸并被仔細地檢查；一個談話就這樣發(fā)生了。即使是對病變的命名——「痣」、「角化病」——也是一劑心靈潤滑劑：心底里有一些對疾病診斷過程的欣慰。那個皮膚重現(xiàn)光澤和彈性的女人，她的焦慮也隨之脫落。
還有很多。正如巴西研究員可能已經(jīng)猜到的，Bordone 會在一瞬間識別出診斷結(jié)果。她口中的「皮炎」或「濕疹」，就好像是在識別一只犀牛：當(dāng)她識別出某一模式時，你幾乎可以看到她大腦后下方的神經(jīng)元角錐狀物所迸發(fā)出的火花。但診斷還沒有結(jié)束。Bordone 幾乎在每個案例中都會花大量的時間調(diào)查病變原因。為什么會出現(xiàn)這些癥狀？是壓力嗎？一種新的洗發(fā)水？有人改變了游泳池里的氯嗎？為什么是現(xiàn)在？
我認識到，在這些臨床實踐中的最有力的因素，不是了解它或是知道如何去掌握案例的事實情況，或識別出醫(yī)生們所構(gòu)建的模式。而是存在于知識的第三個領(lǐng)域中：了解原因。
六
因為解釋可淺可深。如你的手指上有一個紅色的水泡，因為你碰到了一塊熱鐵；你的手指上有一個紅色的水泡，因為燒傷激發(fā)了前列腺素和細胞因子的一個炎癥級聯(lián)反應(yīng)，而其中的調(diào)控過程仍然不能被我們完美地解讀出來。了解原因、提問為什么，是我們通向各種解釋的橋梁，而解釋正越來越多地成為掌控醫(yī)學(xué)進步的東西。當(dāng) Hinton 談到棒球運動員和物理學(xué)家時，人工或真實人類的診斷醫(yī)師，將會成為棒球運動員，他們熟練但黑箱。醫(yī)學(xué)研究者將成為醫(yī)學(xué)領(lǐng)域的物理學(xué)家，正如來自棒球領(lǐng)域的理論學(xué)家一樣，但他們有知道「為什么」的渴望。這是一個方便的職責(zé)分工，但這是否或許也意味著損失？
「深度學(xué)習(xí)系統(tǒng)沒有任何解釋能力，」Hinton 直截了當(dāng)?shù)卣f到。黑箱不能調(diào)查原因。事實上，他說：「深度學(xué)習(xí)系統(tǒng)變得越強大，它就越含糊。由于更多的特征被提取了出來，診斷本身變得越來越準(zhǔn)確。然而為什么這些特征會從數(shù)以百萬計的其它特征中被提取出來，這仍然是一個無法回答的問題?！顾惴梢越鉀Q一個案例，但它不能創(chuàng)建一個案例。
然而我在自己的領(lǐng)域（腫瘤學(xué)）中不禁注意到，往往是那些熟練的從業(yè)者，他們通常也是喜愛鉆研的研究人員在取得研究進展。事實上在過去的幾十年里，有抱負的醫(yī)生曾經(jīng)努力想成為棒球運動員和物理學(xué)家：他們試圖用診斷的靈敏度來了解疾病的病理生理學(xué)。
為什么一個皮膚病變的不對稱邊緣會預(yù)測出黑色素瘤？為什么有些黑色素瘤會自然消退，以及為什么在其中的一些病例中會出現(xiàn)白色斑塊？巧合的是，診斷專家在臨床中所觀察到的這些現(xiàn)象，最終與如今臨床上所使用的一些最有效的免疫藥物的發(fā)明聯(lián)系在一起。（皮膚美白原來是免疫反應(yīng)的結(jié)果，該反應(yīng)同時也會對抗黑色素瘤）該發(fā)現(xiàn)鏈可以始于臨床。如果越來越多的臨床實踐被黑箱的學(xué)習(xí)機所取代，如果知識的內(nèi)隱和顯性形式之間日常和自發(fā)的親密關(guān)系（即知道是什么、為什么、怎么樣）開始褪色，那么我們是否會變成這樣一種情況：把能做的做得更好，但對于重新審視我們所應(yīng)該做的事情、去跳出黑箱進行思考卻表現(xiàn)得越來越無能？
我與哥倫比亞大學(xué)皮膚病學(xué)科的一把手 David Bickers 交流過我們的自動化未來?！赶嘈盼?，我已經(jīng)試著去理解 Thrun 論文的所有分支知識，」他說?！肝也幻靼走@些算法背后的數(shù)學(xué)原理，但我確實知道這樣的算法可能會改變皮膚科領(lǐng)域的發(fā)展實踐。皮膚科醫(yī)生會失業(yè)嗎？我不這么認為，但我認為我們必須認真考慮如何把這些技術(shù)融入我們的實踐中。我們使用機器的代價是什么？如果機器做出了錯誤的預(yù)測，那么其法律責(zé)任是什么？如果依靠這樣的算法，那么，這是否會削弱我們的實踐，或者作為診斷專家的自身形象？最終，是否會訓(xùn)練一批技術(shù)人員而不再是醫(yī)生？「
他看了下時間。一個病人正等著見他，他要離開了?！肝疫@輩子都是以診斷學(xué)家和科學(xué)家為業(yè)，」他說。我知道病人多么依賴我的分辨惡性病變和良性病變的專業(yè)。我也知道醫(yī)學(xué)知識來自于診斷?！?/p>
他提醒我，「診斷」這個詞來源于希臘語「理解知道差異（knowing apart.）。」機器學(xué)習(xí)算法只會更加擅于知道這類差異：比如，分隔（partitioning）、辨別痣和黑色素瘤。但是無論從哪個角度說，就知道（knowing）來說，都會超越那些專注于解決具體任務(wù)的算法。在醫(yī)學(xué)領(lǐng)域，也許最終的回報來自于理解整體（knowing together）。
原文鏈接：http://www.newyorker.com/magazine/2017/04/03/ai-versus-md?mbid=social_twitter
來源：機器之心（微信號：almosthuman2014）
