「深度学习系统没有任何解释能力，」Hinton 直截了当地说到。黑箱不能调查原因。事实上，他说：「深度学习系统变得越强大，它就越含糊。由于更多的特征被提取了出来，诊断本身变得越来越准确。然而为什么这些特征会从数以百万计的其它特征中被提取出来，这仍然是一个无法回答的问题。」算法可以解决一个案例，但它不能创建一个案例。

然而我在自己的领域（肿瘤学）中不禁注意到，往往是那些熟练的从业者，他们通常也是喜爱钻研的研究人员在取得研究进展。事实上在过去的几十年里，有抱负的医生曾经努力想成为棒球运动员和物理学家：他们试图用诊断的灵敏度来了解疾病的病理生理学。

为什么一个皮肤病变的不对称边缘会预测出黑色素瘤？为什么有些黑色素瘤会自然消退，以及为什么在其中的一些病例中会出现白色斑块？巧合的是，诊断专家在临床中所观察到的这些现象，最终与如今临床上所使用的一些最有效的免疫药物的发明联系在一起。（皮肤美白原来是免疫反应的结果，该反应同时也会对抗黑色素瘤）该发现链可以始于临床。如果越来越多的临床实践被黑箱的学习机所取代，如果知识的内隐和显性形式之间日常和自发的亲密关系（即知道是什么、为什么、怎么样）开始褪色，那么我们是否会变成这样一种情况：把能做的做得更好，但对于重新审视我们所应该做的事情、去跳出黑箱进行思考却表现得越来越无能？

我与哥伦比亚大学皮肤病学科的一把手 David Bickers 交流过我们的自动化未来。「相信我，直播，我已经试着去理解 Thrun 论文的所有分支知识，」他说。「我不明白这些算法背后的数学原理，但我确实知道这样的算法可能会改变皮肤科领域的发展实践。皮肤科医生会失业吗？我不这么认为，但我认为我们必须认真考虑如何把这些技术融入我们的实践中。我们使用机器的代价是什么？如果机器做出了错误的预测，那么其法律责任是什么？如果依靠这样的算法，那么，这是否会削弱我们的实践，或者作为诊断专家的自身形象？最终，是否会训练一批技术人员而不再是医生？「

他看了下时间。一个病人正等着见他，他要离开了。「我这辈子都是以诊断学家和科学家为业，」他说。我知道病人多么依赖我的分辨恶性病变和良性病变的专业。我也知道医学知识来自于诊断。」

他提醒我，「诊断」这个词来源于希腊语「理解知道差异（knowing apart.）。」机器学习算法只会更加擅于知道这类差异：比如，分隔（partitioning）、辨别痣和黑色素瘤。但是无论从哪个角度说，就知道（knowing）来说，都会超越那些专注于解决具体任务的算法。在医学领域，也许最终的回报来自于理解整体（knowing together）。

　　原文链接：?mbid=social_twitter

　　本文为机器之心编译，转载请联系本公众号获得授权。

　　?------------------------------------------------

加入机器之心（全职记者/实习生）：[email protected]

投稿或寻求报道：[email protected]

广告&商务合作：[email protected]