AI在绝大多数情况下是给我们人类带来福利和便捷的，但是每样东西都有一体两面，在享受这些福利和便捷的同时，的确可能会产生一些相对应的风险。这些风险中包括以下两个方面：

　　对于AI的依赖性

　　举例：人对于方便、好用的技术/事物会有依赖（比如记电话号码），很多人到现在都用智能手机来存储电话号，我自己现在也不记得家里的号码。

　　更深一层的是对于计算机背后具体细节的不了解而无法使人信服，且导致人们解决问题的能力有可能降低。

　　举例：GPS导航，当下很多人并不知道为什么GPS要做出这样那样的规划路线。再比如AlphaGo或者深蓝打败人类，j2直播，但是它为什么下这一步？背后的原因并不清楚。

　　AI或者特别说深度学习最大的一个缺点，它们用这些模型也能做出很多了不起的决定，但是在它背后人们并不知道为什么要做出这个决定，无法让人心悦诚服。AI技术事实上是在这方面非常薄弱，尤其是今天的深度学习，你完全不知道它为什么来做这件事情。以后我们解决问题的能力有可能变弱，因为我们没有办法洞察这些细微的部分和推理的部分。

　　▎研究者既希望能研制出强AI，又担心研究出强AI之后无法控制它，怎么看这个问题？

　　最近越来越多被问到有关强AI、弱AI的问题，在这里先给大家解释一下什么是强AI、什么是弱AI。而且可以先给大家说一下，强AI其实没有那么强，弱AI其实可以很强。

　　弱AI

　　其实我个人喜欢另一种说法——局限性的AI或者是狭窄性的AI。弱AI其实说它只能做一件事情，更早以前把它叫做专家系统（Expert System ），到今天我们把它称作深度学习或者其他的称谓。几乎所有深度学习（比如：物种辨认、语音识别等）都只能做那一件自己擅长的事情。

　　举例：比如像我们做一个项目预测北京的天气，就只能预测北京的天气。所以弱AI其实是一个专才的概念，早期叫专家系统，和人类的专才也很像。举例：木匠、裁缝、天文科学家，他们都是在自己的领域非常擅长，弱AI和他们类似也算专才。

　　强AI

　　与弱AI相反，强AI就是像人类一样的通才。像人类一样，可以看、听、跑、做算术、了解语言、翻译、画画、思考等，类似于人类有通才型的智慧叫做强AI。

　　大家也知道，通才和专才的差别。通才的话如果拿每一样去和专才比是比不过的，但是专才呢不一定能有通才这么全面。比如像爱因斯坦在作为最伟大的科学家之一，在自己的生活上可以说是比较笨拙，不一定比得过寻常的老百姓。

　　这也是为什么说强AI其实在每一个单的项目是弱的，只是说它有通才的本领。

　　其实还有很多的例子，比如人类跑的没有有些动物快 ，所以我们发明汽车可以让我们跑得更快。再如人类不能像鸟儿一样飞翔，所以我们发明飞机可以让我们飞上天空。所以可以说每辆车、每架飞机就是一个专才。所以说弱AI或者狭窄性AI 也好，人类到现在造了很多工具，每一样工具都有特殊的功能，其实就是一个专才。我们人类作为一个通才，把这些专才拿来为自己所用，所以可以完成很多自己不能完成不的事情。

　　有人会问这些都是机器，会不会可以把弱AI与强AI结合之后，造出一个又是通才但是每方面都很强的机器？

　　这种可能性肯定会有，但是确实非常难。就像我们知道机器是专才，人类是通才，如果你要一个东西每一样都很强，那么大家会害怕这种东西也是可以理解的。不要说机器或者是AI，如果今天出现一个人在每个方面都是专才，大家都会觉得很可怕。因为跟我们所了解的不一样，而且我相信这种可能性永远也不会出现。但是如果真的出现这种情况的话，确实是相当可怕的。

　　到底有没有这种可能？

　　人是一个通才，有很多缺点 跑不快、不会飞、算不快、也不够准。发明计算机，算得比我们又准又快。人类最了不起的就是创造力，但是创造力里面和人的弱点似乎有点相关的。

　　人的意志好比频谱，频谱高的时候，即当人的意识强的时候做事情很精准，但是，有时当人的意识薄弱时，创造力反而很高。比如，古时候的诗人，作家，如李白，白居易常常在喝得酩酊大醉的时候，能够写出艺术造诣很高的诗篇，贝多芬晚年完全失聪的时候，做出非常了不起的《第九交响曲》；梵高割掉自己的耳朵后，在身体有痛楚，意志很薄弱的情况下，创造出举世瞩目的画作。近代，凯库勒梦到一条蛇，变成一个六角形，咬住自己的尾巴，他由此得到灵感，发明了苯的结构，对有机化学的发展产生了重大影响。所以，在人意识很薄弱或不专注的时候，有可能将两个看似毫无关系的事物联系在一起，做出大胆的假设，当然也要经过小心求证，产生如此强大的创造力。强AI当然有其强的地方。没有人具备所有的专长，但是，我们人往往能够在意识薄弱的时候产生强大的创造力，现在尚没有机器能够模拟人的这种创造力。有人在探讨，到底有没有可能制造出强AI而没有创造力？不要说是在计算机界，不论是在生物界还是心理学界，脑神经科学界，大家都赞同：在没有意识的情况下，是很难出现强AI的。人们离强AI还有距离。

　　▎如何使民众对人工智能做出客观理性的思考，而不是持有过于极端的态度？

　　其实大家不必对AI有过于消极的态度。

　　从专家角度要做有可控性的技术。