人工智能（AI）一度是科学界并不受重视的一项技术，在过去的二十年里却得到了飞速的发展。绝大多数人现在都不得不承认我们的生活已经无法离开智能手机和Siri了，貌似人工智能无所不能的特质使它无声地进入了我们生活的每一个角落，从华尔街的机器人顾问和犯罪定位安全摄像头，到谷歌的BigQuery大数据分析和人工智能程序Watson进入医学领域的诊断。
尽管可能导致人类社会经济和文化结构的倒退也是一个潜在的事实，但在许多无法预料到的领域中，人工智能能够帮助提高我们的生活效率。未来生活研究所的口号总结得非常简洁时尚：“技术从来没有像现在这样使生活更加繁荣昌盛…亦或是自取灭亡。”人类是创造者，但是我们能否一直把这些革命性的创造掌握在手心里吗？
对更多的普通大众而言，人工智能就仅仅是人工智能，但这只对了一部分。现如今，人工智能的发展有两项基本标准——ANI（狭义人工智能）和AGI（广义工智能）。ANI常被称作“弱人工智能”，是这两个标准中的“专家”，它被用来实现各种特殊的功能。我们周围的大多数技术（包括Siri）都在ANI的范围内。AGI则是下一代的ANI，它是人类梦想中的人工智能的类型，能够创造出实现人类意识的机器。
现在很热门的话题是机器将来会不会变得有意识和知觉，至少就像人类所能够感觉到的那样。在互联的世界里，分享一个人的观点变得非常便捷，每个人都必然会遇到对未来10年到1000年甚至到永远的预言。但是我们怎么才能知道哪些观点是根据研究和经验得到的，而哪些又是像古老的电话游戏一样的来自于网络中的胡说八道？
我决定深入人工智能世界，采访了活跃在这个领域的12位权威专家和研究人员，了解各种想法和看法，去寻找AGI的未来以及可能存在的风险。尽管对类似危机的看法差别很大，但却有一个共识，那就是创造出有意识的机器是完全有可能的。
Helgi Helgason博士相信“人类智能和意识诞生于自然之中，它是从物理和化学反应中产生的，如果我们这么期待的话，我没有任何理由怀疑我们不能在人类创造的系统中复制这个过程。”他的陈述是普遍的一个想法，Andras Kornai博士也认同地声称“这样的事情是有可能从蛋白质构建起来的，很明显没有什么地方需要魔法。”
而布达佩斯技术研究所的教授Kornai避开了“魔法”的说法，不止一位的专家表示我们仍然不清楚人类意识是怎么出现的，这就像是摆在AGI发展路途上的一个实际存在的障碍。就像Skeptic杂志的创始者Michael Shermer博士所预见的那样，“我觉得在不久的将来无法得到解决，因为人类大脑太过复杂而我们又还不太了解意识是如何通过神经元电信号的传递产生的，但是长期来说这一定会得到解决。”
谢菲尔德大学的Noel Sharkey博士认为因为我们还不了解意识产生的原理，我们就不知道这能不能够在一台机器上重新实现。“这个问题不太可能得到答案，因为意识的原理仍然笼罩在一团迷雾之中，还没有任何充足的科学理论或者模型。非常确定的谈论这一点的人们都是痴心妄想的。说意识不能在计算机上被创造出来应该是没有道理的，但是就算我们明白了意识到底是什么之后，也仍然不知道它能否在生物体外发生。” Sharkey说。
其他人，包括乌特勒支大学的Medhi Dastani博士和美国伍斯特理工学院的Eduardo Torres Jara博士，都认为我们可以创造出这样的意识，但问题是如果想要这样的一台机器能够体验到和人类一样的“意识”，现在看来似乎是不太可能的事情。
人工智能乐观者与悲观者
没有人能够预知未来，但是基于这些研究者们做一些推测的话，最伟大的发明将会在2021年到2060年间或者未来的10到50年里出现。如果这些预言得到证实，就会给我们的社会整体带来许多的伦理方面的问题。不止Elon Musk一个人表示了对人工智能危险的担忧——牛津大学的Nick Bostrom和加利佛利亚大学的Stuart Russell就是许多持此类观点的一份子——但是还有不同意近期的这些人工智能威胁论的声音。
在采访的12位研究人员中，有三位显得与众不同。采访的大部分的专家都担心现在已经存在的金融经济的危害，这可能会无意识地加剧极端情况的前进，导致一系列的更大的贫富差距和环境破坏，例如污染和资源短缺。
“近期的人工智能引起的危机可能最终成为现在社会中已经存在的一样的危机。如果我们不能走出基于工薪的经济模式的话，人工智能的自动化会提高生产力，却不会改善我们的生存条件。”认知科学家Joscha Bach博士说。Helgason博士表示这是事实而不仅仅是危机，教育政策中应该已经考虑到这种风险。
Kornai博士和阿肯色大学的Daniel Berleant博士都预见到了自动化金融算法被它们的所有者们用来赚钱所带来的潜在的灾难性问题，没有任何“人类性”的目标。Dastani博士担心智能机器的计算能力会超过人类。他强调“自动计算机系统交互的不断增加可能会引起难以预测并且无法追踪的不良后果。”金融监管和经济结构的重新设计是这些问题最明显的解决方法，但是更复杂的细节似乎仍需要充分的研讨，尤其是在公共政治领域。
类似的担忧经常在媒体中出现，反杀手机器人的积极分子Sharkey博士和布兰迪斯大学的Michael Bukatin博士都认为自动化机器要么超智能化自我战斗并且在这个过程中消灭我们，要么引起猖獗的自动化武装冲突，产生正当的威胁。
其他的看法认为人工智能是无害的（永远都是），相反，人工智能背后的人类才是难以预测而且不可信赖的，就为了获得金钱或者权利这些短视的目标。Michael Shermer博士预言近期未来最有可能的人工智能危机就包括“坏人为了他们的目的操控人工智能，人工智能本身并没有罪，它们危害人类这样的事不会发生。”
如果自主能力和意识齐头并进的话，Eduardo Torres Jara博士就会认为前者的威胁性更大——尽管他并不能预言这就会在不久的将来发生。“很难相信人工智能会成为现实的危险。任何的高新技术都会有它自己的风险。例如，航天飞机的飞行控制可能会失败而引起一场事故，然而用于控制航天飞机的技术本身却不是危险的。至于机器人，我们可能并不希望拥有武器化的自动机器人因为“自主能力”是并不可靠，这样即使在机器人失败的情况下后果也不会严重，” Torres说。
尽管少得多的研究者们站在相反的立场上，有一些研究者——包括乔治梅森大学的Robin D. Hanson博士——对于近期的人工智能威胁论表示，完全没有危险。我们可能称呼这些为人工智能的乐观分子。
我们敢超越未来的20年来说人工智能的风险会发生在未来10年里吗？尽管一些接触的商业家们像比尔盖茨（还有Elon Musk宣传的人工智能的声明）发表了一些声明，大多数的研究者们都能理解清楚阐述这种深远的风险所带来的忧虑，而一些人则放弃给出任何答案。在某种程度上，这是一种明智的选择，深刻的历史教训告诉我们未来经常和我们现在所想象的完全不同。
另一方面，正是我们现在的想象和行动塑造了未来的样子。对人工智能危机的预防做出的努力和解决方案可能会为短期的未来打下基础，把我们的目光放到更遥远的未来想象人工智能可能带来的潜在的黑暗并不完全是无稽之谈。在大多数情况下,类似的研究者们倾向于只对人工智能危机给出在短期内类似简短的回答
从腐败的领导者们正在通过法律的实施来压制人工智能的影响，到我们不能完全理解的无法解释也无法证实的人工智能，潜在的危机多种多样并且让人感到深深的忧虑。一些研究者们怀疑人工智能迟早会改变人类的工作和生活——幸运的是我们还有时间来控制着它的发展。
作者：Daniel Faggella
编译：人工智能学家
更多阅读：
