作者：关然（剑桥大学）
奇点可能不是一个惹人喜欢的概念，在数学和物理领域里，奇点往往跟极限，异常等概念联系在一起。而技术奇点（Technological Singularity）更是一个经常与人工智能威胁论捆绑在一起的略带末世论色彩的概念。
【 技术奇点是什么？】
在现代电子计算机被发明之初，就有不少有识之士意识到，人类科学技术的发展是一个加速过程，进而萌生了技术奇点的早期想法。2005年，美国计算机科学家 Ray Kurzweil 出版其未来学著作 The Singularity is Near - When Humans Transcend Biology （中文版《奇点临近》于2011年出版） 之后，技术奇点的概念才进一步走进公众视野。
△ Ray Kurzweil于2006年斯坦福大学举行的奇点大会发言，作者目前任职于Google。（图片来源: null0/Flickr）
Kurzweil 在这本书中提出，人类科学技术的发展会在将来某一个时间点（即技术奇点）达到一个发展速度接近于无穷大的进步，人类的生活和社会形态也会因此被彻底的改变，最终诞生一种全新的人与机器相结合的新文明。他对此作出了相当多具体的预测，例如到达奇点的核心技术路线包含了基因遗传学、纳米技术和机器人学，又如他给出了到达这个点的具体时间为2045年等等。
△《奇点临近》。（图片来源：Viking）
Kurzweil的观点极具前瞻性和争议性，引起了不少的共鸣，当然也不乏尖锐的批评。 他大部分前卫的观点，都是基于他对人类科学技术史归纳总结而得出的一个结论，这个结论被他自己称为回报加速定律（The Law of Accelerating Returns），实际上是摩尔定律（Moore's Law）对所有科学技术发展的一个拓展。
在同等价格下，集成电路上集成的元器件每约18至24个月便翻一番，性能也随之翻一番。 Gordon Moore的这一个论断，近乎完美地描述了超过半个世纪的半导体技术的发展趋势，尽管这是一个观测而并非一个“定律”，而且这样的趋势因为有量子隧穿效应等物理极限的限制恐难以一直维持（关于这个上限的讨论，可参考《计算机所面临的极限是什么？》），但它反应出了一个行业技术发展速度在加快的基本事实。
这种发展速度加快的现象，也并非半导体行业所特有。Kurzweil详细分析比较了包括计算机、互联网、机械、纳米科技和生物测序等方面的技术，发现这种现象具有普适性，进而得出了一个结论：由于科学技术的发展是有正反馈的（先进的科学技术又会促进更先进的科学技术），科学技术的发展是加速的，并且从长远来看是以指数方式的在增长。
△ 摩尔定律，从近代机械计算机到当代图形处理器，注意纵轴是对数比例。（图片来源：Kurzweil）
Kurzweil同时强调，在遇到具体技术瓶颈时，科学技术的发展可能暂时放缓，使得原本J字型的指数发展趋势趋向S字型，所以这会使得科学技术的发展速度在短期看起来有时可能平缓，并不完全符合指数增长的模型。但一项技术的成熟和发展停滞，会促使范式转移（Paradigm Shift），激励更为有突破性的新技术的诞生，继续维持原来的指数增长式的发展。
【我们会到达奇点吗？】
从回报加速定律出发，要得到奇点终将到来的结论并不困难。但值得指出的是，如果人是推动科学技术进步的唯一载体，那么这种进步是受制于人类整体对于科学研究的投入的。人类对科学研究的投入有明显的上限的，就全体人类而言，人口总量有限，即使所有人都全心全意投入科学研究，新知识的产出量依然是有限的 。在人自身并没有任何生物学上的改造和改进的情况下，个人一生的知识产出量也是有限的。 具体说来，这有几个层次的限制：首先，人口总数是受制于地球存在的资源和人类对资源利用的能力；其次，人口增长是受限于人类的繁衍方式，在一个世纪里普通人大概只能繁衍四代；最后，人对知识的吸收和创造也是有限的。
最后这一点尤为重要，人对知识的吸收和创造是有限的。这最主要体现在三个方面。第一，人对世界的感知受生理感官结构和时空的限制；第二，人的记忆容量是有限的；第三，人的大脑运算的速度也是有限的。如果要将这三个方面类比一个计算机系统，对应的则是计算机系统的输入输出（I/O）、存储空间（包括缓存、内存和硬盘）和运算能力。可以想象即使有数量庞大的埃尼阿克（ENIAC，世界上第一台通用电子计算机）计算机群，恐怕也难以完成我们口袋中一台智能手机能够轻易完成的任务，因为相比之下埃尼阿克并没有丰富的输入输出接口（难以处理多媒体信息），更没有储存系统，运算能力也远不如它的后辈。同样地，在人类自身生理或者说“硬件”进化缓慢的条件下，要实现科学技术的奇点式发展，无疑是困难的。
△ 埃尼阿克：能够每秒进行5000次加法运算 （图片来源：U.S. Army, Public Domain）
但如果说人类创造的计算机本身，或者说人工智能（Artificial Intelligence, AI）也能够自主地创造信息和知识从而推动科学技术进步呢？那么以上的限制就会被迎刃而解。这也是人工智能方面研究的终极目标，实现通用人工智能或者强人工智能，使得计算机智能超越人。
那么计算机系统能够超越人么？我们不妨先从以上三个“硬件”方面进行比较：
-
在I/O方面，人的大部分能感知的信息都能被电子系统以更高精度的技术手段捕捉和还原，特别是视觉和听觉信息，而且得益于各色传感器技术的发展，电子系统对世界的感知更是丰富多彩，远超于人的感官。
-
在存储空间方面，按照西北大学心理学教授Paul Reber的估测，人的记忆的上限在2.5 Petabytes左右，即大约等同于625个4 Terabytes（TB）的硬盘，在当前工艺下实现如此大的存储系统并没有技术上的难度，而计算机的数据存储在可靠性和精确度上较人的记忆有明显的优势。
-
但最终决定胜负的是运算能力。关于人脑的运算能力有很多不同的估测，《奇点临近》一书中使用了10的16次方次运算每秒作为标准，而按照IBM计算机科学家Dharmendra Modha在同期的说法，计算机至少需要3.8乘以10的16次方运算每秒，才能达到人脑的运算能力。那么当前计算机的运算能力几何？按照最新的超级计算机排名，榜首超级计算机，由中国国家并行计算机工程技术研究中心开发研究的神威·太湖之光超级计算机已经能够达到了9.30146乘以10的16次方浮点运算每秒的惊人速度（理论速度更高），也即从量级上来说，目前的计算机技术已经能够支持运算能力和人脑相当的速度。
△ 位于江苏无锡国家超算中心的神威·太湖之光 （图片来源：新华社）
当然这样直接的人和计算机系统的比较并不能解释一切，然而从长远来看，抛开软件和算法层面的考虑，计算机硬件从各方面指标超越人类是必然的。在计算机系统能够快速更新迭代进化的条件下，它的知识产出并没有诸多上诉人类的限制，那么要实现指数式的发展，最终到达奇点，也是顺其自然的。
△ 超算运算能力的逐年发展，趋势明显满足回报加速定律，注意纵轴是对数比例。（图片来源：AI.Graphic）
【我们需为此感到忧虑吗？】
计算机运算能力的简单叠加并不意味着强人工智能的出现，但既然硬件条件能够实现强人工智能，那么唯一的问题就是，我们的AI研究离实现强人工智能还有多远？
在讨论这个问题之前，也许有人会担忧，人类真的要研究实现强人工智能么？不少文学、影视作品对强人工智能的实现后的人类社会进行了反乌托邦式（Dystopian）的描写：在未来某个时刻，人类需要跟自己创造的强大智能系统进行殊死的战斗，最终由于人性的种种优点，人类英勇地战胜了人类发明的技术叛徒，恢复人类文明。技术的发展固然会带来诸多社会问题和负面效应，但人类会真的因此遭受灭顶之灾么？
Kurzweil在回顾世界发展的进程和预测未来的时候，将时间大致划分为六个时代。这个具体的时代区分也许不一定合理，但我们可以借助这一划分看到我们世界进化发展的规律：事物总是从能量、物质、信息低的层次往高的层次跃升。或者粗略地说，要精确地描述、刻画和复制存在的最复杂的系统的难度是越来越大的，需要的能量、物质和信息也越多。
△ 宇宙进化的六个时代。（图片来源：Ray Kurzweil）
例如要精确地描述人的大脑，自然是比要精确描述单独一个氢原子困难得多。然而在宇宙诞生之初，只存在原子，经历了长久的进化和演变，才渐渐出现了分子、有机物、可自我复制的遗传物质、简单单细胞生物、多细胞生物、植物、动物，最终出现了人类。这整个过程虽然漫长，但有两点值得注意的现象：
-
高层级事物的出现源于低层级事物，例如没有原子也自然没有分子；
-
高层级事物的出现并不会使低层级的事物消亡，例如出现了分子并不会意味着原子的消亡，生物的出现也并不意味着分子的消亡。
这种进化的过程在持续，那么很容易预见到，人类创造的人工智能（或者说按照Kurzweil的预测，人和机器结合的文明体）将会成为未来更高层级的事物。那么这个层级的事物并没有理由去威胁低层级的（例如自然人）事物的存在。这主要是因为，不同层级的事物之间对物质、能量和信息资源的需求的差距是巨大的，低层级的事物对资源的需求完全不会威胁到高层级的事物，进而高层级的事物和低层级的事物并不存在资源上的竞争关系，自然也就不会出现你死我活的局面。
在科幻小说《三体》中，高级文明摧毁和灭绝低级文明易如反掌，正所谓“毁灭你，与你何干。” 但也正是因为这种巨大的差别，使得高层次的事物“摧毁”低层次的事物对于高层次的事物显得毫无意义。所以我们大可不必杞人忧天认为强人工智能会威胁人类生存，但针对具体的技术运用带来的潜在问题，我们还是要重视的，这也需要研究人员、技术使用者和政策制定者等多方面的协作和努力。
【 我们离技术奇点还有多远？】
既然不需要担心奇点的到来会摧毁人类，那么继续推进人工智能方面的研究是势在必行。回到前面提出的问题，我们的AI研究离实现强人工智能还有多远？高层次的事物与低层次的事物有质的不同，按照低层次的事物的框架，根本无法完整描述和理解高层次的事物。这好比，花再多的力气研究如何让一个单细胞生物理解人类的语言都是徒劳的。同样地，人类也会面临无法理解比自己高层次的事物的情况。要实现强人工智能，可以说是要创造人类自身也不能彻底理解的系统，这可能吗？况且目前人类甚至不能完全理解大脑这一个已经相当复杂的系统。
有趣的是，Kurzweil在书中预测到2010年我们将能利用计算机仿真人脑的工作过程，而Modha则稍微悲观，认为2018年才能够实现这一点。只是令人感到惋惜的是，虽然计算机的运算能力确实达到了新高，但我们目前最多只能精确完整刻画简单生物的生理过程，而完全逆向仿真人脑的目标，目前看来还是遥遥无期。
△ 斯坦福大学和Craig Venter中心联合模拟了尿道支原体细胞的所有生化活动, 并成功从基因型预 测到表现型。这代表着目前对生物系统精确刻画和仿真的前沿水平。（图片来源：Cell）
不过退一步讲，要创造高层次的智能系统，让其能够超越人脑，并不一定需要计算机能够完全仿真人脑。好比为了要飞行，更适合飞机的技术方案是固定翼飞行，而非仿生的扑翼飞行，盲目地模仿鸟类翅膀的几何外形和扑动形式只会南辕北辙。
早期的人工智能研究，特别是人工神经网络（Artificial Neural Network，ANN）方面的研究跟对人脑如何运作的研究紧密结合，但经过多年的发展，当今ANN的研究已经脱离了原有的跟神经科学结合的框架，研究方向和方法也相对独立于神经科学。人工神经网络作为现在AI领域进展最为迅速的一个子领域，已经取得了很大的成就。特别是深度学习（Deep Learning,规模和层次较大的人工神经网络）目前代表着弱人工智能研究的一个巅峰。深度学习的基础理论能够追溯到上世纪中，但最近得到长足发展得益于计算机图形处理器（Graphic Processing Unit，GPU）的进步。GPU使得大规模的并行运算成为可能，进而促进了深度人工神经网络收敛运算时间大大缩短，这也从一个侧面说明运算能力的进步是高等技术繁荣的充分条件。这方面的研究成果目前可谓有目共睹，也通过各大互联网公司的产品，深入到我们生活的方方面面。但相较于传统的科学研究，深度学习方面的研究有两个很突出的不同点：
一，缺乏理论指导，是一门实验、经验科学。很多华人深度学习研究者常常调侃自己的工作为"炼丹"而自嘲为“老中医”，指的就是深度学习本身的研究重结果，而对原理把握不足的现象。这可能有两方面的原因，首先，这个领域发展历史相对较短；其次，这个领域确实复杂、困难，目前并没有完整（除了简单的梯度下降）的理论能够一统天下。
△ 诺贝尔物理奖获得者Peter Higgs, 此画由Ken Currie创造，目前悬挂于爱丁堡大学James Clerk Maxwell楼。希格斯玻色子的理论由Peter Higgs 于1964年提出，然而实验物理在经过半个世 纪后才能验证其理论，这反应了当代物理学的一个突出特征：理论物理发展远远超前于实验物理。（图片来源：University of Edinburgh）
大部分的深度学习的最新进展，都是从效用和性能出发，缺乏对原理方面的解释和探索，一个深度学习模型好坏的判断标准往往只是在数据集上表现出来的精确度的高低，而对于为何一个模型优于另外一个模型，我们往往无法彻底解释。举个例子，德国计算机科学家Sepp Hochreiter最近提出的新型激活函数缩放指数型线性单元（Scaled Exponential Linear Units，SELU），需要用长达93页数值运算的论文附录去解释其特性。
△ 长达93页数值运算的论文附录。该论文并没有说明激励函数的优劣是绝对的或是与具体问题有关的，只是堆砌了SELU与其他方法性能的比较。而SELU本身的提出也更像是摘樱桃（Cherry- picking）而非理论指导的结果。当然，研究的实验性并不能否定其价值。（图片来源：Sepp Hochreiter）
二，人类不能完全理解网络的输出。人工神经网络将学习到的信息储存在其网络内的各个权重中，对于一个复杂的人工神经网络，我们很难根据输入预测其输出，针对网络内部的具体情况更是难以作出解释。
△ 深度卷积网络的可视化解释，人工神经网络第一层“理解“了输入图像中边缘和色团，第三层“理 解“了图像中的纹理，第五层"理解"了具体的物件或者物件的部分，最后一层输出对输入图像的 识别分类。很多网络运作的内部机理都没办法用这种可视化的方式展示。（图片来源：CSAIL MIT）
由DeepMind开发的AlphaGo-人工智能围棋程序是说明这一点的最好例子。自2015年来，AlphaGo连克人类围棋高手樊麾、李世石等人，并在16年6月的中国乌镇围棋峰会上以3：0的战绩击败目前人类棋力最高的职业围棋九段棋手柯洁。
AlphaGo的出现，拓展了不少棋手对围棋的理解。例如，在此之前，开局点三三是非常少见，并且在传统上认为是略微吃亏的开局，而AlphaGo频繁点三三开局却能做到游刃有余毫不吃亏，颠覆了人类棋手对这一手段的看法。柯洁以其“人”之道，还治其“人”之身，但也未能就此取胜。尽管AlphaGo让我们见识到开局点三三的魅力，但开局点三三威力到底几何和该如何具体运用，人类棋手并没有统一和权威的看法。可以说，AlphaGo在围棋上已经能成为人类的老师了，因为它独立于人类，理解、创造并运用了新的知识，它结构性地改变和提升了人类对围棋的理解，而人类对于这些新的知识，目前只停留在知其然，而不能彻底知其所以然的层次。AlphaGo柯洁一战之后，DeepMind宣布AlphaGo作为棋手将会“退役”，但及其背后技术，将会被运用到医疗等更广泛的领域，可见在不远的将来，人工智能系统会继续在特定的问题上，贡献更多未被人类发现的知识。
百年之前，俄国生理学家巴普洛夫通过每次给狗喂食前响铃声、开红灯以形成和强化狗的条件反射。经过一段时间的训练后，只要铃声一响或红灯一亮，即使没有进行喂食，狗也会分泌唾液，这个实验向人们揭示了生物条件反射形成的原理。狗或许只能观测到铃响和灯亮与被提供食物之间的关系，但明显不能理解“这是人类科学家在做实验”这样一个更为贴近本质的描述。今天，在描述一个人工神经网络输出的时候，我们的理解也逐渐停留在了效能好不好（有没有食物），而对进一步作出贴近其本质的解释乏力。
诚然，AlphaGo并不是强人工智能或通用人工智能，但以上两点，恰恰是人工智能往更高层级事物发展的一个佐证：我们制造出了超越我们理解的事物。从这个角度看，当代人类较其前辈已经是最为接近强人工智能和奇点的了。也许我们离真正的强人工智能还有相当长一段距离，但假使加速回报定律和我们进一步向高层级事物发展的趋势持续下去，那么我很有可能能在有生之年内亲身目睹强人工智能和奇点的到来。
God is in his heaven, all's right with the world.
英国诗人Robert Browning写道，“上帝天堂居，万象皆调畅”（晚枫译）。人类即将面临激动人心的人工智能技术革新，但这对于宇宙而言，不过是其自然法则和规律运作下最最寻常的扰动。
参考来源：
[1] In Search of Memory: The Emergence of a New Science of Mind
[2] What Is the Memory Capacity of the Human Brain?（scientificamerican/article/what-is-the-memory-capacity/）
[3] Computers have a lot to learn from the human brain, engineers say（
blogs.scientificamerican/news-blog/computers-have-a-lot-to-learn-from-2009-03-10/)
[4] 超算前500（top500/）
[5] 蓝脑计划（bluebrain.epfl.ch/）
[6] A Whole-Cell Computational Model Predicts Phenotype from Genotype（sciencedirect/science/article/pii/S0092867412007763）
[7] Self-Normalizing Neural Networks（arxiv/abs/1706.02515）
[8] Mastering the game of Go with deep neural networks and tree search（nature/nature/journal/v529/n7587/full/nature16961.html）
,
