第1个回答 2022-07-01
什么是奇点。这是一个在科学界耳熟能详的词：在未来的某个时刻，人类创造出通用人工智能，它的智慧高于人类。之后所有的技术创造将由它实现，包括创造出它自己。技术将以人类无法想象也无法控制的速度向前发展，即技术爆炸。
这个时刻就是“技术奇点”，由美国科学家雷蒙德·库茨魏尔正式提出（这里取官方说法）。
他还预言，这个时间点在2045年，也就是30年后就会来临。
尤瓦尔·赫拉利在《人类简史》的观点也非常让人震惊。人类是一种非常脆弱的生物，虽然自称高等智慧体，但感官基本退化只剩下大脑。而在当今科学的最前沿，人类的大脑也逐渐遇到瓶颈，我们无法想象超越3维的事物，我们无法超越光速，随着人类知识库的逐渐增大，我们也逐渐无法在有限的寿命里学完所有学科进行更有价值的探索，而人类的知识库依然还在日益扩大，科研的成本越来越高。赫拉利认为，在未来，人类会创造出人与机器或芯片结合的新“生物”，用以突破人类的感官和认知极限，用一种新的方式作为“人类”的延续。当然前提是如果这种生物还能称作“人类”的话。
我身为IT行业的从业人员，完全能够领会技术令人瞠目结舌的迅速。我丝毫不怀疑技术奇点即将来临这一观点。我也迫不及待地想要看到高度技术化和智能化的社会。
但同时，也有身为弱小的人类的惧怕。
技术飞速发展的负面，我觉得大家也不陌生。
对自然界的影响：环境恶化，气候变暖。让AlphaGo下一步棋产生的热能可比人类要多了不止百个数量级。北极圈出现32摄氏度的高温；全球植被每年北移12cm....技术发展对环境灾难性的影响是不可忽视的。
对社会的影响：出现被机器替代的失业者开始出现。无人驾驶代替司机，自动售票机代替售票员，甚至AI现在可以批量产出程序，比如淘宝的banner图，比如创造音乐（想到最近看到的一个新闻，AI还可以制作小黄片..）；人类的工作很多都是低端重复性的劳动，机器现在都能做到。
这些都意味着什么呢。意味着，奇点来临的同时，很有可能也会带来社会的全面崩溃。
首先对于自然环境，还记得《头号玩家》的场景吗，人类拥有高度虚拟现实技术，现实世界却已经变为一片废墟，乌烟瘴气。而这很有可能会成为现实。高度自动化的社会会生产超大量级的废弃物向环境中排放（或许我们到时候会选择向宇宙中排放），墒增则必然导致环境恶化。
这还不是最严重的。当高度智能机器来临，被淘汰的人类可能会占总人类的80%以上，甚至，整个人类都被淘汰。
科幻片总是上演人工智能和人类的战争；《三体》的“黑暗森林法则”让人不寒而栗。但这种想象并不是凭空而来的。纵观人类的历史，文明的发展都会不可避免地导致其他物种的灭绝。在刀耕火种的远古时代，智人每到一处新领域，除了为当地带来先进的文明之外，还不可避免对当地原生物种进行屠杀，甚至包括其他类人种族，最后剩下“智人”这一群种繁衍至今。公元前世界上存在的数百数千个城邦部落，也随着人类的探索最后尽数被“亚非”文明吞并。当高等文明遇上低等文明，所有的路都只会通向一个终点——那就是低等种族灭绝。
当技术奇点来临，人工智能的智慧超越人类，或者出现了半自然半人工的“新人类”。到那时，他们会将我们看作同类吗？人类的命运将会如何？
不过，且不说关于奇点来临的我们尚且都是假设，不到那一刻，我们谁都无法断言会发生什么事情。而就算以上的设想都是真的，科技发展会给人类整个群体带来史无前例的危机，人类就会停止探索技术的脚步吗？对未知的探索是我们的本能，对认知之外的世界我们充满了求知欲。朝闻道，夕可死矣。大刘的小说虽然有些夸大，但对人类求知欲望的本质描述的还是很精准。
集智俱乐部 在2018年12月31日举办了主题为“奇点临近”的年会。张江老师对奇点这一时刻提出了更宏大的看法。库茨魏尔的“奇点”指技术奇点，人类创造出比自身更为智能的机器，接下去就会产生技术爆炸，奇点时刻来临。而张老师的“奇点”，是整个地球，整个社会，整个人类历史的奇异点。在未来的某一时刻，会发生翻天覆地的变化。物理界，生物界，气候变化，生态环境，人和人之间的关系，城市等等，所有领域都会和现在的模式完全不同，而且直指人类的生死存亡。
// 技术为人类社会带来了极大的便利，没错。但深究环境和气候恶化，另外一点也是技术带来的，而且很容易被人忽略的是，它也带来了更多的负熵产出。
机缘巧合，刚好也是近期，看到了一直关注的阮一峰老师也对这个话题发表了看法： 阮一峰——站在未来的的十字路口 ，这说明站在当前技术的前沿者，或多或少都开始关注“技术到底是什么”这个问题。
以前我一直认为技术是工具，他会为社会带来好处还是坏处，完全依赖于使用者的动机。人类是技术的使用者，我们掌控技术，让它为我们服务，现实情况也的确如此，技术的发展为我们生活的各个方面都带来了极大的便利。
但是当我们看到越来越多关于技术发展的负面信息出现时：气候恶化导致前所未有的自然危机；自动化普及导致越来越多的人失业；越是发达的城市就越会向外排出更多的废弃物....我们是不是该深度思考，技术到底是不是真的为我们所掌握，我们真的了解它吗。
如果是，我们为什么无法预测未来它会变成什么样；如果不是，那人类该何去何从？