载入中...  
载入中...
时 间 记 忆
载入中...
最 新 评 论
载入中...
专 题 分 类
载入中...
最 新 日 志
载入中...
最 新 留 言
载入中...
搜 索
用 户 登 录
载入中...
友 情 连 接
博 客 信 息
载入中...


 
人工智能让人类永生或者灭绝(五)
[ 2015-3-10 9:23:00 | By: alice ]
 

再我们继续深入这个话题之前,让我们提醒一下自己超级智能意味着什么。

很重要的一点是速度上的超级智能和质量上的超级智能的区别。很多人提到和人类一样聪明的超级智能的电脑,第一反应是它运算速度会非常非常快——就好像一个运算速度是人类百万倍的机器,能够用几分钟时间思考完人类几十年才能思考完的东西

这听起来碉堡了,而且超人工智能确实会比人类思考的快很多,但是真正的差别其实是在智能的质量而不是速度上。用人类来做比喻,人类之所以比猩猩智能很多,真正的差别并不是思考的速度,而是人类的大脑有一些独特而复杂的认知模块,这些模块让我们能够进行复杂的语言呈现、长期规划、或者抽象思考等等,而猩猩的脑子是做不来这些的。就算你把猩猩的脑子加速几千倍,它还是没有办法在人类的层次思考的,它依然不知道怎样用特定的工具来搭建精巧的模型——人类的很多认知能力是猩猩永远比不上的,你给猩猩再多的时间也不行。

而且人和猩猩的智能差别不只是猩猩做不了我们能做的事情,而是猩猩的大脑根本不能理解这些事情的存在——猩猩可以理解人类是什么,也可以理解摩天大楼是什么,但是它不会理解摩天大楼是被人类造出来的,对于猩猩来说,摩天大楼那么巨大的东西肯定是天然的,句号。对于猩猩来说,它们不但自己造不出摩天大楼,它们甚至没法理解摩天大楼这东西能被任何东西造出来。而这一切差别,其实只是智能的质量中很小的差别造成的。

而当我们在讨论超人工智能时候,智能的范围是很广的,和这个范围比起来,人类和猩猩的智能差别是细微的。如果生物的认知能力是一个楼梯的话,不同生物在楼梯上的位置大概是这样的:


要理解一个具有超级智能的机器有多牛逼,让我们假设一个在上图的楼梯上站在深绿色台阶上的一个机器,它站的位置只比人类高两层,就好像人类比猩猩只高两层一样。这个机器只是稍微有点超级智能而已,但是它的认知能力之于人类,就好像人类的认知能力之于猩猩一样。就好像猩猩没有办法理解摩天大楼是能被造出来的一样,人类完全没有办法理解比人类高两层台阶的机器能做的事情。就算这个机器试图向我们解释,效果也会像教猩猩造摩天大楼一般。

而这,只是比我们高了两层台阶的智能罢了,站在这个楼梯顶层的智能之于人类,就好像人类之于蚂蚁一般——它就算花再多时间教人类一些最简单的东西,我们依然是学不会的。

但是我们讨论的超级智能并不是站在这个楼梯顶层,而是站在远远高于这个楼梯的地方。当智能爆炸发生时,它可能要花几年时间才能从猩猩那一层往上迈一步,但是这个步子会越迈越快,到后来可能几个小时就能迈一层,而当它超过人类十层台阶的时候,它可能开始跳着爬楼梯了——一秒钟爬四层台阶也未尝不可。所以让我们记住,当第一个到达人类智能水平的强人工智能出现后,我们将在很短的时间内面对一个站在下图这样很高很高的楼梯上的智能(甚至比这更高百万倍):

前面已经说了,试图去理解比我们高两层台阶的机器就已经是徒劳的,所以让我们很肯定的说,我们是没有办法知道超人工智能会做什么,也没有办法知道这些事情的后果。任何假装知道的人都没搞明白超级智能是怎么回事。

自然演化花了几亿年时间发展了生物大脑,按这种说法的话,一旦人类创造出一个超人工智能,我们就是在碾压自然演化了。当然,可能这也是自然演化的一部分——可能演化真正的模式就是创造出各种各样的智能,直到有一天有一个智能能够创造出超级智能,而这个节点就好像踩上了地雷的绊线一样,会造成全球范围的大爆炸,从而改变所有生物的命运。

科学界中大部分人认为踩上绊线不是会不会的问题,而是时间早晚的问题。想想真吓人。

那我们该怎么办呢?

可惜,没有人都告诉你踩到绊线后会发生什么。但是人工智能思想家Nick Bostrom认为我们会面临两类可能的结果——永生和灭绝。

首先,回顾历史,我们可以看到大部分的生命经历了这样的历程:物种出现,存在了一段时间,然后不可避免的跌落下生命的平衡木,跌入灭绝的深渊。

历史上来说,“所有生物终将灭绝”就像“所有人都会死”一样靠谱。至今为止,存在过的生物中99.9%都已经跌落了生命的平衡木,如果一个生物继续在平衡木上走,早晚会有一阵风把它吹下去。Bostrom把灭绝列为一种吸引态——所有生物都有坠入的风险,而一旦坠入将没有回头。

虽然大部分科学家都承认一个超人工智能有把人类灭绝的能力,也有一些人为如果运用得当,超人工智能可以帮助人类和其它物种,达到另一个吸引态——永生。Bostrom认为物种的永生和灭绝一样都是吸引态,也就是我一旦我们达成了永生,我们将永远不再面临灭绝的危险——我们战胜了死亡和几率。所以,虽然绝大多数物种都从平衡木上摔了下去灭绝了,Bostrom认为平衡木外是有两面的,只是至今为止地球上的生命还没聪明到发现怎样去到永生这另一个吸引态。


如果Bostrom等思想家的想法是对的,而且根据我的研究他们确实很可能是对的,那么我们需要接受两个事实:

1)超人工智能的出现,将有史以来第一次,将物种的永生这个吸引态变为可能

2)超人工智能的出现,将造成非常巨大的冲击,而且这个冲击可能将人类吹下平衡木,并且落入其中一个吸引态

有可能,当自然演化踩到绊线的时候,它会永久的终结人类和平衡木的关系,创造一个新的世界,不管这时人类还是不是存在。

而现在的问题就是:“我们什么时候会踩到绊线?”以及“从平衡木上跌下去后我们会掉入哪个吸引态?”

没人知道答案,但是一些聪明人已经思考了几十年,接下来我们看看他们想出来了些什么。

 
  • 标签:永生、灭绝 
  • 专题:人工智能 
  • 发表评论:
    载入中...
    @Oblog科学与宗教研究