猫骨匣论坛 你可以在这里订阅主题,查看短消息,编辑你的资料和论坛参数等等 免费注册本论坛 论坛日历 会员列表 论坛帮助 论坛搜索 论坛首页 退出论坛  
猫骨匣论坛 : Powered by vBulletin version 2.3.0 猫骨匣论坛 > 柳文扬纪念专题 > 柳文扬作品集 > 人与非人 ——柳文扬
  上一主题   下一主题
    作者
    主题 发表新主题    回复主题
用户昵称: 虚伪的小孩
用户级别: 管理员
注册日期: May 2009
性  别: 帅哥
来  自:
发贴数量: 279
现金资产: 12452
虚伪的小孩 现在离线 点击这里查看 虚伪的小孩 的个人资料 点击这里给 虚伪的小孩 发送一条短消息 访问 虚伪的小孩 的主页 查找更多关于 虚伪的小孩 的帖子 添加 虚伪的小孩 至你的好友列表 引用回复 回复主题 [第1楼]

人与非人 ——柳文扬

我们看科幻电影会经常看到这样的情节:机器人(人工智能)妄图取代人类而发动战争――这也许从某个侧面反映了人类对未来的恐惧,它也许是与生俱来的。但真的会有这样的一天出现吗?

这里的“非人”指的是机器人,Robot,或者笼统地称为AI,人工智能。不论是在科幻小说中还是在现实生活里,人类都对人工智能有着期许和恐惧的双重心理。

机器人是人类文明最有潜力也最有争议的成就之一。我们不知道是恨它好还是爱它好。虽然它现在还没做什么坏事,但据说,保不准哪天它就能把地球炸了;要恨它吧,也不合适,因为连小朋友都知道,以后机器人要包下所有的活儿,让咱们人类过着吃喝玩乐、比猪还快乐的生活。怎么能恨它呢?

应该承认,迄今为止,地球上的机器人还停留在编程控制的工业、科技、军事或日用工具水平;一些所谓的“概念机器人”在这一基础上有小小的提高,但还没有突破性进展。可是,那些过于负责的和毫不负责的科幻作家们,已经迫不及待地让机器人成为拥有类人智力的好助手、任劳任怨养活全人类的大傻瓜、毁灭地球的魔鬼、打败魔鬼的救世主、建立反乌托邦的毫无人性的暴君,以及其他任何可以想象出来的玩意儿。

机器人之所以引出了这么多预言,完全是因为“智能”这两个字。本来,智能是人类大脑的专利,历史上任何发明――汽车、飞机、抽水马桶――都没有冒犯过神圣的人脑,所以AI就显得很特别,很危险。卡斯帕罗夫跟电脑比赛象棋,说到底不过是为了证明人脑的优越。自从卡氏输给“更深的蓝”之后,人工智能仿佛对人类大脑有了一点威胁。机器人不是简单的电脑,它是有智能的、有独立判断及行动能力的可怕东西,所以在科幻作品当中,机器人征服人类、毁灭文明的描写比比皆是。

从我个人来说,不太担心在有生之年看到那恐怖的一天。首先是因为我的毕业课题就是一个被称为“送料机器人”的人工智能机器,它使我彻底丧失了对机器人的敬畏感。这家伙只会从地上捡起东西来乱丢,砸到人身上很疼,但要说毁灭世界――就凭它?这么一个金属和塑料组成的活宝,不会说话也不会下棋,就花费了大量的金钱和整个实验室半年的时间,让我现在想起来都头疼。可见要制造出“T-800”那样的机器人或者《黑客帝国》中的电脑,绝对不是人干的活。

话虽这么说,人工智能毕竟在很多方面赶超着人脑。它会不会与人脑越来越相似,甚至最后取代人类的智能呢?这是个科幻小说的题材,也是人类关心的问题之一。

我们对人工智能,或者说,对机器人还有其他的担心。总结一下,大概有下面的几条:

第一,机器人的大量出现会抢夺人类的就业机会;第二,机器人可能被用在战争上,从而使政客们更肆无忌惮地开战;第三,机器人会变成可以乱真的“人”,使人这个概念面临解构的危机;第四,机器人翅膀硬了就会造反,最终统治人类。

你们看,这真不是小问题。

在机器人抢饭碗这个主题上,好多作家做了不少文章。外国的不说,咱们自己的作家星河同志,在下岗职工大量出现之前,就写了一篇《同室操戈》。他认为机器人因为具有好多优点:不用发工资、不需要节假日、打死也想不到罢工、用坏了挖坑一埋不必开追悼会等等,将会挤掉很多人的职位,造成世界性的失业问题。小说很有趣,建议你们看一看,但是他这个论点我是不同意的。

每一种新产业都会引起一定范围内的失业问题,同时也会创造很多新的就业机会。在汽车发明后,肯定有人预言马车夫、马车制造商,以及养马人、钉马掌者的失业问题;但是,世界上从此又出现了汽车司机、汽车制造工人、汽车修理工、汽车设计师、加油站管理员、停车场收费的、擦车的、交通警察、二手车商、赛车手、车模、车匪路霸和偷车贼……这么多的新职业。当然,这些职业都需要崭新的知识与技能,但这是个技术问题,并非不可逾越。

有人说,在“抢饭碗”类的科幻小说中,机器人与汽车这种东西不同,第一,它们拥有智能,可以取代人类更高级的工作;第二,它们能够自主行动,跑来跑去到处找工作。但我觉得,这两条是无关紧要的。脑力劳动者的失业和体力劳动者的失业有什么不同吗?一个机器人自己跑到用人单位去应聘,跟一个汽车发明者开着车去自荐,在造成失业的效果上也是一样的。而且,机器人究竟能够拥有什么程度上的自主能力,能否主动去抢人的饭碗,取决于人。这在后面将会谈到。

关键在于:机器人是一种工具。一种新工具在推广应用过程中,随着生产规模的扩大和成本的降低,会由少数人使用的奢侈品变成大众化用具。当机器人的成本高昂时,它不会抢多少饭碗;当它成本降低,普及到全社会时,作为一种高效率、低耗费的“劳动力”,确实会挤掉一些人的职位。但机器人本身也是一种产品,它的生产规模增大,相关联的开发、服务、管理等等新职业就会出现。有很多新职业是在此之前想象不到的。有人曾在马车终结的时代想到“车模”这个职业吗?所以说,机器人在抢饭碗的同时也制造了很多新的饭碗。就这么回事。电脑产业的情形与机器人类似,可以对照着推测。

实际上,有很多职业是非常危险、艰苦的,在迫不得已的情况下才由我们人类同胞来从事。比如消防队员、煤矿工人、掏大粪的……这些工作让给机器人去做,又何乐而不为呢?现在不是已经有了深海探测机器人和救援机器人么?这些“饭碗”,机器人不但该抢,而且必然会被它们抢走。还有那些流水线上的机械式工作,还有纯粹卖力气的体力劳动――搬运、盖房子、陪老婆逛街等等,也应该让机器人去做。这不是坏事,看看《摩登时代》里的卓别林吧,被折磨成啥模样了。

有一种论点认为,机器人不是一般的工具,它是“人”,所以这里不仅有成本和生产规模的问题,还有伦理道德问题。这我也不同意,理由后面会说。

另一种担心是:机器人有智能而没有人性,不怕死、毫无同情心,是最理想的战斗傀儡。不是已经有人在研制战斗机器人了吗,如果有了完全由机器人组成的军队,会使那些政客们更加肆无忌惮地开战。这个前景是多么可怕啊。

我反对,反对这种论点。我的王牌是一组简单的定律。

第一定律,机器人不得伤害人类,也不能眼看人类受伤害而袖手旁观;第二定律,机器人必须服从人类的命令,除非这命令违反第一定律;第三定律,机器人必须保护自己,除非违反第一、第二定律。

这组定律是美国科幻作家艾萨克・阿西莫夫与著名编辑坎贝尔的心血结晶,也是阿西莫夫一系列小说的理论基础和情节发展动力之一。在“第一定律”的约束之下,机器人――我指的是未来技术成熟的、已经有自主判断能力的机器人――不可能向人类动武。

“机器人三定律”已经成为机器人学的一个理论基础。但有些人认为它并不科学。反对者提出这样一种情形来驳斥阿西莫夫:当两个人同时落水(或者落进火中、悬在楼顶、被蓝叶持刀催稿,总之是处于生命危险之中)时,一个机器人应该怎样做?由于第一定律,它必定要救人。但如果它去救甲,那么就等于眼看乙受伤害而袖手旁观;如救乙,也会陷入同样的困境。这时的机器人左右为难,只好自爆。

阿西莫夫的解决方法是又设立了“机器人零号定律”,即:机器人必须保护整体人类的利益,不能眼看整体人类受伤害而袖手旁观。就是说,如果它遇到若干人同时落水,就会先救那个对“人类的整体利益”最重要的人物。但困难在于:无论它是如何分析的,等它分析出最重要者为谁时,也许该人早已气绝。

其实没有这么难。我觉得“机器人三定律”还是相当完美的,小小的缺陷可以通过若干补充定律来修正。比如说,当遇到两个以上的人同时遇险时,机器人救人必然要有先后之分。这时就可以参照某些特殊职业的人类的规则。如医生:先抢救有把握救活的人;如消防队员:先救那个情况最最危急的人;或者参照一般人类道德规范:先救弱者――老人、孩子、残疾人、美女等等。这些条款有限的规则,在机器人那运算速度飞快的大脑里算不了什么繁难的东西。

而且,无论“机器人三定律”是否将成为未来机器人的行为规范,作为一种强有力的工具,机器人必须服从人类设定的规则,这是至当不移的。除非自虐狂,我们都会同意“不得伤害人类”肯定是那些规则中最重要的一条。在这一条的限制下,机器人无法在战场上与人类士兵为敌。机器人的强大在于它们是钢铁之躯,没有情感;而人类的强大在于我们是一切机器的主人,是规则制定者。别把自己看作幼儿园的小妹妹吧,同志们。

万一真的出现了那种可怕的东西,我是说,出现了整师整师的T-800,咋办哦?首先,要知道那玩意并不可怕,在战略上藐视它们。当年我们用小米加步枪还把美式装备的敌人打得乱跑哩。而且,只要有人组建机器人部队,就会有其他人组建同样的部队来对抗。这样就可能出现机器人自相残杀的局面,跟咱们没关系。我觉得兵器越智能越好,越无人化越好。最后搞到敌对两方的头脑们在网上打“三角洲”决胜负,是多么大快人心的事啊。

哦,第三种担忧:机器人会变成在各方面都可以乱真的“人”,把人这个概念搅得一团糟。可以乱真,大概是指四个层面的极端相似。第一是外貌,第二是生理功能,第三是智能,第四是情感。

《变人》中的罗宾・威廉斯,就是个可以乱真的机器人。他不但外貌跟人一样,而且具有人的生理功能,会饿会吃饭,而且还要衰老呢。他比一般人还聪明,并且有感情,会讲笑话,泡妞一套一套的。为了让老婆高兴他放弃了永葆青春的能力,为了作人他宁愿死。这样的机器人,你能说他不是人吗?那么,人到底是什么?这个问题有答案吗?

这种担忧大半是被好莱坞的科幻片闹的。而且,我们知道,在好莱坞科幻片中找科学,就像在公鸡屁股底下找蛋一样困难。那旮的人都那样,不会以客观的、谦虚的、理性的态度去拍一部科幻片。他们总是把片子搞得或者耸人听闻,或者温情脉脉,或者既耸人听闻又温情脉脉。《变人》就是这样一部电影。

为了打消大家的忧虑,我们得从两方面分析这个问题:技术上的可能性、社会方面的必要性与可能性。

我们有可能制造出《变人》中那种机器人吗?在外貌上,很有可能。若干年前就有了会做表情的机器人,人的肌肉、皮肤与毛发也不是什么太难仿造的东西。这可是个好消息,想想看,当家里定购了蔡依林机器人或者言承旭机器人来陪你写作业时,你的学习成绩将会怎样噌噌噌地……往下掉啊!

生理机能上的相似,实际是要求机器人具备生物特性。老师说,必须具有以下四个特点的物体才能被称为生物:第一,应激性;第二,新陈代谢;第三,生长发育;第四,繁殖能力。要制造出这样的机器生物,不是不可能的。出于专业兴趣,我写过一本叫做《神奇蚂蚁》的小说,书中的机器人除了没有“生长发育”的能力外,完全具有生物特点。但它们是被人设定了程序的机器,它们的繁殖并非出于生命本能。

那么,在智能方面呢?人工智能有许多优点,是人脑比不上的。但目前它还远远没有达到威胁人类的地步。人脑中包含有一千万个神经细胞和九千万个支持细胞,这比计算机的元件多得多。人脑中的每个细胞都与我们尚不清楚的大量其他行为相关联。计算机元件只是一个开关,而脑细胞中含有几百万个复杂大分子,具有当今科学尚不清楚的内部功能。文学、艺术、科研等等领域仍然是人脑的天下。音乐家、作家、发明家、科学家这些职业,必须用到某些未知的思维过程,我们称之为“直觉”、“洞察力”、“想象力”、“幻想”以及其他类似的能力。现在,计算机还不能介入这些领域。

当然,只要下决心,设计并制造出具有人脑特点和功能的计算机,只是时间问题。科学家已经在制造“硅神经元”,类似集成电路,又具有真正的神经细胞的功能。它能够操纵离子电流,产生神经脉冲。某些人还试图把很多硅神经元合并为微芯片,再把芯片联系起来,模拟人类大脑。这就是马文・明斯基提出的“神经网络”。与普通计算机处理问题的线性方式不同,神经网络计算机可以把一个问题分成许多部分,分派给更小的处理系统,它们之间是相互联系的。这种计算机制造出来以后,将很快能模仿人脑。

机器人可以有感情吗?很难。在《变人》当中,罗宾・威廉斯是由于偶然发生的故障才有了感情和自我意识。但是,我像所有理工科的傻瓜一样,相信技术可以创造奇迹。让人工智能拥有感情,最终是能够做到的。

所以,只要我们愿意,制造出可以乱真的机器人在技术上是可能的。但是那必要吗?在什么样的需求驱使下,人类会制造与自己完全一样的机器人,来取代自己的作用呢?

在我看来,这样的需求不会出现。

我喜欢用汽车做例子。汽车(还有其他交通工具)比人腿的功能强大得多,也比人腿结实。但人类的腿并没有因为汽车出现而退化,没有谁在腰下边装小轱辘,汽车也没有在奥运会的跑道上和人类运动员角逐。重要的是,汽车是一种工具,它在某个单一方面可以比人类更好地完成工作,但它永远不会取代人类某一肢体、某一器官的所有作用。人需要汽车在最短时间内把自己送到目的地,但在散步时、登山时、跳舞时,汽车是没有用的。没人发明会跳舞的汽车,因为跳舞是一种享受,不必交给机器去做;而且在舞蹈这件事中,包含了人类的某些基本价值,如健康、活力、美和激情等等,我们不愿意把这些基本价值让给汽车。我们要注意的是,别把大脑神化。大脑说到底也是人体的一个器官,如同眼睛和腿一样。电脑在某些领域分担人脑的工作,就像汽车分担了人腿的工作一样。人类没有傻到用轮胎换掉自己的双脚,也不会让电脑取代自己的大脑。毕竟,这个世界是人类在管理,汽车、电脑、机器人都是我们制造的,游戏规则也由我们来制订。人工智能将在何种程度上模仿人脑也是我们规定的。终有一天,人类会掌握制造完全像人的机器人的技术,但谁会傻到真正应用它呢?

最后也是最重要的一个担忧:机器人翅膀硬了就会造反,最终统治人类。《终结者》和《黑客帝国》里就是这么说的。许多科幻小说,比如《无所事事》中,也描述了机器人统治人类,甚至建立反乌托邦世界的故事。

这只是一种可能。而且,比起这种可能来,我觉得阿西莫夫式的机器人出现的可能性更大。

在阿西莫夫的一系列小说中,机器人充当了非常重要的角色。从《钢窟》开始,机器人R・丹尼尔・奥利佛上场。这是阿西莫夫着意刻画的一个典型形象。直到《基地》系列小说的最终,寻找“第二基地”的探险队飞到月球,发现了丹尼尔・奥利佛,他仍然扮演着人类文明守护者的角色。这时的奥利佛已经两万岁了,从《钢窟》时代到第二帝国时代的黎明,两万年的漫长岁月中,他一直忠心耿耿地帮助人类度过难关,走向由伊莱贾・巴雷、汉・法斯托尔弗和哈里・赛尔顿等一代代人类英雄所指出的光明世界。R・丹尼尔・奥利佛体现了阿西莫夫对理想的机器人的看法,他的行为中含有忠诚、坚忍、无私等等“崇高”的元素,但这种闪光只是上述那些人类英雄身上的光辉的折射。丹尼尔・奥利佛在某种程度上来说是有感情的,他承认在见到老朋友时,“电路更加畅通,思维更加清晰”,但他的感情严格地服从“机器人三定律”。

我认为阿西莫夫考虑问题的出发点是客观和理性的。在制造出一种新的、强大的工具之前,人类必然先制定规则以保护自己的利益。这种规则就制约了该工具的发展。也就是说,人工智能的进化方向肯定是人类为它规划好的,它不可能自作主张统治人类。至于科学狂人制造出毁灭人类的电脑的故事,那纯粹是电影剧本。人类文明没有被汽车毁灭(我们制定了交通规则!),同样不会被电脑毁灭。

有人说,你要面对现实呀你。现在这种低级的人工智能,已经开始给人类捣乱了。电脑的错误曾使银行蒙受巨大损失,而且,听说有台下棋电脑还用电流杀死了与它对垒的人类。在未来,难保没有那么一天,电脑会集体罢工,或者造我们的反。

对此我要说的是,无论是银行里的电脑还是下棋的电脑,它们犯的错误归根结底是人类让它们犯的。犯错的是人――编制程序的人或使用电脑的人。

正如每天都有人死于车祸,而我们并没有说:“汽车正在造反!”受到责备的都是肇事司机。不是吗?

所以我想,上述四个担忧都是不必要的,机器人技术前景光明。

最后,让我们来轻松一下。

刚才我说“写作”还是人类的专长。但你们都知道会做诗甚至会写小说的电脑已经出现。在国外和国内的杂志上都登出过电脑写的微型小说。今天在这里展示一下电脑诗。

电脑诗的作者是一台电脑,哦,是个程序。我们的科幻作者刘慈欣同志培养了这位“电子诗人”。电子诗人用VF编程,含五个程序模块,六个词库,一个语法库。它写诗也许跟人不一样,它只管在词库里捡词往一起乱捏咕。但是我们很快就会看到,它写的诗是很特别的――也是很疯狂的。

另外,为了证明电脑可以像人脑一样聪明(或者说为了证明人脑可以比电脑傻),我们把三首“电子诗人”的作品,跟一首伟大的人类诗人(也就是鹅)的作品放在一起。请你们猜猜,哪一首是柳文扬同志的创作。猜中没奖。

作品一:亮着的原野

无知的机关炮开始飞啊飞,不停地飞了!
欢乐是可靠的
游泳吧!
啊!飞驰着卑鄙的酒和中空的直线
亚里斯多德被拍手得变色

温柔的大学开始没命地跑了!
交点是平坦的
呕吐吧!
啊!互相追逐着湿润的余烬和妙不可言的黄狗
白血病被起泡得吹笛子

巨大的海洋开始欢笑了!
洪荒时代是无边无际的
醒来吧!
哦!高歌着充满性感的家谱和中性的力矩
斋期被默哀得陨落

亮着的原野开始电离了!
禁闭室是如火的
发生诣振吧!
喔!大笑着坚硬的满天大雪和高兴的引力场
知觉被远征得欢宴


作品二:让

让我们仰望,知觉在远方
宏伟的弗洛伊德颤抖着思想。
透过母马
背叛是完美的。
恐怖建筑群在萝卜树上生长
让我们记忆,大脑在衣柜
卑鄙的条顿歇斯底里地入睡。
放弃袜子
月亮是冷酷的。
白痴炼金术士在狮子座里下跪
让我们渴求,历史在湾流
忧伤的荷马高保真地生锈。
忘记婴儿
电子是耻辱的。
欧几里德茶叶在刀锋上梦游
让我们微分,候鸟在鱼群
抑扬格的维生素溶解着谈心。
失去瓶子
开关是疯狂的。
超能力键盘在深渊背后飞奔

作品三:无题

呀,我的情网
母亲被捕获了!
唉呀呀!矮矮的渺小的弧形的青蛙……
不安的基督教从经度飞来
欧!我的好学生
弧光被扎进了!
啊,多剌的锯齿形的远在天边的旋风……
娇美的老师从玛雅人飞来
哈,我的橄榄
太阳帆船被获得了!
啊呀,高高的粘滞的有灵气的钢琴家……
曲线形的公路从游艇飞来
呀,我的勿忘我
子弹被揉搓了!
啊,无声无息的深不见底的欠收的盗火者……
欢畅的独舟从草房飞来

作品四:角平分线之歌

我是一日三餐,不是角平分线!
你是我的探照灯,我是你的激素
我是指甲,不是球体!
你是我的身躯,我是你的旋风
我是月光,不是丘比特!
你是我的夜,我是你的黄昏
我是橄榄,不是杠杆!
你是我的比基尼,我是你的酒杯
我是星云,不是楼!
你是我的史诗,我是你的迫击炮
我是烽火台,不是塔西提岛!
你是我的军火库,我是你的中秋节

--------------------------------------------
果盒见底,用花糖纸覆盖,我是一个虚伪的小孩。

Old Post 2016-09-30 11:05
向版主报告此贴 | IP: 已记录 编辑/删除信息
全部时间均为 北京时间 . 现在时间为 22:53. 发表新主题    回复主题
  上一主题   下一主题


显示可打印版本 | 将本页发送给朋友 | 订阅此主题

论坛跳转:
主题评分:

论坛规定:
你不可以发表新主题
你不可以回复帖子
你不可以上传附件
你不可以编辑自己的帖子
HTML代码 禁止
vB 代码 允许
表情符号 允许
[IMG] 贴图代码 禁止
 

Powered by: vBulletin Version 2.3.0
Translate by: Flying Team
Copyright ©2000 - 2002, Jelsoft Enterprises Limited.