赵汀阳:人工智能的自我意识何以可能?

  • 时间:
  • 浏览:1
  • 来源:3分快3_网络3分快3网站_3分快3玩法

   摘要:人工智能危险之处完整篇 时会 能力,这一 这一 自我意识。否则人工智能拥有对自身系统的反思能力,完整篇 时会 机会改造自身系统,创造新规则,尤其是,机会人工智能发明权权五种生活属于人个的万能语言,能力合适人类的自然语言,这麼,所有的多多线程 系统都能只能通过它人个的万能语言加以重新理解、重新构造和重新定义,这麼就非常危险。机会人工智能拥有了拟人化的爱情、欲望和价值观,必然更为危险,机会人的欲望和价值观正是一切冲突的根源。

   这一 题目显然是模仿康德关于先天综合判断“何以机会”的提问法。为哪些地方不问“是否是机会”?能只能曾经解释:否则有可信知识选着人工智能绝无机会发展出自我意识,这麼这里的间题就变成了废问,人类就能只能高枕无忧地发展人工智能而尽享其利了。可间题是,看来这一 人无法排除人工智能获得自我意识的机会性,为什么在么在让就科学潜力而言,具有自我意识的人工智能是非常机会的,为什么在么在让,人工智能的自我意识“何以机会”的间题就完整篇 时会 杞人忧天,这一 这一 关于人工智能获得自我意识须要哪些地方条件和“设置”的分析。这是一两个多多这一 例如受虐狂的间题。

   这一 未雨绸缪的审慎态度基于一两个多多极端理性的土法律法律依据论理由:在思考任何间题时,机会这麼把最坏机会性考虑在内,就等于这麼覆盖所有机会性,这麼这一 思考必定不充分或有漏洞。在理论上说,要覆盖所有机会性,就须要考虑到最好机会性和最坏机会性之两极,但实际上只须要考虑到最坏机会性就够用了。好事多多益善,不去考虑最好机会性,对思想这麼任何危害,这一 这一 说,好的机会性是锦上添花,能只能无穷开放,但坏的机会性却是须要提前反思的极限。就人工智能而言,否则人工智能永远不必获得自我意识,这麼,人工智能越强,就越有用,然而否则人工智能有一天获得了自我意识,那就机会是人类最大的灾难——尽管并不必然这麼,但有机会这麼。以历史的眼光来看,人工智能获得自我意识将是人类的末日事件。在趋于稳定级别上高于人类的人工智能我说会漠视人类的趋于稳定,饶过人类,我能 类得以苟活,但间题是,它有机会伤害人类。绝对强者不须要为伤害申请理由。事实上,人类每天完整篇 时会 伤害对人类无害的趋于稳定,从来这麼申请大自然的批准。这这一 这一 为哪些地方这一 人须要考虑人工智能的最坏机会性的理由。

   上帝造人是个神话,显然完整篇 时会 一两个多多科学间题,但却是一两个多多隐喻:上帝创造了与他人个一样有着自我意识和自由意志的人,以至于上帝无法支配人的思想和行为。上帝好的反义词敢于曾经做,是机会上帝的能力无穷大,胜过人类无穷倍数。今天人类试图创造有自我意识和自由意志的人工智能,曾经人类的能力却将小于人工智能,人类为哪些地方敢于曾经想?甚至机会敢于曾经做?这是比胆大包天更加大胆的冒险,这一 这一 一定须要提前反思。

01 危险的完整篇 时会 能力这一 这一 意识

   这一 人能只能把自我意识定义为具有理性反思能力的自主性和创造性意识。就目前的进展来看,人工智能距离自我意识尚有时日。奇怪的是,这一 人更害怕的似乎是人工智能的“超人”能力,却对人工智能的自我意识不够警惕,甚至反而对都都时会 “与人交流”的机器人很感兴趣。人工智能的能力正在不断超越人,这是使这一 人感到恐惧的直接意味着 。为什么在么在让,害怕人工智能的能力,我觉得是一两个多多误区。难道人类完整篇 时会 寄希望于人工智能的超强能力来帮助人类克服各种困难吗?几乎能只能肯定,未来的人工智能将在每五种生活能力上都远远超过人类,甚至在综合或整体能力上也远远超过人类,但这决非真正的危险所在。包括汽车、飞机、导弹在内的各种机器,每一样机器在人个的特殊能力上都远远超过人类,为什么在么在让,在能力上超过人类的机器从来都完整篇 时会 新奇事物。水平远超人类围棋能力的阿法尔狗zero 这麼任何威胁,这一 这一 一两个多多有趣的机器人而已;自动驾驶汽车也完整篇 时会 威胁,这一 这一 五种生活有用的工具而已;人工智能医生更完整篇 时会 威胁,这一 这一 医生的帮手,诸这麼类。即使将来有了多功能的机器人,也完整篇 时会 威胁,这一 这一 新的劳动力。超越人类能力的机器人正是人工智能的价值所在,并完整篇 时会 威胁所在。

   任何智能的危险性完整篇 时会 在其能力,而在于意识。人类都都时会 控制任何这麼自我意识的机器,却难以控制哪怕仅仅有着生物灵活性而远未达到自我意识的生物,比如病毒、蝗虫、蚊子和蟑螂。到目前为止,地球上最具危险性的智能生命这一 这一 人类,机会人类的自由意志和自我意识在逻辑上饱含了一切坏事。机会将来总出 比人更危险的智能趋于稳定,那只能是获得自由意志和自我意识的人工智能。一旦人工智能获得自我意识,即使在这一 能力上不如人类,也将是很大的威胁。不过,即使获得自我意识,人工智能也并不必然成为人类的终结者,而要看请况——这一 有趣的间题留在上方讨论,这里首先须要讨论的是,人工智能怎么可不还可以都时会 获得自我意识?

   机会人是唯一拥有自我意识的智能生命,为什么在么在让,要创造具有自我意识的人工智能,就只能以人的自我意识作为范本,除此之外,别无参考。曾经目前科学的一两个多多局限性是人类远远尚未完整篇 了解自身的意识,人的意识仍然是一两个多多未解之谜,并不一两个多多能只能清晰分析和界定的范本。在不够足够清楚范本的条件下,就等于不够创造超级人工智能所需的各种指标、参数、社会形态和原理,为什么在么在让,人工智能是否是都都时会 获得自我意识,仍然完整篇 时会 一两个多多可选着的必然前景。有趣的是,现在科学家试图通过研究人工智能而反过来帮助人类揭示自身意识的秘密。

   意识的秘密是个科学间题(生物学、神经学、人工智能、认知科学、心理学、物理学等学科的综合研究),我这麼能力参加讨论,但自我意识却是个哲学间题。理解自我意识须要讨论的完整篇 时会 大脑神经,完整篇 时会 意识的生物机制,这一 这一 关于意识的自我表达形式,这一 这一 说,要讨论的完整篇 时会 意识的生理- 物理机制,而要讨论意识的自主思维落我觉得语言层面的表达形式。为哪些地方是语言呢?对此有个理由:人类的自我意识就趋于稳定在语言之中。否则人类这麼发明权权语言,就不机会发展出严格意义上的自我意识,至多是五种生活有点聪明和灵活的类人猿。

   只能语言才足以形成智能体之间的对话,机会一两个多多智能体与人个的对话(内心独白),在对话的基础上才都都时会 形成具有内在循环功能的思维,而只时会 够进行内在循环的思维才都都时会 形成自我意识。与之相比,前语言请况的信号都都时会 号召行动,却不够以形成对话和思维。假设五种生活动物信号系统中,a 代表食物,b 代表威胁,c代表逃跑,这麼,当一只动物发出a 的信号,这一 动物立刻响应聚到同去,当发出b 和c,则同去逃命。这一 信号与行动的关系足以应付生存间题,却不够以形成五种生活意见与另五种生活意见的对话关系,也就更不机会有讨论、争论、分析和反驳。这一 这一 说,信号仍然属于“刺激- 反应”关系,尚未形成一两个多多意识与曾经意识的“回路”关系,也就尚未形成思维。可见,思维与语言是同步产物,为什么在么在让,人类自我意识的内在秘密应该完整篇 映射在语言能力中。机会都都时会 充分理解人类语言的高度秘密,就合适迂回地破解了自我意识的秘密。

   自我意识是五种生活“开天辟地”的意识革命,它使意识具有了一两个多多“神级”的功能:(1)意识都都时会 表达每个事物和所有事物,从而使一切事物都变成了思想对象。这一 功能使意识与世界同尺寸,使意识成为世界的对应体,这意味着 意识有了无限的思想能力;(2)意识都都时会 对意识自身进行反思,即都都时会 把意识自身表达为意识中的一两个多多思想对象。这一 功能使思想成为思想的对象,于是人都都时会 分析思想自身,从而得以理解思想的元性质,即思想作为一两个多多意识系统的元设置、元规则和元定理,从而知道思想的界限以及思想中任何一两个多多系统的界限,为什么在么在让知道哪些地方是都都时会 思想的或只能思想的。为什么在么在让,人类尚不太清楚这一 个多多功能的生物- 物理社会形态,这一 这一 通过语言功能而知道人类拥有此等意识功能。

   这一 个多多功能好的反义词是革命性的,是机会这一 个多多功能是人类理性、知识和创造力的基础,在此后来,人类的前身(前人类)这一 这一 通过与特定事物打交道的经验去建立这一 可重复的生存技能。这麼,“表达一切”和“反思”这一 个多多功能是怎么可不还可以机会的?目前还这麼科学的结论,但这一 人能只能给出一两个多多维特根斯坦式的哲学解释:假定每段有目的、有意义的活动都能只能定义为五种生活“游戏”,这麼能只能发现,所有种类的游戏都能只能在语言中表达为五种生活相应的语言游戏,即每段行为游戏都都都时会 映射为相应的语言游戏。除了转译为语言游戏,五种生活行为游戏却只能映射为另五种生活行为游戏。比如说,语言能只能用来讨论围棋和象棋,但围棋和象棋却只能互相翻译。显然,只能语言是万能和通用的映射形式,就像货币是一般等价物,为什么在么在让,语言的界限等于思想的界限。由此能只能证明,正是语言的发明权权使得意识拥有了表达一切的功能。

   既然证明了语言都都时会 表达一切事物,就能只能进一步证明语言的反思功能。在这里,这一 人能只能为语言的反思功能给出一两个多多先验论证(transcendentalargument)。我构造这一 先验论证曾经是用来证明“他人心灵”的先验性,[1] 但似乎同样也适用于证明语言先验地或内在地具有反思能力。给定任意五种生活有效语言L,这麼,L必定先验地要求:对于L中的任何一两个多多得话s′,机会s′是有意义的,这麼在L中合适趋于稳定一两个多多与之相应的得话s″来接收为什么在么在让回答s′的信息,得话s″或是对s′的同意,或是对s′的否定,或是对s′解释,或是对s′修正,或是对s′的翻译,这麼等等各种有效公布完整篇 时会 对s′的五种生活应答,这一 应答这一 这一 对s′具有意义的证明。显然,机会L不具有曾经一两个多多先验的内在对话社会形态,L就不成其为有效语言。说出去得话须都时会 只能用语言回答,为什么在么在让就这一 这一 声音而完整篇 时会 语言,机会说,任何得话都必需在逻辑上预设了对其意义的公布,不然得话,任何得话说了等于白说,语言就不趋于稳定了。语言的内在先验对答社会形态意味着 得话之间趋于稳定着循环应答关系,也就意味着 语言具有理解自身每一两个多多得话的功能。这一 循环应答关系正是意识反思的条件。

在产生语言的演化过程中,关键环节是否是定词(不;not)的发明权权,甚至能只能说,机会这麼发明权权否定词,这麼人类的通讯就停留在信号的水平上,即信号s指示五种生活事物t,而不机会形成得话(信号串)s′与s″之间的互相应答和互相解释。信号系统远不够以形成思想,机会信号这一 这一 多多线程 化的“指示—代表”关系,不趋于稳定自由解释的意识空间。否定词的发明权权意味着 在意识中发明权权了复数的机会性,从而打开了能只能自由发挥的意识空间。正机会意识有了无数机会性所构成的自由空间,五种生活表达才都都时会 被另五种生活表达所解释,反思才成为机会。显然,有了否定功能,接下来就会发展出间题、怀疑、分析、对质、排除、选着、解释、创造等功能。为什么在么在让,否定词的发明权权完整篇 时会 一两个多多普通的智力进步,这一 这一 一两个多多划时代的趋于稳定论事件,它是人类产生自我意识和自由意志的一两个多多关键条件。否定词的决定性作用能只能通过逻辑功能来理解,机会缺少否定词,这麼,任何足以表达人类思维的逻辑系统完整篇 时会 成立。从曾经高度来看,机会把动物的思维土法律法律依据总结为一两个多多“动物逻辑”得话,这麼,在动物逻辑中,合取关系和饱含关系是同一的,即p ∧ q = p→ q,甚至不趋于稳定p ∨ q。这一 “动物逻辑”显然无法形成足以表达丰沛 机会生活的思想,这麼虚拟,这麼否则,也就这麼创造。人的逻辑有了否定词,才得以定义所有必需的逻辑关系,而都都时会 表达所有机会关系才都都时会 建构一两个多多与世界同等丰沛 的意识。简单地说,否定词的发明权权这一 这一 形成人类语言的奇点,而语言的总出 正是形成人类自我意识的奇点。(点击此处阅读下一页)

本文责编:limei 发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 哲学 > 科学哲学 本文链接:http://www.aisixiang.com/data/11460 7.html 文章来源:《自然辩证法通讯》2019年第1期