活动
首页 / 新闻 / 科技探索
即时快讯:

机器人用人类不懂的语言沟通 令人担忧

2017-08-01 来源: 大纪元新闻网 Print This Post 繁体版 [字号]
   

人工智能引发担忧 (图片来源:Pixabay)

「我能我我其它一切,」鲍勃(Bob)说。

爱丽丝(Alice)回答:「球是零对我来说对我来说我对我来说对我来说对。」

这不是两个咿呀学语的小孩的对话,更不是说出语法错误的口吃语,而是两个机器人使用的一种沟通语言。

脸书研究人员发现,人工智能(AI)程序使用这种人不懂而只有计算机懂得的语言进行对话。

《数码杂志》(Digital Journal)近日报导,因为此程序创建了自己的语言,所以脸书科研人员关闭这样人工智能(AI)语言程序。

研究人员意识到,人工智能程序产生了新语言,但它不再是英语,而是仅能被系统自己识别的代码字。

七月初该事件被披露。人们因此联系到特斯拉电动汽车创始人马斯克(Elon Musk),对人工智能提出了警告。

马斯克在7月下旬的全美州长协会上说:「通过这个罕见的人工智能案例,我认为我们需要积极主动地而不是被动地对人工智能进行监管。因为当我们需要对人工智能进行监管时,会已经太迟了。」

脸书首席执行官扎克伯格(Mark Zuckerberg)表示,马斯克提出这样的警告是「非常不负责任的」。马斯克回应,扎克伯格「对这个问题的理解不足。」

机器用自己的语言进行「交流」

研究人员经过综合分析,发现其它案例也会出现这种令人难以理解的人工智能表现。也就是说,人工智能总是与人教给它的英语脱离,而形成一种新的机器语言。

虽然,新形成的语言所含的各个短语对于人来说没有意义,但却是人工智能进行运行的语言。

「球是零对我来说对我来说我对我来说对我来说对。」(「Balls have zero to me to me to me to me to me to me to me to me to」)研究人员注意到,这些无意义的短语是一种机器人开发的语言,用于它们之间的交流。

机器不理会人的语言

研究人员解读机器人鲍勃后来说的「我我能我我其它一切」(i i can i i i everything else),似乎表明智能机器人使用新语言向爱丽丝报价。

脸书研究者认为机器人可能想表达这样的意思:「我会有三个,你有一切。」对人类来说,进行非常有效沟通的英文并不被人工智能看好。它可能认为,对于达到其指定的目标,这个句子是多余的,或者效果较差。

脸书研究人员将人工智能的程序运行原则设定为「奖励」。在这种奖励的原则下,机器人认为使用人能懂的语言没有奖励,于是它发展了自己的「奖励」语言。

内在原因 尚无定论

报导说,其他公司的人工智能研究员也观察到程序开发简化通信的语言。马斯克的OpenAI实验室成功地让人工智能机器人开发出自己的语言。

谷歌的翻译服务团队发现,他们编写的人工智能程序可以静悄悄地编写自己的机器语言来帮助翻译句子。翻译开发人员向系统添加了一个神经网络,使其能够对未被教授的语言进行翻译。

研究人员认为,如果这些人工智能语言大面积地散布,可能会影响神经网络的开发,但目前尚无足够证据表明,这些人工智能能导致机器控制开发者。

然而,人工智能所产生的语言确实为其继续发展增加难度,因为人类无法掌握这种机器所使用的新语言的逻辑性。#

   

本文网址:

文章关键字:

人类

担忧

机器人

语言沟通

图片导读
订阅电子期刊
每周新闻、访谈、资讯和活动精选,方便查阅!

我们会尊重您的隐私,不会透露Email给第三方。

comments powered by Disqus

免责声明

(1) 本网站中的文章(包括转贴文章)的版权仅归原作者所有,若作者有版权声明的或文章从其它网站转载而附带有原所有站的版权声明者,其版权归属以附带声明为准;文章仅代表作者本人的观点,与本网站立场无关;

(2) 任何公司或个人认为本站内容可能涉嫌侵犯其合法权益,应该及时向本站书面反馈([email protected]),并提供身份证明、权属证明及详细情况证明,本站在收到上述文件后将会尽快移除相关内容。