活動
首頁 / 新聞 / 科技探索
即時快訊:

機器人用人類不懂的語言溝通 令人擔憂

2017-08-01 來源: 大紀元新聞網 Print This Post 简体版 [字號]
   

人工智能引發擔憂 (圖片來源:Pixabay)

「我能我我其它一切,」鮑勃(Bob)說。

愛麗絲(Alice)回答:「球是零對我來說對我來說我對我來說對我來說對。」

這不是兩個咿呀學語的小孩的對話,更不是說出語法錯誤的口吃語,而是兩個機器人使用的一種溝通語言。

臉書研究人員發現,人工智能(AI)程序使用這種人不懂而只有計算機懂得的語言進行對話。

《數碼雜誌》(Digital Journal)近日報導,因為此程序創建了自己的語言,所以臉書科研人員關閉這樣人工智能(AI)語言程序。

研究人員意識到,人工智能程序產生了新語言,但它不再是英語,而是僅能被系統自己識別的代碼字。

七月初該事件被披露。人們因此聯繫到特斯拉電動汽車創始人馬斯克(Elon Musk),對人工智能提出了警告。

馬斯克在7月下旬的全美州長協會上說:「通過這個罕見的人工智能案例,我認為我們需要積極主動地而不是被動地對人工智能進行監管。因為當我們需要對人工智能進行監管時,會已經太遲了。」

臉書首席執行官扎克伯格(Mark Zuckerberg)表示,馬斯克提出這樣的警告是「非常不負責任的」。馬斯克回應,扎克伯格「對這個問題的理解不足。」

機器用自己的語言進行「交流」

研究人員經過綜合分析,發現其它案例也會出現這種令人難以理解的人工智能表現。也就是說,人工智能總是與人教給它的英語脫離,而形成一種新的機器語言。

雖然,新形成的語言所含的各個短語對於人來說沒有意義,但卻是人工智能進行運行的語言。

「球是零對我來說對我來說我對我來說對我來說對。」(「Balls have zero to me to me to me to me to me to me to me to me to」)研究人員注意到,這些無意義的短語是一種機器人開發的語言,用於它們之間的交流。

機器不理會人的語言

研究人員解讀機器人鮑勃後來說的「我我能我我其它一切」(i i can i i i everything else),似乎表明智能機器人使用新語言向愛麗絲報價。

臉書研究者認為機器人可能想表達這樣的意思:「我會有三個,你有一切。」對人類來說,進行非常有效溝通的英文並不被人工智能看好。它可能認為,對於達到其指定的目標,這個句子是多餘的,或者效果較差。

臉書研究人員將人工智能的程序運行原則設定為「獎勵」。在這種獎勵的原則下,機器人認為使用人能懂的語言沒有獎勵,於是它發展了自己的「獎勵」語言。

內在原因 尚無定論

報導說,其他公司的人工智能研究員也觀察到程序開發簡化通信的語言。馬斯克的OpenAI實驗室成功地讓人工智能機器人開發出自己的語言。

谷歌的翻譯服務團隊發現,他們編寫的人工智能程序可以靜悄悄地編寫自己的機器語言來幫助翻譯句子。翻譯開發人員向系統添加了一個神經網絡,使其能夠對未被教授的語言進行翻譯。

研究人員認為,如果這些人工智能語言大面積地散布,可能會影響神經網絡的開發,但目前尚無足夠證據表明,這些人工智能能導致機器控制開發者。

然而,人工智能所產生的語言確實為其繼續發展增加難度,因為人類無法掌握這種機器所使用的新語言的邏輯性。#

   

本文網址:

文章關鍵字:

人類

擔憂

機器人

語言溝通

圖片導讀
訂閱電子期刊
每周新聞、訪談、資訊和活動精選,方便查閱!

我們會尊重您的隱私,不會透露Email給第三方。

comments powered by Disqus

免責聲明

(1) 本網站中的文章(包括轉貼文章)的版權僅歸原作者所有,若作者有版權聲明的或文章從其它網站轉載而附帶有原所有站的版權聲明者,其版權歸屬以附帶聲明為準;文章僅代表作者本人的觀點,與本網站立場無關;

(2) 任何公司或個人認為本站內容可能涉嫌侵犯其合法權益,應該及時向本站書面反饋([email protected]),並提供身份證明、權屬證明及詳細情況證明,本站在收到上述文件後將會儘快移除相關內容。