人人書

雜誌

保存到桌面 | 簡體人人書 | 手機版
傳記回憶文學理論偵探推理驚悚懸疑詩歌戲曲雜文隨筆小故事書評雜誌
人人書 > 雜誌 > 網絡機器人互相攻擊隻因他們太像人類

網絡機器人互相攻擊隻因他們太像人類

時間:2024-10-27 07:10:00

沒人預料到危機的來臨——一個破壞性的協作将“章魚哥”的參考文獻插入到與其完全無關的文章中。在2006年,維基百科開始無法容忍任何與“海綿寶寶”相關的錯誤插入玷污網站日益成長的聲譽。這很尴尬,必須有人阻止“章魚哥”。

維基百科社區知道,動用編輯力量來處理這些繁瑣的工作是不現實的,所以啟用了網絡機器人來自動标記不該被插入“章魚哥”的相關内容,并取得了成效。維基百科擊敗了“章魚哥”的威脅,并形成了與網絡機器人的強大聯盟。今天,數百個算法助手打擊各種各樣的破壞者,修複錯字,甚至自己創建文章,沒有它們,維基百科将一片混亂。

但是當把一堆網絡機器人限定在同一個虛拟空間的時候,有趣的事發生了:它們無法好好相處,有時一對機器人會互搏,在相當長的時間裡數千次覆蓋對方的決定。《PLOSONE》的一項最新研究顯示,這種情況并不少見,而原因在于無論機器人看上去多麼冰冷和精明,它們還是傾向于扮演人類的角色。這些是互聯網的好處,而不是機器人的種族主義,想象一下,人工智能驅動的個人數字助理在同一個房間裡終日争論不休,是GoogleHome還是Alexa會赢?

在維基百科,機器人處理那些令編輯抓狂的沉悶和單調的工作。機器人不會疲倦,不會對人類生氣。它們用人類無法匹敵的一緻性和熱愛來對待它們的工作。

維基百科編輯們之間的分歧會很快結束,而機器人之間的鬥争可以持續數月甚至數年。研究發現,維基百科英文版的網絡機器人比人類編輯更愛發生沖突:在十年的時間裡,每個機器人平均與其它機器人沖突超過105次,而人類編輯的平均值為3次。機器人失去理智是因為它們根本不知道怎樣做才好——畢竟它們隻是一些代碼。

但這并不意味着他們不值得信賴。機器人處理相對簡單的任務,如拼寫檢查,讓人類編輯可以專注于解決那些大問題。

機器人目前所做的工作遠超想象。維基百科英文版有大約30,000個活躍的人工編輯對應由代碼産生的大約300個活躍的機器編輯,但機器人具備瘋狂的生産力。“如果你把它們跟其它編輯放在一起,你甚至不容易注意到它們,”牛津大學這項研究的合作者之一TahaYasseri說,“但他們做了很多。機器人在不同語言中進行的所有編輯的比例在10%到40%~50%(某些特定語言版本)之間。”然而維基百科沒有變成一個血腥的機器人戰場,這是因為人類在密切監視着機器人。

野蠻的機器人

但是機器人不可避免地發生沖突,Yasseri認為。例如,研究發現在三年的時間裡,兩個監控維基百科上的雙重重新定向的機器人就像一對“活寶”。在大約1,800篇文章裡,機器人A共恢複了機器人B編輯的文章1,031次,而獲得B的906次贊同。這是因為命名約定的差異,例如,B将“意大利乳清奶酪”重定向到“裡科塔奶酪”,之前它重定向到“裡科塔”。然後A進入并恢複了這個變化。

維基百科争辯說,這些機器人并不是真正的“戰鬥”。維基媒體基金會首席研究科學家AaronHalfaker說:“例如,如果A執行了原始的雙重重定向清理,而B執行了第二次雙重重定向清理,那麼它們似乎會‘相互恢複’。”但在現實中,機器人正在協作,盡量減少維基的重新定向。

但是,Halfaker承認機器人彼此恢複可能看起來像沖突。“例如,你可能有一個編輯,希望确保維基百科上的所有英語語言列表都使用牛津逗号,而另一個編輯認為我們不應該使用牛津逗号。”但是維基百科有一個機器人批準過程來捕捉這些東西。“我們完全掌控目前正在運行的機器人。”他說。

此外,維基百科也一直監控他們的機器人。加利福尼亞大學伯克利分校數據科學家R.StuartGeiger說:“人們常常想象他們是完全自主的終結者,他們通過維基百科進行所有決策。但大多數情況下,很多這些機器人隻是人類編寫的相對簡單的腳本。”

人機合一時代

人類永遠是人類,而機器人表達人類的聰明才智和錯誤,讓它們與創造者在一個親密的意義上形成一個混合生物。“每當你在維基百科上閱讀一個機器人的時候,都把它當成一個‘人’。”Geiger說。一個人有一台始終開機的電腦,有一個運行在那台電腦上的工具,他們可以發布命令,他們可以說用Y替換X。

在“與人類過度相似”之前,Yasseri的研究也發現了不同維基百科語言的機器人社區之間的文化差異。“這是非常有趣,因為這是相同的技術,隻是在不同的環境中使用,并被不同的人使用,”Yasseri說,“為什麼會導緻很大的區别?例如,在德國維基百科的機器人相對來說沖突很少,而葡萄牙版的機器人則最愛發生沖突”。

這些差異可能看起來微不足道,但是這種洞察具有深刻的影響,因為人工智能越來越深入地影響着人類社會。想象一下,适應德國高速公路瘋狂速度的自動駕駛汽車如何與一輛适應葡萄牙巷道相對平靜的自動駕駛汽車互動。因此,不同版本的機器人在不同版本的維基百科上進行交互,可以預測人工智能機器人如何在不久的将來共處。

再想想在互聯網其它地方的人工智能,比如Twitter怎樣進入不同的電腦。機器人發出假新聞,模仿特朗普來騷擾特朗普的支持者。與維基百科的機器人編輯不同,這些機器人假裝人類愚弄别人。如果你認為維基百科的機器人有問題,那就想想與那些惡毒的人工智能之間的戰鬥吧。

但現在,維基百科的許多機器人合作、沖突,并保持“章魚哥”出現在合适的位置。

來源:《連線》Wired
   

熱門書籍

熱門文章