林大為:中文房間裡的alphago

插圖╱Tony chao

2016年3月15號下午5點,韓國棋士李世石投子認負,讓近年來最具意義的的圍棋比賽以一勝四敗的殘酷比分結束。李世石懊惱的往後一靠後,起身俯向棋盤,習慣性的想要與坐在他對面的對手覆盤檢討剛剛結束的棋局,這才想起這次自己的對手不是人類,而是一台電腦,更精確地說,一個程式—Alphago。

不同於以往舊有圍棋AI程式,只會照著工程師編寫的規則行棋,以至於遇到規則外或常識以外的棋型便可能走出離譜著手而導致輸棋。Alphago之所以能在這次的比賽中讓全世界的人一邊驚嘆,一邊低頭撿拾眼鏡碎片,是因為它運用了一套稱為「深度學習」(Deep Learning)的全新演算法組合,讓程式在學習規則與分析既有資料之外,還能透過這些資料進行自我學習,讓它即使遇到規則外、常識外的棋型,也能夠「像人一樣思考」並決策。Alphago不只是照本宣科,所以不會因為無本可考,便像過去的圍棋AI程式般輕易對例外繳械。

Alphago展現出的學習和反應,一般來說被稱為是心靈能力。這歸類可能讓人類和動物的獨特性受到威脅:既然Alphago透過這次比賽證明了它這些能力(而且效果十分顯著),我們是否應該承認他在某種意義或程度上擁有心靈?若哲學家約翰 ‧ 瑟爾在1992年提出的「中文房間論證」是對的,那麼我們必須對這個問題回答「NO」。

中文房間,一個著名的哲學思想實驗:

假設有個完全不懂中文的人在房間裡獨處,而房內有個名為「中文萬用手冊.pdf」的檔案,當中記載了中文裡所有可能的應對進退與對話內容應用,就算遇到了手冊中沒有的內容,也會像維基百科一樣即時蒐羅並編輯出最新網路梗與時事內容,讓內容永遠保持最新。而每當有人從屋外用中文與屋內的人溝通,屋內的人便翻閱該手冊,找出某一句最適合,甚至超越屋外那人想像,但更適合的回應後,照本宣科回應屋外的人(「中文萬用手冊.pdf」對於該按鍵盤上的哪些鍵才能打出恰當的回應,也有詳細明確的指示)。在這個情況下,我們應該要因為屋內的人總是可以「用中文」做出恰當回應,而認為他理解中文嗎

顯而易見,答案是否定的。因為屋內的人從頭到尾做的都只是照著手冊的指示按鍵盤而已,他從未真正理解那些中文字的意涵,因此我們不能說他理解中文。

身為一個用假想情況來引出人們直覺的思想實驗,中文房間主要的論證目標是「即便某個東西能展現的功能和具有心靈的東西一樣強大,這也不見得代表那東西有心靈」。在哲學上,瑟爾以這樣反面的方式,消極的否定了認為心靈可以被化約為某些特定功能的功能主義(functionalism)。

了解了中文房間論證,我們便可以如此理解Alphago:

在Alphago在下棋與學習下棋的過程中,所做的只是按照程式工程師為他編寫的,一本比較難的圍棋萬用手冊照本宣科,只是這次的這個「本」是全新的、超越屋外那人理解,但更適合的「本」而已,他還是必須透過別人為他編寫的萬用手冊與人類溝通。試想假如當初工程師對於其中一項圍棋規則理解有了些微的錯誤理解並且不小心將其輸入Alphago的程式中,Alphago也只會繼續按照著錯誤的規則學習下去,並成為一部擁有缺漏的圍棋AI。

更消極的說,對於Alphago而言,他下的每一盤棋,不過是運行一個龐大且美麗的函數與棋譜資料庫,藉由這兩樣東西,在棋局中計算每步棋的勝率,並且在棋局終了後改善其中參數,一切只是數字,他甚至不知道自己在做的這件事是下棋。因此即使擊敗了人類,即使展現了如此強大的功能,但在究其功能的源頭之後,或許我們依然無法尋得Alphago的「心靈」存在。

如果要強化這個論證,可以進一步說「目前無法闡述,而且就算以後能夠闡述,仍會落入中文房間的問題」。

當然,相對的問題,則是為什麼要會闡述才會「下圍棋」,或者為什麼要有心智才會「下圍棋」,或者為什麼要像人一樣或由血肉構成才會「下圍棋」。要找到一個不是「是先預設『不是xxx就絕對不會yyy』」的說詞,需要一些功夫。

另外也是一般對中文房間論證的質疑,或許也值得提一下:房間、手冊、人這三個裡面沒有任何一個「會說中文」,但是有可能「會說中文」的是「房間+手冊+人」。我相信類似的說法,就是我們的大腦沒有任何一個區塊個別來說有心智,是要整體運作之後心智才浮現。

哈囉,以下是我的意見~

我覺得你的文筆很好XD

在你的敘述下,中文房似乎也捕捉不到會產出新「知識」並加以利用的圖靈機(如把第一個程序的結果讓第二個程序使用,或者和某個對外偵測儀連線,用偵測儀捕捉到的數據來回答問題(如天氣))。

這個缺陷確實很可能是原版中文房的問題,但是如果中文房要代表的是圖靈機,那中文房應該要能夠做到所有圖靈機能夠做到的「行為類型」。哲學人會這樣幫中文房腦補,但是一般人不會,所以我有一點擔心你這邊的敘述方式會不會令人誤解中文房。(有沒有可能有厲害的規則手冊可以捕捉到deep learning?如果規則手冊有一些meta規則,例如「若收到如何如何的訊息,則進入___模式(如改為使用手冊第三章的規則應對),有沒有可能捕捉到DL?)

用另外一種說法:中文房要反對的是功能主義,所以你似乎不該說「因為中文房無法展現某種功能(如對最新網路流行詞彙做出恰當應對的功能),所以中文房沒有心靈╱智慧」。因為,就算中文房辦得到這件事,searle應該也不會說中文房有心靈。

我知道你提到學習新知識,是想要區分圖靈機和能深度學習的機器。考慮到這個寫作佈局,或許可以改一下架構,例如:

  1. AlphaGo展現了學習功能,我們好像可以說學習功能是一種心靈能力,所以我們似乎也該說AphaGo有心靈。是嗎?
  2. 哲學上有個中文房間論證,八拉八拉…
  3. 如果你覺得中文房間有說服力的話,中文房間告訴我們的重要道理,就是就算能展現再強大的功能,也不代表有心靈。
  4. 在深度學習裡,在我們看來,AlphaGo是在尋找「怎樣可以贏」,但其實AphaGo做的事情只是「不斷排除比較無助於達到工程師設定給他的目標(形成符合某種圍棋判準的棋面)的策略」。你可以想像,若假若當初所有參與計畫的工程師都搞錯圍棋的規則,以為輸才是贏,AlphaGo就會變成一台很會輸圍棋的電腦。但不管是實際上發生的狀況,還是我這個假想狀況,對AlphaGo來說,都沒有什麼有意義的差別,因為它只是在完成被輸入的指令而已。即便AlphaGo展現了某種智慧功能而贏得比賽,他也不知道他贏了,而我們依然無法說他有心靈。

原文:https://dl.dropboxusercontent.com/u/84272403/art/alpha.txt
網頁上目前是修改過的版本

強化論點這一方面確實學不少,重新想過之後我用了比較接近現在人生活體驗的中文房間去講,不知道這樣是不是還有所缺漏,但我原有的論點確實有很大的漏洞,不得不改善並重新思考。

會不會下圍棋跟能不能下圍棋這個論點我以為原文中並非要點,這個預設我寫字時確實沒有想過,有點預設上就偏頗了。

我覺得文章差不多了,剩下一些小事情:

崩潰(crash)也有程式因為出錯自動關閉的意思。考慮到這個歧義,我會建議改個詞。

超越理解聽起來有點玄,改成「超乎想像」會不會比較符合你的意思?

這個小結感覺可以更完整一點,例如:

由此可知,中文房間這一實驗主要的訴求是「即便某個東西能展現的功能和具有心靈的東西一樣強大,這也不見得代表那東西有心靈」。在哲學上,這樣反面的方式,消極的否定了認為心靈可以被化約為某些特定功能的功能主義(functionalism)。