男經理的命比女胖子的命更重要嗎?電車難題的實證研究


(Yel D'ohan) #1

你可能聽過電車難題:軌道上有五個人快要被火車撞死了,如果你拉一根操縱桿,可以讓火車轉向,變成只撞死一個人,你會拉嗎?這個問題還有許多種變形,例如如果你是在橋上,唯一救那五人的方法是把一個胖子推下橋擋住火車,你會推嗎?如果五個人是違規闖平交道,你還會救嗎?

有些人覺得這種問題很無聊,但事實上這可能在數年內就會對我們的生活造成影響。烙哲學以前介紹過這個問題:自動駕駛車在有些國家已經開始上路,在緊急情況必須有人被撞死的時候,人工智慧應該怎麼選擇?

為了幫助人們回答這個問題,一群麻省理工的科學家(以及哈佛、英屬哥倫比亞大學、土魯斯第一大學的合作者)寫了一個線上遊戲《道德機器》調查世界各地的人們面對各種情境會如何選擇。這遊戲前陣子很紅,你或許玩過。

上個月研究人員在《自然》期刊發表了研究結果。以下節錄一些重點和值得討論的主題。有興趣的人可以點這裡讀完整原文:Awad et al. 2018. The Moral Machine experiment. Nature 563:59–64.(可能要從學術機構連才能打開)

一共有來自兩百多個國家或領土的玩家們參與,共做了近四千萬個決定。平均來說,被犧牲的機率由高到低是這樣排的:貓(+15%)→犯法的人→狗→老女人→老男人→遊民→男胖子→女胖子(+0%)→男經理→男運動員→女經理→女運動員→女醫生→男醫生→孕婦→男孩→女孩→嬰兒車(-15%)。

是的,平均來說,人們認為狗比貓重要,而且狗的命甚至比罪犯的命重要(遊戲中的圖案是拿著一袋錢的蒙面者,沒證據指出他有傷人)。女性比男性重要。小孩比老人重要。醫生和經理比遊民重要。

除此之外,犧牲一個人好過犧牲許多人;讓車上的人死好過撞死路人;還有車子應該保持直走而不是試圖避開。

但是這些偏好只是平均,在不同的人之間有很大的差異,沒有任何一種特質可以保證被救;即使是偏好最明顯的「救四個人或只救一個人」,也只有不到 85% 的人選擇優先救四個人,有超過15%的人選擇去救那一個人。

研究員接著試圖找出這些差異的成因。首先看的是年齡、教育程度、性別、收入、政治和宗教立場,結果發現都沒有固定的影響。選擇救女性的機率,男性比女性低0.06%、選擇救人的機率,有宗教信仰的人高0.09%,但是本來救女性的機率就已經比救男性的機率高10%以上、救人的機率比救動物的機率高50%以上,所以這小於 0.1% 的差異實在微不足道。

但是不同文化背景則有明顯的影響。

  1. 西方國家的立場大多相近,其中北歐以及前英屬國家又都各自相近。或許因為大多數參與的玩家都來自這些國家,所以西方國家的結果和整體平均值最接近。這在心理學是個已知的問題,這些所謂的WEIRD國家(Western Educated Industrialized Rich Democratic,西方高教育工業化有錢民主國家)在心理學研究中佔了大多數,但這些WEIRD的結果不見得適用於其他地方。所幸這篇研究也有非常多來自其他地方的結果。

  2. 中南美洲的國家彼此類似,法國和其前屬地也都類似。他們特別重視女人、小孩、以及社會地位高的人,但是偏好救人(而非動物)的程度低於其他地區。他們也比其他國家更想試圖做點事,讓車子繼續直走的傾向比較低。

  3. 東亞和伊斯蘭教國家結果類似(和台灣最接近的國家依續是泰國、韓國、中國大陸)。這些文化背景的人不像其他國家的人那麼偏好救女性、體格苗條的人、社經地位高的人、小孩、以及人數多的一方。

如果更仔細來看每個國家的文化特質,則有以下發現:

  1. 偏向個人主義的國家更重視人命的數量,集體主義的國家則比較敬老尊賢,不那麼偏好先救小孩和多數人。

  2. 貧窮的國家比較會同情闖紅燈的路人。有錢、法治程度高的國家則偏好救守法的人。

  3. 經濟差異大的國家,人們對待不同地位的人的方式差異更大,社經地位高的人更容易被救,遊民更容易被犧牲。

  4. 性別差異高的國家,偏好救女性的程度較低。

這些結果該怎麼應用和解讀呢?研究者並不是希望用這個研究來決定車子應該怎麼設計,而是指出一些可能被忽視的問題。

道德決定應該讓公眾投票決定嗎?人權宣言說所有人不論性別、年齡、社經地位……一律平等,目前世界上唯一有關自動駕駛的道德規範(德國政府訂的)也規定不能依據個人特質決定誰生誰死。但是這篇研究結果卻又顯示人們明顯偏好先救女性和小孩,我們應該忽視大家的偏好嗎?乍看之下,如果一定有人要死,挑一下死的是誰,取回一點決定權,似乎好過完全不管。但是一但做了這種選擇,那就是承認了人命的價值並不相同、有些人是次等公民,生存權不如其他人。或許讓電腦隨機決定誰死還比較好?

不論我們是否應該寫程式決定別人的生死,這研究明確地指出不同文化背景的人有不同的道德立場。不但如此,我們的道德感還會受經濟狀態這類外在因素影響。既然如此,我們能信任我們的道德感會幫助我們作出正確的決定嗎?甚至,真的有所謂「正確」的決定嗎?但是如果我們認定世上沒有普世通用的道德標準,那麼如果有個文化中有活人獻祭、虐待、奴隸制度等等,是否也只能尊重?普世人權和文化差異的界線在哪?

這些問題其實已經討論了上千年,一直沒有明確的結論,但是因為科技發展,我們必須盡快回答這些問題。如果不處理,那就是變成讓科技公司幫我們做決定。


(朱家安) #2

這篇報導滿完整的,我沒有什麼意見,只是想請作者評估一下,要不要把這個連結放進來,這是過去烙哲學的相關文章,放在文中相關段落,應該會是不錯的延伸閱讀。


(Yel D'ohan) #3

好建議!已加入。