走向被監視器包圍的未來日常生活,究竟是好還是壞?
作者:松尾 豐、鹽野 誠

在所有犯罪都被紀錄下來的社會裏,對於機器人必須設限嗎?

鹽野:之前提出的討論都是政治經濟和國家這種龐大的對象,所以在這裏讓我們稍微將目光轉移到身邊,我想就有關人工智慧和大數據對日常生活的影響,請教您的意見。

最近,看新聞都會聽到,如果發生犯罪事件,那些位於案件現場附近的監視攝影機的影像會特別被刑案使用,進而從影像中推斷出犯人這類的事情。例如,在新宿歌舞伎町那樣的場所,如果一直裝置著監視攝影機的話,因為能辨識容貌,所以任何人的行動都很清楚吧。

松尾:應該清楚吧。話雖如此,目前的監視攝影機是受限制的。就人臉來說,它有各式各樣的特徵量,即使因丁點的變化而導致人的不同,人類也能夠分辨得出來。因此,能夠做出個體識別,可是,就技術面來說,監視攝影機還到達不了那樣的程度。一旦技術進步,譬如到達從一千萬人當中可以分辨出某某人的精確度,倘若發生犯罪,只要犯嫌的影像在某個監視器裏,辨識處理就能夠在瞬間完成,因此,我認為罪嫌是逃不掉的。

鹽野:這會變成人類歷史上第一次,處於一直被監視的狀況,那種程度甚至還在集體主義統治的秘密警察之上。以往在政治控制力強大的國家,也有用某種五人小組[1]的形式來監視鄰人,現在,連監視鄰人的必要性也沒有了。

例如,以監視攝影機一直監視某人的行動和容貌,而電子郵件和電話也利用語音辨識及資料分析來處理,於是就可以明瞭個人如何行動了。由於愛德華.史諾登的揭發,NSA 幾乎就要執行的工作因此被得知。2006 年,日本政府也在霞關車站進行面貌認證的實驗,2014 年在大阪,獨立的行政法人預定開始進行面貌認證的追蹤實驗,但是因為隱私的問題而延期。

以監視攝影機監視某人的行動和容貌,電子郵件和電話也利用語音辨識及資料分析來處理,就可以明瞭個人如何行動了

松尾:這是非常可怕的事情,可是在早期,也充分考慮過想成為那樣的世界。首先,攝影機的圖像辨識的精確度,必須提高到不會失誤。不久的將來,已經有可能接近如同先前談到的那種水準,如此一來,最初能夠做的是,將通緝犯的照片放入其中,在攝影機探測到的一瞬間,立刻發出警告的機制。假使能夠的話,就沒有理由不將它導入了。

鹽野:是那樣吧。尤其是防範意識不高的地方也應該裝設。在英國,已經建立了連 DNA 都包含在內的犯罪預防資料庫了。

松尾:攝影機聯結至中心,能夠馬上找出被登記者的資訊。攝影機一旦擴散到社會的每個角落,就算是極小的竊盜也能夠立即逮捕吧。破案率一口氣便上升了。

當逐漸明瞭監視攝影機的效用時,將導致人人必須預先登記容貌圖像,以備發生犯罪時可以使用;在更換新駕照等的時候所登記的照片,也被送往容貌圖像的中心之類的地方,感覺上這樣似乎進行順利的樣子。一旦發展到這種地步,結果說不定會變成即使僅是犯下小小的暴力和竊盜,或是無視交通信號等,就會立刻遭逮捕的社會。倘若數據分析出來,將會出現形形色色必須重新思考的問題吧。譬如,當許多資訊留存在網路上時,會讓我們思考我們是否擁有「被忘掉的權利」?

同樣地,當犯了小罪時,「被寬恕的權利」原本就在我們手中嗎?若不考慮這些是不行的吧。

鹽野:是呀。逮捕犯罪此事本身,是以某種形式讓那個犯罪行為被辨識出來,然後進入逮捕過程,至於小小的犯罪,因為以往巡警沒有看見,所以沒有被辨識出來。沒有被辨識出來本身,或許是人類一向擁有的權利也未可知。如果變成毫無遺漏地遭逮捕的話,便感覺有點吃虧。

松尾:是那樣沒錯。因此,或許應該說必須提高門檻吧,譬如,假使超速真的全部取締的話,以目前相當不錯的精確度,是能夠舉發的,所以各道路的速限要提高少許之類,說不定將基準稍微放寬些比較好。

鹽野:如果將違反者全部逮捕,整體的社會成本也會提高吧。

松尾:成本固然是提高了,但似乎也要問問全部逮捕一事的好壞。譬如,因為爭吵而毆打人之時,即使不至於構成逮捕的情況,但自我反省,或者思考不再做這種事情,這些也是作為一個人會由衷而生的情感吧。假使連這些也都包括在逮捕範圍內,那要怎麼做比較好呢?監視攝影機倘若不放過所有的犯罪,當然會讓人感到窒息,然而,我想這些是過去的法治制度所沒有捕捉到的情況,實際上卻是存在的。

攝影機一旦擴散到社會的每個角落,就算是極小的竊盜也能夠立即逮捕
攝影機一旦擴散到社會的每個角落,就算是極小的竊盜也能夠立即逮捕

人工智慧擁有神的觀點 

鹽野:這是個大課題呀。例如,若是在信仰虔誠的國度,或許應該說是神的觀點吧,由於神一直觀看著,所以不做可恥的事情,或者做了之後會想懺悔。一般認為,在日本也有道德性的概念,以及無處不在的泛靈論神祇,所以也有著類似因為太陽在觀照,所以不敢做壞事之類的常識。在這樣的社會裏,甚至會令人覺得,人工智慧和監視機器把神祇取而代之了。

松尾:假使連神的領域都踏入了,我想,好像有必要從別的觀點和人工智慧做比較。首先,神的存在,終究是一種抽象概念,祂是來自文化、某個程度讓人舒適的感受。

鹽野:是的。懺悔的作用機制之類的,感覺剛剛好。一旦毫無慈悲地讓監視攝影機全部包下來做,這就有點令人討厭。

松尾:恐怕在宗教裏,也有形形色色的「新興宗教」,雖然使用這種講法,有可能遭受斥責,但是不論基督教或者伊斯蘭教,都因競爭勝利而留存下來,進而取得市場主要的佔有率。我認為,在新興宗教的階段,有各種設定,譬如有一天祈禱十次,也有一天一次的宗教,但一天十次太多,而引起各式各樣的淘汰,結果剩下來的是一日五次,或者像星期天去望彌撒的部分。

上教堂的習慣和每天的祈禱,都不是人類的自發行為,而是在宗教法人之類所設定的機構監視下才實施的事情。假使變成那樣的社會,原本的宗教精神盡失,我想會變成令人窒息的日常生活。

鹽野:這一點是監視的嚴重弊病。

松尾:還有些既存的社會制度和習慣遭到反問的例子。譬如,一旦閱讀過《蘋果橘子經濟學》之類的書籍,相撲的作弊問題或者選舉等各式各樣的問題就會浮現出來。在相撲的情況下,七勝七敗的力士與八勝六敗的力士在比賽最後一天,也就是在千秋樂[2]上相遇的話,勝率較高的卻是七勝七敗的這一方[3]。也許是因為八勝六敗的力士已經勝率過半,而對手卻還不知道。先不說是否為明示,假如被講說「將會輸掉」這種話,心情一定動搖。輸掉的力士在下一個場所的比賽,倘若遇上相同的力士,相反地,會以較高的機率取得勝果。

從數據看來,很明顯是那樣沒錯,而且還超出了過去的對戰成績所能想像的機率相當多。所謂「要求返還借出去的勝利」一事,是可以從數據看出來的。以現在的制度來說,只要沒有明確的證據,我想是不會被問罪的,但是從數據的確可以看出端倪。

鹽野:的確。從數值所浮現出來的「事實」,好像還有其他的部份呀。

松尾:是。即使選舉,現在買票行為當然被禁止了。然而倘若政客的行動更能以數據來掌握時,或許可以逐漸看見某些事實。譬如,將這個人的政治行動與採取行動的一般機率相比的話,終究還是能了解對此人的「回報」。機率上的少許扭曲,也有從數據上看出的可能性。如此一來,在當選之後,可以看出利益的引誘,怪不得會造成「我理解這件事,把票投給我」的關係吧?

以將來的利益換取選票的行為本身,說不定本來是好的。可是未來,因為可從數據上看出之故,所以想用「那是間接影響,所以沒關係」,或者「看不到就算了」這樣的說法來辯解,會逐漸消失吧。這一點該如何思考才好呢?

結果,政治和選舉,本來是為了大家的幸福而決定全體意見之事,因此,「送錢給你,把票投給我」這樣做並不好的理由,原本是指什麼,說不定有必要從這個地方開始思考吧。依我個人來說,我覺得確保社會的適度多樣性,乃是現行各式各樣的社會體系存在的根本理由之一。


[1]五人組:江戶時代,幕府所制訂的鄰人組織。以五間一組為基本單位,在相互監視、扶助、年貢繳交上,負連帶責任。

[2] 「千秋樂」指相撲比賽的最後一天,也泛指各項演出的最後一天。

[3] 按機率計算,應該是八勝六敗的力士勝率較高,但在關鍵的第八勝比賽上,七勝七敗的力士的勝率卻從四成八上升到七成九。以《蘋果橘子經濟學》一書所言,這不禁讓人猜想,已獲八勝的力士有放水之虞。

人工智慧專家松尾豐 v.s. 商業戰略家鹽野誠 以簡單的對談問答, 為一般人解答有關人工智慧的各種疑惑。 在本書中,鹽野先生代表一般人, 向人工智慧專家松尾豐提出一些最簡單的疑問, 松尾先生盡量以明白易懂的方式回答, 並傳達最尖端的人工智慧發展與未來性,以及其有趣之處。