一般探討AI人工智慧的書，大多著重在AI目前的發展、何時超越人腦、對人們工作的影響和我們如何教育下一代面對衝擊等"當前"的問題。而在麻省理工學院物理教授，也是「未來生命研究所」主席的鐵馬克(Max Tegmark)的著作 《LIFE 3.0 》，其中一個章節--「未知的來世：一萬年之後」，探討了 AI 與人類的"終極關係" 。
"一萬年" 是個籠統的概念，對於科學革命(牛頓起算)的 "五百年"歷程，「圖靈測試」提出至今的"七十年"來比，似乎很長；但對比宇宙的138億年，是彈指一瞬，即使尺度拉到和智人存在的二十萬年相較，也是微不足道。而那時的"智人"，是否會如《人類大命運》一書中所預言的，已進化成為了"神人"？
- 自由主義的理想國 (Libertarian utopia)
人類和不同型態的科技產物(生化人、意識轉移、超人工智慧等)和平相處。這時的人類可能獨立一區生存，也可能和其他"人"混居。但人類在其中最弱小，所以在自由競爭下應該會被欺負，不平安也不快樂。 - 仁慈的獨裁 (Benevolent dictator)
人類夠厲害，逐漸發展出各方面都有益於人類，帶給人類最大福祉的超人工智慧。最後，人類甘願在超人工智慧的獨裁下，享受最好的生活。這樣無憂無慮的子孫，真的快樂嗎?人類的生活還有意義嗎? - 平等主義的理想國(Egalitarian utopia)
人類和不同型態的科技產物一律平等，有如共產主義揭櫫所有人類平等的觀念，各盡所能，各取所需。人類可以貢獻的"能"應該最少，但和其他"人"卻享有同等權利，這種想法是有點天真。 - 守門員:人工智慧的霸主(Gatekeeper)
創造出了一個「人工智慧的霸主」，這個超人工智慧以防微杜漸的方式干擾其他同類的誕生。而人類一開始就幫這位霸主設定能力和目標，不會誤入歧途。這可讓人類永遠當家做主，但這種斷傷人類發展潛力的辦法會限制人類的視野。 - 守護天使(Protector god)
超人工智慧除擔任「人工智慧的霸主」外，同時讓人類掌握自己的命運。守護天使比「仁慈的獨裁」還好的是，不只提供安全的需求層次，還讓人類感受到自己活得有尊嚴，生命有意義。在守護天使細心呵護下，人類是否還需要"苦難"? 沒有"悲歡離合"，人的意義又是甚麼? - 神燈巨人(Enslaved god)
超人工智慧除擔任「人工智慧的霸主」、讓人類掌握自己的命運外，還永遠聽命於人類。神燈巨人要為善或為惡，就取決於人類了。這是人類自大的夢想。 - 征服者(Conquerors)
超人工智慧認為人類一無是處，而且更會破壞地球。「魔鬼終結者」和「駭客任務」等好萊塢電影常用的場景。人類雖不一定全部滅絕，但肯定很悲慘。 - 後繼者(Descendants)
和「征服者」不同的是，後繼者讓人類心甘情願地離開。超人工智慧若有人類相同的意識，延續發展人類文明，更有機會邁向宇宙，那人類是否還需要存在呢? - 動物園管理者(Zookeeper)
「征服者」保留並豢養了一些人類。那時人類是否會有悲慘的感覺，可問現在人類動物園裡面的動物們。 - 人類極權世界(1984)
人類的聯合國等類似組織訂定嚴刑峻法，有如《一九八四》的老大哥，禁止人工智慧的研發，使超人工智慧無法誕生。問題是人類有那麼團結嗎? 若北韓等流氓國家不配合呢? - 科技逆流(Reversion)
未來人類認為科技只會帶來苦難，想回到無憂無慮的田園生活。類似科幻小說《三體》裡描寫的黑域。這對本質求進步(貪婪)的人性來說，似乎是可笑的想法。 - 人類自我滅絕(Self-destruction)不必設想那麼多，說不定還沒到一萬年，人類早就因為核戰、氣候變遷、超級病菌等因素滅亡，來不及發展出超人工智慧。這可能性倒是不小。更何況還有小行星撞地球這些非人類可控制的因素。
AI來臨的情境特性
發揮想像，當然不只上述12種情境。若加上外星生命的變數、現在人們尚未知的新科技或生物潛能，答案會更趨多元且複雜。回想四十年前，我們沒有網際網路和行動裝置的概念，根本無法預知現在的生活情境。那我們現在對未來AI的認知是否就已成熟正確呢？若我們對未來AI的認知是錯誤的，那又怎麼能設想可能的情境呢？
沒有留言:
張貼留言