虛幻與現實：大眾媒體中的機器人形象對機器人倫理學的啟示
來源:用戶上傳
作者:
摘 要 對于機器人倫理學研究，目前主要都集中于阿西莫夫提出的“機器人學三定律”，但大眾媒體中的機器人形象，不論是小說還是影視，已遠遠超出了“三定律”所能規范和解釋的范疇。相反，大眾媒體中機器人的各種創新，從某種意義上說，很可能為目前機器人倫理學研究開辟更大的戰場，提供更豐富的研究依據和展望。文章對大眾媒體，如小說、影視等，做了大致梳理，借此為機器人倫理學研究提出新的切入點。
關鍵詞 機器人倫理學；“機器人學三定律”；科幻小說；科幻影片；大眾媒體
中圖分類號 G2 文獻標識碼 A 文章編號 1674-6708（2019）235-0118-02
科幻作品對人類科技的推動是巨大的，其中“機器人（robot）”一詞，最早就是出現在文學作品中。這一詞匯誕生于荒誕劇，正式進入英語后，便成為“機器人”的專用詞匯，機器人開發研究也隨之而來。隨著這一研究的不斷深入，科學界近年來提出了一個新的概念——機器人倫理學。作為一個專業術語的“機器人倫理學”首次由Gianmarco Veruggio提出。在他的觀念里，人類應該在機器人引發各類危險前找出控制方法。
Veruggio認為人類目前面臨的問題不是為一大群半智能類人機器人制定道德規范，而是那些功能遠遠超過人類水平的高級人工智能。在他看來，機器人、仿生人、模擬大腦什么的都無關緊要，一二十年之后將要面對的真正的大問題——為超級智能開發倫理道德[1]。
這一概念如同一顆驚雷，打破了原本的平靜，研究學者和研發專家就這一命題積極展開討論并進行深入研究。
1 機器人倫理學發展
目前我國機器人倫理研究方面，一些學者表示，對于機器人倫理學，應從“安全問題”“法律和倫理問題”以及“社會問題”三大問題域來提出機器人論理學[2]。還有一些學者提出，不同文化、意識形態背景下存在使用機器人的倫理標準也不盡相同[3]。但受制于目前科學技術水平，這些無異于紙上談兵，空有理論卻得不到實際證實。
與此同時，在現實操作中，我們發現人工智能在我們的生活中日益增多，不斷觸發各種倫理問題。例如，新京報在2013年5月刊登了一篇題為“聯合國討論封殺‘殺人機器人’”的文章。文中提到，聯合國人權理事會特別調查員克里斯多夫·海因斯強烈反對這一研發項目，要求立即終止“殺人機器人”的研發和應用。但這簡直就是蜉蝣撼樹。大家都知道現代軍事科技的一大發展趨勢便是開發和應用“殺人機器人”，這一研究一定程度上代表了一個國家軍事科技水平。
在這種情況下，應用倫理學研究必須認真對待機器人的道德倫理問題，這一研究也成為一個亟待開發的新領域。機器人倫理問題是一個涉及到多領域的交叉性學科，要開發研究該領域，不僅需要跨學科、多層次的人才，甚至需要聯合機器人進行研究。
有研究學者從文學作品出發，對機器人倫理學研究提出了大膽的預測，認為機器人倫理有可能帶領人類倫理走向新的高度。筆者在2013年發表一篇“科學小說的生命倫理探究”的文章，指出科學小說作者應秉持科學態度，對人類社會的未來做出有依據的預測，并永于承擔相應的責任[4]。美國學者Susan Leigh Anderson在其“Asimov’s ‘three laws of robotics’ and machine metaethics”一文通過分析阿西莫夫的《活了兩百歲的人》，提出機器人或許可以自己發展自我倫理學，因為倫理學并不是某種可以用計算機演算的學科[5]。這兩篇研究論文都為研究者帶來了一個新的倫理學研究方向，即基于機器人科學小說的倫理學研究。
2 美國大眾媒體中的機器人倫理發展史
從20世紀30年代開始，隨著科學的迅速發展，有關機器人的科學小說數量劇增，但大多都以鋼鐵類機器人為主題。其中貢獻最大的，非美國科幻小說作家艾薩克·阿西莫夫莫屬。
阿西莫夫與著名科幻編輯坎貝爾在20世紀40年代，認為小說中機器人的“怪物”“惡魔”“毀滅者”的負面形象狀況應得以改觀，兩人一同為機器人制定出一套基本的行為規范和道德準則，試圖依靠這套標準使機器人成為人類的朋友和伙伴[6]。這套標準首先出現在阿西莫夫的小說《我，機器人》中，被命名為“機器人學三定律”：
第一定律：機器人不得傷害人類，也不得在人受到傷害時袖手旁觀；
第二定律：機器人必須服從人的命令，前提是不違反第一定律；
第三定律：機器人必須保護自己，前提是不違反第一、第二定律。
值得說明的是，這三定律并非完美無暇，作為補充，阿西莫夫在后續小說作品中又補充了“第零定律”，即機器人必須以人類的整體利益不受傷害為第一前提。只有在這一前提下，其它三條定律才能成立。在這一道德準則指導下，阿西莫夫有關機器人的一系列科幻小說才得以面世。在他的筆下，機器人不是背叛人類、為害四方的惡魔，雖然這些機器人或多或少還是會受到各種心理問題的困擾，但他們一直是人類忠心耿耿的朋友和伙伴。在與人類的互動中，這些心理問題最終得到解決。而這正是阿西莫夫創作機器人系列小說故事情節的基礎。
假如阿西莫夫小說的構想全部能夠實現，那些鋼鐵機器人真有可能永遠陪伴人類、臣服于人類，也根本不會出現“機器人與人類為敵”的情況了。但是，這三條定律并非完美，對此的質疑之聲不絕于耳。比如波蘭科學小說作家萊姆就曾提出：按西莫夫的“機器人學三定律”幾乎是不可能做到的，它對技術的要求極高。比如按西莫夫在“機器人學三定律”中提到“機器人不得傷害人類”，要做到這一條，就必須為機器人的大腦程序安裝一種保險裝置。而這種保險裝置的工作原理是基于統計學和概率學的計算的，也就是說只要一個機器人有萬分之一可能性會傷害人類，為了防止這種情況出現，必須給它配備超高保險系數的保險裝置，其結果只能是機器人變得呆滯[7]。可見，“三定律”并非是萬能的。 而科幻小說作家總是喜歡大膽幻想，不會受困于技術條件，他們創作的機器人智能越來越高，甚至超出了人類所能控制的范圍。蘇姍妮·范·魯尹的作品《我愛機器人》中，音樂天才機器人奎因因為在學校與人類孩子的接觸，而引發機器人對自身身份的思考。奧爾迪斯的短篇小說《月光掠影》中象征人類進化的隊伍之中，人類卻越來越少，而越來越多的是機器。甚至喬治·奧威爾在其小說《1984》中就描寫到窮人所讀的書都是機器人寫的……文學創作中的機器人形象層出不窮，正邪難辨。他們不再是人類的仆從，他們具有思考寫作能力，具備獨立的機器人格，要求“機器人權”……“三定律”的倫理標準越來越難以應付這些新狀況。
同時，隨著電影技術的發展，許多機器人形象被搬上了銀幕，更為直觀，也更加生動地展現給世人。比如阿西莫夫的小說《我，機器人》改編的電影《機械公敵》，影片中的機器人發生叛亂并試圖控制人類。由小說《機器人會夢見電綿羊嗎？》改編的影片《銀翼殺手》，這里不僅有與人類一般無二的機器人，甚至還出現了人類與機器人之間的愛情。影片《機械紀元》則講述了機器人尋求自由的歷程。這些小說及影片中都涉及了統治與被統治、權利、愛情、自由等這些倫理主題。但如果僅僅展現這些故事情節，那你就低估了編劇和導演的眼光，他們試圖通過影片表面所傳達的故事，讓觀眾去體會更深層次的倫理問題，人類作為機器人創造者，該如何處理由科技發展而引發的倫理道德問題，從而讓科技更好地服務人類。詹姆斯·卡梅隆執導的《終結者》系列電影是公認的機器人影片的杰作，機器人正邪兩派之戰，在帶來極大的視覺沖擊的同時，也留下了巨大的思考空間——是非、正邪，本就是倫理道德之要素。這時的“機器人學三定律”已經愛莫能助。按照之前的經驗以及科學的發展，人工智能機器人、甚至類人機器人在不遠的將來真的出現，是否應該制定相應的倫理學標準來制約機器人，或者說制約其研發人類，如何制定這一系列的標準和條列，就成了學者需要考慮的內容。
3 大眾媒體對機器人倫理的啟發
鑒于對機器人倫理學研究困難之大，而確有學者借文學作品來研究倫理學，筆者在這里大膽提出一個建議：我們可以利用科學小說為實驗場所，正如阿西莫夫當時的機器人學三定律，在小說中以科學為依據，發揮想象，提出可能的解決方法和策略。在所后的作品中對此加以改進和完善。
機器人、類人機器人以及半機器人已成為當今大眾文化的部分。書籍，乃是文化傳播最普遍和成本也較低的方式之一，最易為人們所接受；而電影產業具有全球性傳播影響力。Allmovie.com網站上搜索“機器人”得到的影片有百部有余，搜索“機器人和類人機器人”得到的影片超過400部。這里面有1958年的《機器人與阿茲特克木乃伊》，也有2014年的《機器紀元》。而boxofficemojo.com網站資料顯示，機器人電影也為電影公司帶來了相當不錯的收益。這樣的成績無不對大眾產生了深遠的影響力。
“人們對機器人的態度從根本上取決于對機器人的預判。由于大部分都沒有真正和機器人接觸過，他們對于機器人能力的認知都是通過第三方渠道，比如科學小說和影視作品。人們將自己讀過小說或看過的電影中的故事情節當作自我經驗?！盵8]因為不論是科學小說還是科幻影片都極力地塑造出一種“真實”。這一“真實性”，也是筆者認為大眾媒體中的機器人可以成為機器人倫理學研究對象的主要依據。而在這種虛構的“真實”之中，機器人的倫理道德取向和需求，也在一步步影響著機器人科技工作者的工作倫理，二者相輔相成，不可分割。
科幻作品中的機器人形象，是科幻作家們結合對科學技術合理的預測，大膽想象，并按照人類自身的形象創造出來的，滿足了人類自身“造物主”的想像。人類創造的機器人思考的速度更為敏捷，學習能力更強，身體各項機能遠超人類……這樣的一個群里是否需要更為完善的道德規范來引領呢？答案當然是肯定的，這就需要我們學者專家去開發。從某種意義上說，科幻作品中的機器人就是我們人類的進化版，而對機器人倫理學的研究必將成為人類倫理學研究的一個重要方面。
參考文獻
[1]魏郎兒.為什么愛西莫夫的三定律救不了我們[N].科學人，2014-04-26.
[2]王紹源，崔文芊.國外機器人倫理學的興起及其問題域分析[J].未來與發展，2013（6）.
[3]王東浩.機器人論理問題探賾[J].未來與發展，2013（5）.
[4]魏蘭.科學小說的生命倫理探究[J].短篇小說（原創版），2013（2）.
[5]Susan Leigh Anderson. Asimov’s “three laws of robotics” and machine metaethics[J]. AI & Soc（2008）22：477–493.
[6]黃祿善.美國通俗小說史[M].南京：譯林出版社，2003.
[7]星河.取代上帝和人類鏡像：科幻小說中的機器人題材[J].知識就是力量，2005.
[8]Ulrike Bruckenberger， Astrid Weiss， Nicole Mirnig. The Good， The Bad， The Weird： Audience Evaluation of a “Real” Robot in Relation to SF and Mass Media[J]. Lecture Notes in Computer Science （8239），2013.
轉載注明來源:http://www.hailuomaifang.com/8/view-14925282.htm
