杜嚴勇：機器人倫理研究方法論原則

本文系國家社科基金項目“機器人倫理問題研究”（15BZX036）階段性成果，作者單位：上海交通大學科學史與科學文化研究院

目前，世界各國高度重視機器人技術與產業，制定專門的發展戰略，投入大量資金，積極搶占世界市場。比如，中國的科技部制定了機器人發展專項規劃，強調“十二五”期間將重點發展工業和服務機器人產業。

在不久的將來，機器人完全可能像個人電腦那樣，與我們的日常工作與生活息息相關，密不可分。但是，機器人在帶給我們便利的同時，也可能產生各種風險，甚至對人類的生存構成威脅，來自科學、技術、文學與哲學等不同領域的學者以各種方式表達了對機器人發展的憂慮。如何與機器人和諧相處，已經是一個日益緊迫的現實問題，而不是純粹的理論思辨，這也是近10年來西方學術界中機器人倫理研究蓬勃發展的根本原因。在機器人倫理研究中應該堅持貫徹哪些基本原則，是我們首先要面對和反復思考的問題。

阿西莫夫的機器人學

三原則

在機器人倫理原則中，阿西莫夫 （IsaacAsi－mov）于1942年提出的機器人學三大原則最為著名：第一，機器人不得傷害人類，或坐視人類受到傷害而袖手旁觀。第二，除非違背第一法則，機器人必須服從人類的命令。第三，在不違背第一法則及第二法則的情況下，機器人必須保護自己。在1985年出版的《機器人與帝國》一書中，阿西莫夫強調了“整體人類比單獨一個人更重要”的思想，將保護整體人類作為機器人學的本初法則，而第一法則主要強調的是人類個體。

阿西莫夫的機器人法則具有明顯的人類中心主義色彩。在生態倫理學中，人們一般認為人類中心主義過分強調人類的利益，忽視或貶低自然界其他生物的價值，是不合理的。

在生態問題十分突出的現代社會，非人類中心主義強調自然界不是人類的奴隸，其他生物與人類具有同等的道德地位，顯然具有更大的合理性。不過，從根本上講，非人類中心主義乃至生態倫理學的最終目的還是為了保護人類的根本利益。更何況，機器人本身就是人類制造出來為自己服務的，跟自然界天然存在的生物有著本質的差異。也就是說，阿西莫夫的機器人法則雖然存在某些不足，但其強調人類的根本利益這一點應該是機器人倫理的出發點與落腳點。

從道德哲學的角度看，人先天地具有道德本能，而不是通過學習倫理學而變得善良。機器人倫理與人類的道德本能完全相反，機器人不具有道德本能，它所擁有的道德判斷與行為能力完全是人類應用自己的理性進行設計并賦予機器人的，是典型的“人類中心主義”。當然，與阿西莫夫的本初法則類似，這種人類中心主義的倫理并不是以單個或少數消費者為核心，而是以保障作為整體的人類安全與道德水平為目的。

方法論原則

從一般的意義上講，機器人倫理研究需要遵循人們普遍接受的倫理原則。針對目前的機器人倫理研究現狀，我們嘗試提出以下幾條機器人倫理研究的方法論原則。

第一，靈活性與開放性原則。與生命倫理、核倫理等科技倫理不同的是，由于機器人應用非常廣泛，希望某一種或幾種倫理原則可以解決所有問題是不現實的。同時，由于文化的多元性與地域性等原因，導致對于同樣一項機器人技術，不同的受眾群體在不同時期可能會做出完全不同的倫理價值判斷，需要具體問題具體分析。為了準確把握受眾群體的倫理訴求，必須按照一定程序進行理性對話與調查研究，并建立相應的反饋機制。也就是說，機器人倫理研究需要在特定的社會情境中展開。這些都要求機器人倫理研究要遵循靈活性與開放性原則。

第二，階段性與綜合性原則。雖然機器人在某些方面遠超過人類，但限于目前計算機、人工智能以及機器人學的發展水平，機器人在常識性知識、學習能力等方面還不如人類。而且，由于學者們關于在機器人中實現哪些倫理原則，以及如何實現等許多問題尚未達成一定程度的共識，所以在研究過程中需要分階段進行。已有的研究成果表明，在對機器人進行倫理設計的研究中，可以首先讓機器人成為“倫理顧問”，然后對其倫理判斷進行綜合評價，再對相應的倫理原則與計算機程序進行調整，如此反復進行。在已有的機器人倫理研究進路中，主要有人工智能進路、心理學或社會學進路，以及哲學進路等，在分門別類進行詳細考察的基礎上，最終需要將各種研究進路統一起來。

第三，安全性與預防性原則。在科技倫理當中，安全性原則的重要性尤為突出。在機器人能力越來越強大的時代背景下，安全性原則應該是首要原則。在許多關于機器人的科幻小說與影視作品中，大多折射出悲觀主義的立場，認為機器人會超越甚至戰勝人類，由此更加突顯了安全性原則的重要地位。即使機器人技術可能對人類及其生存環境形成危害的因果關系沒有得到充分證實，只要其可能性存在，我們就有理由對其開發應用保持足夠的警惕。另外，機器人的研發機構對于機器人的應用可能產生的風險也必須盡到告知義務，等等�？傊�，從機器人的設計、開發到使用，安全與預防原則都必須一以貫之。