本文系國家社科基金項目“機器人倫理問題研究”（15BZX036）階段性成果，作者單位：上海交通大學科學史與科學文化研究院

目前，世界各國高度重視機器人技術(shù)與產(chǎn)業(yè)，制定專門的發(fā)展戰(zhàn)略，投入大量資金，積極搶占世界市場。比如，中國的科技部制定了機器人發(fā)展專項規(guī)劃，強調(diào)“十二五”期間將重點發(fā)展工業(yè)和服務(wù)機器人產(chǎn)業(yè)。

在不久的將來，機器人完全可能像個人電腦那樣，與我們的日常工作與生活息息相關(guān)，密不可分。但是，機器人在帶給我們便利的同時，也可能產(chǎn)生各種風險，甚至對人類的生存構(gòu)成威脅，來自科學、技術(shù)、文學與哲學等不同領(lǐng)域的學者以各種方式表達了對機器人發(fā)展的憂慮。如何與機器人和諧相處，已經(jīng)是一個日益緊迫的現(xiàn)實問題，而不是純粹的理論思辨，這也是近10年來西方學術(shù)界中機器人倫理研究蓬勃發(fā)展的根本原因。在機器人倫理研究中應(yīng)該堅持貫徹哪些基本原則，是我們首先要面對和反復思考的問題。

阿西莫夫的機器人學

三原則

在機器人倫理原則中，阿西莫夫 （IsaacAsi－mov）于1942年提出的機器人學三大原則最為著名：第一，機器人不得傷害人類，或坐視人類受到傷害而袖手旁觀。第二，除非違背第一法則，機器人必須服從人類的命令。第三，在不違背第一法則及第二法則的情況下，機器人必須保護自己。在1985年出版的《機器人與帝國》一書中，阿西莫夫強調(diào)了“整體人類比單獨一個人更重要”的思想，將保護整體人類作為機器人學的本初法則，而第一法則主要強調(diào)的是人類個體。

阿西莫夫的機器人法則具有明顯的人類中心主義色彩。在生態(tài)倫理學中，人們一般認為人類中心主義過分強調(diào)人類的利益，忽視或貶低自然界其他生物的價值，是不合理的。

在生態(tài)問題十分突出的現(xiàn)代社會，非人類中心主義強調(diào)自然界不是人類的奴隸，其他生物與人類具有同等的道德地位，顯然具有更大的合理性。不過，從根本上講，非人類中心主義乃至生態(tài)倫理學的最終目的還是為了保護人類的根本利益。更何況，機器人本身就是人類制造出來為自己服務(wù)的，跟自然界天然存在的生物有著本質(zhì)的差異。也就是說，阿西莫夫的機器人法則雖然存在某些不足，但其強調(diào)人類的根本利益這一點應(yīng)該是機器人倫理的出發(fā)點與落腳點。

從道德哲學的角度看，人先天地具有道德本能，而不是通過學習倫理學而變得善良。機器人倫理與人類的道德本能完全相反，機器人不具有道德本能，它所擁有的道德判斷與行為能力完全是人類應(yīng)用自己的理性進行設(shè)計并賦予機器人的，是典型的“人類中心主義”。當然，與阿西莫夫的本初法則類似，這種人類中心主義的倫理并不是以單個或少數(shù)消費者為核心，而是以保障作為整體的人類安全與道德水平為目的。

方法論原則

從一般的意義上講，機器人倫理研究需要遵循人們普遍接受的倫理原則。針對目前的機器人倫理研究現(xiàn)狀，我們嘗試提出以下幾條機器人倫理研究的方法論原則。

第一，靈活性與開放性原則。與生命倫理、核倫理等科技倫理不同的是，由于機器人應(yīng)用非常廣泛，希望某一種或幾種倫理原則可以解決所有問題是不現(xiàn)實的。同時，由于文化的多元性與地域性等原因，導致對于同樣一項機器人技術(shù)，不同的受眾群體在不同時期可能會做出完全不同的倫理價值判斷，需要具體問題具體分析。為了準確把握受眾群體的倫理訴求，必須按照一定程序進行理性對話與調(diào)查研究，并建立相應(yīng)的反饋機制。也就是說，機器人倫理研究需要在特定的社會情境中展開。這些都要求機器人倫理研究要遵循靈活性與開放性原則。

第二，階段性與綜合性原則。雖然機器人在某些方面遠超過人類，但限于目前計算機、人工智能以及機器人學的發(fā)展水平，機器人在常識性知識、學習能力等方面還不如人類。而且，由于學者們關(guān)于在機器人中實現(xiàn)哪些倫理原則，以及如何實現(xiàn)等許多問題尚未達成一定程度的共識，所以在研究過程中需要分階段進行。已有的研究成果表明，在對機器人進行倫理設(shè)計的研究中，可以首先讓機器人成為“倫理顧問”，然后對其倫理判斷進行綜合評價，再對相應(yīng)的倫理原則與計算機程序進行調(diào)整，如此反復進行。在已有的機器人倫理研究進路中，主要有人工智能進路、心理學或社會學進路，以及哲學進路等，在分門別類進行詳細考察的基礎(chǔ)上，最終需要將各種研究進路統(tǒng)一起來。

第三，安全性與預防性原則。在科技倫理當中，安全性原則的重要性尤為突出。在機器人能力越來越強大的時代背景下，安全性原則應(yīng)該是首要原則。在許多關(guān)于機器人的科幻小說與影視作品中，大多折射出悲觀主義的立場，認為機器人會超越甚至戰(zhàn)勝人類，由此更加突顯了安全性原則的重要地位。即使機器人技術(shù)可能對人類及其生存環(huán)境形成危害的因果關(guān)系沒有得到充分證實，只要其可能性存在，我們就有理由對其開發(fā)應(yīng)用保持足夠的警惕。另外，機器人的研發(fā)機構(gòu)對于機器人的應(yīng)用可能產(chǎn)生的風險也必須盡到告知義務(wù)，等等�？傊�，從機器人的設(shè)計、開發(fā)到使用，安全與預防原則都必須一以貫之。