■人與人工智能的關系，既不是主體與客體之間的關系，也不是主體之間的關系，而是一種主體與類主體之間的關系。

■信息技術已滲透到人們的日常生活，也深度融入國家治理、社會治理的過程中，對于實現美好生活、提升國家治理能力、促進社會道德進步發揮著越來越重要的作用。

■在可以預見的將來，人工智能將重塑生產力、生產關系、生產方式，重構社會關系、生活方式。

■從整體上看，應對信息化深入發展導致的倫理風險，應當遵循服務人類原則、安全可靠原則、以人為本原則、公開透明原則。

習近平同志指出，當前，以互聯網、大數據、人工智能為代表的新一代信息技術日新月異，給各國經濟社會發展、國家管理、社會治理、人民生活帶來重大而深遠的影響。現代信息技術的深入發展和廣泛應用，深刻改變著人類的生存方式和社會交往方式，深刻影響著人們的思維方式、價值觀念和道德行為。

信息時代的倫理變革

信息化正在廣泛而深刻地影響和改變著人類社會，它不僅對人類引以為榮的智能唯一性發出有力挑戰，而且有可能動搖人類的道德主體地位。

目前，智能機器已獲得深度學習能力，可以識別、模仿人的情緒，能獨立應對問題等。那么，智能機器能否算作“人”？人與智能機器之間的關系應當如何定位、如何處理？智能機器應當為其行為承擔怎樣的責任？智能機器的設計者、制造者、所有者和使用者又應當為其行為承擔怎樣的責任？人們會不會設計、制造并使用旨在控制他人的智能機器？這樣的情況一旦出現，人類將面臨怎樣的命運？這一系列問題關乎人倫關系的根本性質和價值基礎，也關乎人類整體的終極命運。

在傳統意義上，人與物的關系是主體與客體的關系。信息時代，人工智能創造物已不僅僅是技術化的工具，而是越來越具有類似于人類思維的能力，甚至在某些方面具有超越人類思維的能力�？梢哉f人與人工智能創造物的關系，既不是主體與客體之間的關系，也不是主體之間的關系，而是一種主體與類主體之間的關系。例如，倘若自動駕駛汽車出了交通事故，該由誰承擔責任？面對諸如此類的問題倫理學應該如何確立“倫”與“理”？從倫理學角度看，當大數據和人工智能的發展改變甚至顛覆人類活動的主體地位時，傳統倫理就會發生解構，人具有排他性主體地位的倫理時代就可能結束。

信息時代的倫理進步

信息技術已滲透到人們的日常生活中，也深度融入國家治理、社會治理的過程中，對于實現美好生活、提升國家治理能力、促進社會道德進步發揮著越來越重要的作用。

信息化深入發展有助于改善政府部門與人民群眾的關系。比如，在政務服務領域，各地積極推進“互聯網+政務服務”，推出“最多跑一次”事項清單，甚至部分事項“一趟不用跑”，打通政務服務的“最后一公里”，實現“讓數據多跑路、讓群眾少跑腿”，不斷增強人民群眾的獲得感幸福感安全感。又如，在反腐敗領域，各地探索運用互聯網、大數據和信息化手段，通過微信、微博、手機客戶端等新媒體，讓失德官員無處躲藏，權力運行更加陽光。

信息化深入發展為最大程度實現社會公平提供技術條件。例如，在教育領域，信息技術打破時空藩籬，讓即便身在地球兩端的學生也能同上一堂課；打破城鄉壁壘，讓農村孩子有機會與城里孩子享受到同等教育資源；打破線上線下界限，讓學習無處不在、課堂互動“永不下線”，進一步促進優質資源共享和教育公平。

信息化深入發展擴大社會交往，提出更高的倫理道德要求。傳統的社會交往主要局限于相對狹小的熟人范圍，人們之所以遵守倫理道德很大程度上是因為相對狹小的熟人圈子中無所不在的外在監督，并且一些人對倫理道德的信守主要局限于相對狹小的熟人圈子，對圈子之外的人則未必守信�，F代社會交往日益突破傳統的熟人交往范圍，建基于強大信息技術的互聯網進一步打破傳統交往的時空限制，使之成為普遍性的社會交往。這就要求人們具備更高程度的道德自律、更高程度的寬容與尊重，從而促進形成以普遍的誠實、守信為價值基礎的現代社會公德。

互聯網是一個實時、動態、開放的社交平臺，各種悖德行為一旦曝光，就會在很短時間內遭到廣泛的輿論譴責，在使悖德行為者承受壓力的同時，讓更多人受到潛移默化的教化。尤其是自媒體的廣泛興起，讓人們隨時隨地能將身邊的人和事拍攝下來、發到網上，更廣泛有效地發揮社會輿論的監督、譴責與教化作用。

信息化深入發展使包括身份信息和行為信息在內的各類信息變得更透明、更對稱、更完整，大大提升了對悖德行為乃至違法犯罪行為的防控、識別、監督、追究與懲處能力。例如，居民身份證存儲著個人信息并實現全國聯網，入住酒店、乘坐交通工具、購置房產以及其他一些有必要知曉行為人身份的行為或業務往來，都要求提供身份證明；政府部門借助發達的網絡和信息傳遞技術，廣泛而及時地向人們公布、推送失信人或其他違法犯罪分子的相關信息；重要公共場所安裝高清攝像頭，有的場所則配置更為先進的人臉識別技術。這使得悖德行為者及違法犯罪分子處于無所不在的監控之下而無處遁形，促使人們更審慎地權衡利弊并盡可能地減少、規避失信行為或其他違法犯罪行為，有效維護、鞏固和增進以誠信為基礎的主流倫理道德。

信息時代的道德風險

在可以預見的將來，人工智能將重塑生產力、生產關系、生產方式，重構社會關系、生活方式。

實際上，人工智能算法帶來的歧視隱蔽而又影響深遠。信息的不對稱、不透明以及信息技術不可避免的知識技術門檻，客觀上會導致并加劇信息壁壘、數字鴻溝等違背社會公平原則的現象與趨勢。如何縮小數字鴻溝以增進人類整體福利、保障社會公平，這是一個具有世界性意義的倫理價值難題。

信息技術在加速大數據傳播、搜集、共享的同時，也為一些國家或組織利用網絡霸權干涉別國內政或實施網絡攻擊提供了漏洞和暗網，嚴重威脅國家主權和安全。因此，防范數據霸權是信息時代維護國家主權的重要內容。

互聯網時代出現的一些現象和趨勢，應當引起高度重視。例如，有些人沉迷于網絡虛擬世界，厭棄現實世界中的人際交往。這種去倫理化的生存方式，從根本上否定傳統社會倫理生活的意義和價值，放棄自身的倫理主體地位以及相應的倫理責任擔當，已經觸及價值觀念基礎這一更為根本的層面。

應對信息時代倫理風險的道德原則

習近平同志強調：“要整合多學科力量，加強人工智能相關法律、倫理、社會問題研究，建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德�！泵鎸π畔⒓夹g的迅猛發展，有效應對信息技術帶來的倫理挑戰，需要深入研究思考并樹立正確的道德觀、價值觀和法治觀。從整體上看，應對信息化深入發展導致的倫理風險應當遵循以下道德原則。

服務人類原則。要確保人類始終處于主導地位，始終將人造物置于人類的可控范圍，避免人類的利益、尊嚴和價值主體地位受到損害，確保任何信息技術特別是具有自主性意識的人工智能機器持有與人類相同的基本價值觀。始終堅守不傷害人自身的道德底線，追求造福人類的正確價值取向。

安全可靠原則。新一代信息技術尤其是人工智能技術必須是安全、可靠、可控的，要確保民族、國家、企業和各類組織的信息安全、用戶的隱私安全以及與此相關的政治、經濟、文化安全。如果某一項科學技術可能危及人的價值主體地位，那么無論它具有多大的功用性價值，都應果斷叫停。對于科學技術發展，應當進行嚴謹審慎的權衡與取舍。

以人為本原則。信息技術必須為廣大人民群眾帶來福祉、便利和享受，而不能為少數人所專享。要把新一代信息技術作為滿足人民基本需求、維護人民根本利益、促進人民長遠發展的重要手段。同時，保證公眾參與和個人權利行使，鼓勵公眾提出質疑或有價值的反饋，從而共同促進信息技術產品性能與質量的提高。

公開透明原則。新一代信息技術的研發、設計、制造、銷售等各個環節，以及信息技術產品的算法、參數、設計目的、性能、限制等相關信息，都應當是公開透明的，不應當在開發、設計過程中給智能機器提供過時、不準確、不完整或帶有偏見的數據，以避免人工智能機器對特定人群產生偏見和歧視。

（作者為中國倫理學會副會長） 

《 人民日報 》（ 2019年07月12日 09 版）