人工智慧作為一種具有代表性的顛覆性技術(shù)，正在釋放科技革命和産業(yè)變革積蓄的巨大能量，深刻改變著人類生産生活方式和思維方式。習(xí)近平總書記強調(diào)：“要整合多學(xué)科力量，加強人工智慧相關(guān)法律、倫理、社會問題研究，建立健全保障人工智慧健康發(fā)展的法律法規(guī)、制度體系、倫理道德。”保障人工智慧健康發(fā)展，需要採取合理有效的舉措，防範(fàn)人工智慧技術(shù)可能帶來的倫理道德風(fēng)險，讓這一技術(shù)更好服務(wù)於經(jīng)濟社會發(fā)展。

　　人工智慧發(fā)展存在倫理道德風(fēng)險。在新一輪科技革命和産業(yè)變革中，人工智慧是一項戰(zhàn)略性技術(shù)，具有很強的“頭雁效應(yīng)”，在有力推動經(jīng)濟社會發(fā)展的同時，也帶來一系列風(fēng)險與挑戰(zhàn)。其中，倫理道德風(fēng)險是一個重要方面。實際上，伴隨人工智慧技術(shù)的發(fā)展，關(guān)於其可能誘發(fā)倫理道德風(fēng)險的討論從未停止。有人擔(dān)憂，資訊時代，人工智慧創(chuàng)造物已不僅僅是技術(shù)化的工具，而是越來越具有類似於人類思維的能力，甚至在某些方面具有超越人類思維的能力。人工智慧發(fā)展到一定程度，有可能威脅人類思維主體地位。也有觀點認(rèn)為，人工智慧應(yīng)用存在隱私?jīng)兜膫惱盹L(fēng)險。人工智慧應(yīng)用需要以海量資訊數(shù)據(jù)作支撐，正是由於大數(shù)據(jù)的使用、算力的提高和演算法的突破，人工智慧才得以快速發(fā)展、廣泛應(yīng)用，並呈現(xiàn)出深度學(xué)習(xí)、跨界融合、人機協(xié)同、群智開放、自主操控等特徵。人工智慧越“智慧”，就越需要獲取、存儲、分析更多的資訊數(shù)據(jù)。在這一過程中，涉及個人隱私的資訊，如個人身份資訊數(shù)據(jù)、網(wǎng)路行為軌跡數(shù)據(jù)以及對數(shù)據(jù)處理分析形成的偏好資訊、預(yù)測資訊等，往往以數(shù)據(jù)的形式被存儲、複製、傳播。獲取和處理海量資訊數(shù)據(jù)，不可避免會涉及個人隱私保護(hù)這一倫理問題。如果缺乏倫理道德規(guī)範(fàn)，就有可能誘發(fā)隱私?jīng)兜膫惱淼赖嘛L(fēng)險。此外，隨著人工智慧自主性的提高，人工智慧侵權(quán)責(zé)任中的因果關(guān)係、過錯等要件的判斷日趨複雜，人工智慧應(yīng)用的權(quán)利責(zé)任歸屬問題也被廣泛關(guān)注和討論。

　　增強人工智慧倫理道德風(fēng)險防控意識。人工智慧之所以存在倫理道德風(fēng)險，究其主要原因，一方面是這一技術(shù)還不夠完善；另一方面是目前人工智慧健康發(fā)展的倫理道德保障機制仍然不夠健全，同快速發(fā)展的人工智慧技術(shù)相比，與之相關(guān)的倫理道德規(guī)章制度發(fā)展相對滯後。解決這些問題，一項基礎(chǔ)性工作是增強人工智慧倫理道德風(fēng)險防控意識。目前，在一些地方和領(lǐng)域，公眾對人工智慧可能誘發(fā)的倫理道德風(fēng)險重視程度還不夠高。增強人工智慧倫理道德風(fēng)險防控意識是一項系統(tǒng)工程，涉及科技研發(fā)、應(yīng)用各環(huán)節(jié)。在科技研發(fā)環(huán)節(jié)，重在完善人工智慧從業(yè)機構(gòu)與倫理道德研究、教育、監(jiān)督機構(gòu)之間的長期溝通交流機制，不斷提高科技從業(yè)人員的倫理道德水準(zhǔn)，引導(dǎo)研發(fā)人員增強風(fēng)險防控意識，嚴(yán)守科技倫理底線，強化倫理責(zé)任。在研發(fā)初始環(huán)節(jié)，尤須增強道德風(fēng)險防控意識，預(yù)測和評估人工智慧産品可能引發(fā)的道德危害，從設(shè)計源頭進(jìn)行規(guī)範(fàn)。進(jìn)而將這種倫理意識貫穿于研發(fā)全過程，防止人工智慧被非法利用進(jìn)而危害社會，確?？萍佳邪l(fā)活動始終在倫理道德的軌道上平穩(wěn)運作。在應(yīng)用環(huán)節(jié)，同樣需要繃緊倫理道德風(fēng)險防控這根弦，在全社會加強涉及人工智慧的倫理道德教育，普及與人工智慧相關(guān)的法律法規(guī)知識，引導(dǎo)社會公眾以正確的價值觀念看待和運用人工智慧技術(shù)，在享受其帶來的便利的同時，對其中的倫理道德風(fēng)險始終保持高度警惕，推動全社會共同參與科技倫理治理。

　　依靠制度確保人工智慧安全可控可靠。將人工智慧可能誘發(fā)的倫理道德風(fēng)險降到最低，保障人工智慧健康發(fā)展，必鬚根據(jù)人工智慧發(fā)展實際，針對其可能帶來的倫理道德風(fēng)險，不斷完善指導(dǎo)和規(guī)範(fàn)人工智慧發(fā)展的倫理道德原則。在此基礎(chǔ)上，建立健全相關(guān)制度體系，從而及時發(fā)現(xiàn)、有效解決人工智慧技術(shù)發(fā)展中的各類倫理道德問題，確保人工智慧安全可控可靠。2019年6月，國家新一代人工智慧治理專業(yè)委員會發(fā)佈《新一代人工智慧治理原則——發(fā)展負(fù)責(zé)任的人工智慧》，對促進(jìn)新一代人工智慧健康發(fā)展，加強人工智慧法律、倫理、社會問題研究提出明確要求。依靠制度建設(shè)，防範(fàn)和化解人工智慧可能帶來的倫理道德風(fēng)險，需要相關(guān)從業(yè)人員大力弘揚社會主義核心價值觀，在技術(shù)開發(fā)和應(yīng)用過程中，嚴(yán)格遵守標(biāo)準(zhǔn)、流程等方面的規(guī)定，充分尊重和保護(hù)個人隱私，保障個人的知情權(quán)和選擇權(quán)。不斷加強人工智慧的倫理道德監(jiān)管，在相關(guān)法律法規(guī)中，進(jìn)一步強化隱私權(quán)保護(hù)，充分保障公民在人工智慧應(yīng)用中的知情權(quán)和選擇權(quán)。嚴(yán)格規(guī)範(fàn)人工智慧應(yīng)用中個人資訊的收集、存儲、處理、使用等程式，嚴(yán)禁竊取、篡改、洩露和其他非法收集利用個人資訊的行為，確保人工智慧朝著對全人類、全社會及自然生態(tài)有益的方向發(fā)展，更好為經(jīng)濟社會發(fā)展和人民美好生活服務(wù)。

　?。ㄗ髡邽橘F州大學(xué)馬克思主義學(xué)院教授）

　　《 人民日報 》（ 2020年07月13日 09 版）