馬化騰擔憂AI等帶來科技倫理問題 究竟該怎麼辦

本報記者 張蓋倫

前段時間，一則短視訊火了。網友用人工智慧技術，將電視劇《射鵰英雄傳》中演員朱茵的臉換成了楊冪。這個楊冪版“黃蓉”毫不違和，古靈精怪，嬌俏可人，你甚至都看不出視訊有被處理過的痕跡。

技術非常好玩，讓人躍躍欲試。而且，現在還有相關程式，只要你有足夠的素材，有一臺配置不錯的電腦，就能完成一段“變臉視訊”。

所以，眼見也不一定為實。

其他問題同樣就在眼前：智慧駕駛車已經充分利用了人工智慧技術，有一定的自主能力。商用後，如果發生了意外，出現了事故，責任人是誰，法律主體怎麼認定？是製造商、演算法的開發商，還是使用者本人？全國人大代表、騰訊公司董事會主席兼執行長馬化騰將他的顧慮一一道來。他告訴科技日報記者，新技術帶來的科技倫理問題越來越熱，但現在都沒有明確規則，“因為太新了”。

人工智慧正在滲透進你我的生活。它向你推薦餐廳，它為你進行搭配，它幫你篩選新聞，它還能替你選擇伴侶……現在，它根據你的需求，能為你定製一段並不存在的視訊。正如全國人大代表、天津大學黨委書記李家俊所說，人工智慧對資料的收集和挖掘，有可能侵害個人隱私甚至危害公共安全；而從巨集觀局面來說，人工智慧技術的發展，還可能引發新產業革命和經濟結構調整。

如何讓這柄“雙刃劍”在社會治理中發揮正向作用？馬化騰給出的藥方是，強化科技倫理的制度化建設。

在國家層面，他建議針對相關新技術制定倫理準則，對新技術應用進行引導和規範。馬化騰說，行業主管部門可以與行業主體、學術團體、社會公眾等多利益相關方合作，制定相關倫理準則，並支援行業自律，包括建立倫理審查制度、成立自律組織、制定行業標準等。在國際層面，應積極推動新技術領域的全球治理，參與國際標準、規則的制定，推動建立人工智慧研發與應用的全球共同倫理框架，確保人工智慧持續造福全人類和全世界的發展。

更具體一些來說，則要為相關人工智慧應用建立安全標準，打擊和人工智慧相關的新型犯罪，為人工智慧應用探索制定恰當合理的規則。

和馬化騰一樣，李家俊也建議建立相關倫理規約體系。在他看來，不同的主體，應發揮好各自的作用。

首先，是決策者立德。李家俊建議，由中國科協組織人工智慧及相關領域專家學者制定我國的《人工智慧倫理章程》，設定人工智慧的倫理框架、道德準則，其次，由國家市場監管總局牽頭，做好人工智慧技術、產品的倫理審查，從技術層面做好人工智慧的道德預設，“而研發者也要承擔自己的責任”。今年政府工作報告中指出，要加強科研倫理。李家俊說，可以由科技部牽頭，組建人工智慧倫理委員會，對科研人員的社會責任、職業規範提供監督指導，並從制度上為人工智慧研發明確禁區、劃定邊界、樹立底線。

深度學習演算法常被稱作“黑匣子”，連演算法設計者自己也不知其如何運作，更別說對其給出的運算結果進行解釋。李家俊強調，應該提升人工智慧演算法的可解釋性和可預測性，強化人機互動間的反饋信度、理解精度和執行效度，維護健康有序的人機關係，構建社會公序良俗。

“所有行業的高階發展、終極模式，最終都要跟AI結合。”馬化騰表示，對人工智慧發展中的倫理問題，可以先從研究和倡議開始。“這是第一步，但現在做得也還遠遠不夠。”（科技日報北京3月6日電）

本文來源：科技日報社-中國科技網 責任編輯：王鳳枝_NT2541