人工智能的發(fā)展如何解決隱私與便利的沖突問題？6月6日，2021全球人工智能技術(shù)大會可信AI專題論壇在杭州舉行，專家學者對下一代可信人工智能的機遇、挑戰(zhàn)和實現(xiàn)路徑進行了討論。

直接共享數(shù)據(jù)，隱私就得不到保護；如若個人產(chǎn)生的數(shù)據(jù)不對外共享，就不能帶來經(jīng)濟價值。科技部高技術(shù)研究發(fā)展中心研究員嵇智源認為，尋找隱私保護、政府監(jiān)管、商業(yè)訴求的平衡點尤為重要。我國工程院院士潘云鶴和同盾科技合伙人、人工智能研究院院長李曉林等均提出，運用知識聯(lián)邦技術(shù)有望在數(shù)據(jù)安全方面取得突破。

談數(shù)據(jù)安全_知識聯(lián)邦實現(xiàn)數(shù)據(jù)可用不可見

科技部高技術(shù)研究發(fā)展中心研究員嵇智源表示，尋找人工智能時代隱私保護、政府監(jiān)管、商業(yè)訴求的平衡點，已經(jīng)成為產(chǎn)學研各界迫切需要解決的問題。在此背景下，“可信AI”的理念逐漸成為全球共識，也成為未來人工智能產(chǎn)業(yè)健康發(fā)展的必由之路。可信AI，就是確保AI公平性、可解釋性、健壯性和透明性，確保算法可被人信任。

在可信AI的實現(xiàn)中，數(shù)據(jù)安全尤為重要，其中一個重要趨勢是數(shù)據(jù)可用不可見。“可用”，即數(shù)據(jù)可以發(fā)揮她的經(jīng)濟價值，“不可見”，即個人數(shù)據(jù)隱私不會被泄露。

我國科學院院士、中科院醫(yī)學所所長譚蔚泓從醫(yī)療領(lǐng)域出發(fā)，認為智慧醫(yī)療在未來大有作為，但生命科學涉及個人的方方面面，如何保障個人隱私和數(shù)據(jù)安全，是一個剛需。打造可信的智慧醫(yī)療，要實現(xiàn)數(shù)據(jù)可用不可見，知識共創(chuàng)可共享。

同盾科技合伙人、人工智能研究院院長李曉林認為，數(shù)據(jù)已經(jīng)被列為一種新型生產(chǎn)要素，成為驅(qū)動技術(shù)革命和重新定義人類社會未來的新動力。近年來，數(shù)據(jù)安全相關(guān)法律法規(guī)也越來越完善。作為新型生產(chǎn)力的人工智能，迫切呼喚新型生產(chǎn)關(guān)系的支撐。

他提出的解決思路是知識聯(lián)邦技術(shù)。所謂知識聯(lián)邦，就是運用人工智能、大數(shù)據(jù)、密碼學等領(lǐng)域技術(shù)，將散落在不同機構(gòu)或個人的數(shù)據(jù)聯(lián)合起來轉(zhuǎn)換成有價值的知識，同時在聯(lián)合過程中采用安全協(xié)議來保護數(shù)據(jù)隱私。李曉林介紹，知識聯(lián)邦通過將數(shù)據(jù)轉(zhuǎn)化成信息、模型、認知和知識，滿足了數(shù)據(jù)不可見；此外，在數(shù)據(jù)交換層面，該框架通過安全的數(shù)據(jù)交換協(xié)議來使用數(shù)據(jù)，在不改變數(shù)據(jù)所有權(quán)的情況下，實現(xiàn)數(shù)據(jù)價值。

我國工程院院士潘云鶴認為，處理大數(shù)據(jù)和處理多重知識，形成了AI發(fā)展的兩類核心技術(shù)。作為一項我國原創(chuàng)、自主可控的技術(shù)，知識聯(lián)邦有望成為推動大數(shù)據(jù)智能突破發(fā)展的一個重要環(huán)節(jié)。

平安集團首席科學家肖京也肯定了聯(lián)邦學習技術(shù)在數(shù)據(jù)安全方面的作用。他介紹，分布在不同機構(gòu)的數(shù)據(jù)，很多時候需要跨機構(gòu)使用來發(fā)揮價值。以前的常用方法是把數(shù)據(jù)直接拷貝到大的數(shù)據(jù)平臺上面，這個方法在風險控制、風險管理和服務(wù)領(lǐng)域產(chǎn)生了很好的作用，但是對隱私保護的能力非常差。

他指出，隱私計算、聯(lián)邦學習技術(shù)可以使數(shù)據(jù)交換的過程變得安全。例如，銀行為中小企業(yè)做貸款業(yè)務(wù)時，需要政府的稅收經(jīng)營分析數(shù)據(jù)，但是政府數(shù)據(jù)不能直接給銀行使用，所以銀行跟政府之間可以通過聯(lián)邦計算平臺，有效利用信息，但是不會泄露數(shù)據(jù)，不會有合規(guī)的風險。

談決策可信_正逼近可信AI，“與其恐慌不如擁抱”

除數(shù)據(jù)安全外，專家們還提出了可信人工智能面臨可解釋性差、算法偏差等挑戰(zhàn)。在未來，可信的人工智能到底能否實現(xiàn)？

李曉林認為，在2040年，這些問題都可以被解決。“2040年，生活就是工作，AI把人們生活產(chǎn)生的數(shù)據(jù)利用起來，產(chǎn)生更好的東西。數(shù)據(jù)無所不在，并且可以以安全的方式獲得。到那時，你想要做什么，都可以按照你的興趣來。”

哈爾濱工業(yè)大學（深圳）人工智能研究院院長劉劼有不同觀點。在他看來，在人工智能領(lǐng)域，可信、分離、高效三者不可能同時兼得。他舉例，區(qū)塊鏈是分布式技術(shù)，但非常低效。如果數(shù)據(jù)集中處理，可信又高效，但集中式的系統(tǒng)很難分離。在他看來，可信AI的理想狀態(tài)或許不能實現(xiàn)，一定要在三者之間進行折中，需要做一些犧牲。目前來看，需要在達到可信和分離的前提下盡可能提升效率，這是一個重要的研究課題。

龍盈智達（北京）科技有限公司首席數(shù)據(jù)科學家王彥博也認為，最完美的可信AI我們永遠達不到，但是我們的標準不斷在提升，可以漸漸逼近可信AI。

幾位專家都表達了對AI的樂觀。劉劼表示，在一些疾病的診斷領(lǐng)域，AI的準確率已經(jīng)超過了醫(yī)生，但是大家對使用AI診斷還是不太接受。他認為，今后在AI決策方面，可以采用AI承諾書的方式，讓人們自己選擇。“比如，從概率的角度來說，一個醫(yī)生的準確率是80_，另外一個機器的準確率是95_。你寫一個承諾書，承諾說接受AI檢測有5_的出錯可能。大家迎接可信AI挑戰(zhàn)的同時，要接納這個東西。”他說。

我國科學技術(shù)大學計算機學院副院長張燕詠同樣肯定了AI在很多領(lǐng)域比人做得更好。比如，在汽車領(lǐng)域，無人車比駕駛員更安全。因為每個駕駛員不可控的因素太多，無人車是標準化的，可以根據(jù)問題不斷提高進化，機器不會喝酒，不會疲勞駕駛，也不會看手機，所以比駕駛員開車更安全。她認為，即使AI比人操作更安全，人們也還是對AI缺乏信任，一個很重要的原因在于人機交互的方式。例如，人類走在擁擠的街上，互相推一下是很正常的，但如果被機器人推一下，人們會覺得有威脅。人機互動的研究對于信任是很重要的。

龍盈智達（北京）科技有限公司首席數(shù)據(jù)科學家王彥博提出，信任是相互的，我們今天談可信AI，前提是我們對她的態(tài)度是不是信任的。“我覺得人們對于AI時代以及可信AI時代應(yīng)該是充滿憧憬、擁抱的態(tài)度，科技的發(fā)展是不可逆的，與其感到恐慌，不如擁抱AI的發(fā)展，可信AI的是陽光普照下面正確的道路。”他說。

采寫_南都見習發(fā)文人李婭寧 發(fā)文人馬嘉璐