每經(jīng)記者 劉春山    每經(jīng)編輯 文多    

“人工智能算法下一些外賣騎手挑戰(zhàn)交通規(guī)則，‘助手’可能變‘殺手’”；“法院認(rèn)定人工智能生成文章構(gòu)成作品，擁有著作權(quán)”；“‘無(wú)人車’行駛背后的權(quán)責(zé)歸屬引關(guān)注”……剛剛過(guò)去的2020年中，隨著人工智能技術(shù)大范圍應(yīng)用，引起的社會(huì)倫理爭(zhēng)議也在增多。AI造福人類的同時(shí)，外界也越來(lái)越關(guān)注人工智能該如何去治理？

就AI治理現(xiàn)存挑戰(zhàn)、人工智能治理中企業(yè)的責(zé)任等問(wèn)題，《每日經(jīng)濟(jì)新聞》記者近日與曠視首席發(fā)展官、AI治理研究院院長(zhǎng)徐云程進(jìn)行了深度的交流。以剛發(fā)布的“2020年度全球十大人工智能治理事件”為例，徐云程談道，雖然企業(yè)的AI治理并無(wú)成熟的模式可遵循，但AI企業(yè)擔(dān)負(fù)著推動(dòng)AI產(chǎn)業(yè)可持續(xù)發(fā)展的重任，需要秉持長(zhǎng)期主義精神，任重而道遠(yuǎn)。企業(yè)做AI治理，需要一手拿著“望遠(yuǎn)鏡”，看到技術(shù)研究的過(guò)去與未來(lái)，另外一手拿著“顯微鏡”，將緊迫的問(wèn)題放大。

徐云程同時(shí)稱，技術(shù)治理的理念在以往是“讓子彈飛一會(huì)兒”模式，互聯(lián)網(wǎng)產(chǎn)業(yè)的發(fā)展就是先發(fā)展后治理。“但人工智能技術(shù)，因?yàn)樗挠绊懥薮蠛偷俣燃涌欤詷I(yè)界現(xiàn)在越來(lái)越有共識(shí)，不能套用以前先發(fā)展后治理的思路，要邊發(fā)展邊治理。”徐云程呼吁，當(dāng)前對(duì)人工智能倫理的擔(dān)憂已經(jīng)上升到倫理風(fēng)險(xiǎn)的高度，各界應(yīng)該盡快采取行動(dòng)。

徐云程 圖片來(lái)源：受訪者提供

企業(yè)人工智能治理需要自上而下推行

NBD：目前，人工智能治理存在哪些挑戰(zhàn)？

徐云程：一方面，大眾對(duì)于人工智能的技術(shù)和產(chǎn)品效用存在嚴(yán)重的信息不對(duì)稱，如果此時(shí)又缺少充分的溝通，很容易產(chǎn)生負(fù)面認(rèn)知，從而對(duì)人工智能產(chǎn)業(yè)的發(fā)展造成不利影響。

再則就是，人工智能的倫理問(wèn)題落到企業(yè)語(yǔ)境下要成為可執(zhí)行的企業(yè)治理行動(dòng)，而這個(gè)過(guò)程是一個(gè)典型的交叉學(xué)科范疇。如何以多方參與的形式、運(yùn)用綜合手段來(lái)推動(dòng)企業(yè)的發(fā)展，對(duì)于企業(yè)來(lái)說(shuō)是個(gè)巨大考驗(yàn)。

三是我們發(fā)現(xiàn)許多新產(chǎn)生的問(wèn)題目前還沒(méi)有得到人們的普遍重視，更缺少專門(mén)的深度研究。這造成了在AI治理的領(lǐng)域，問(wèn)題遠(yuǎn)遠(yuǎn)多于答案。

NBD：怎么理解人工智能算法的黑箱特性？

徐云程：大家對(duì)于AI進(jìn)行深度學(xué)習(xí)（這點(diǎn)上），算法黑箱是海內(nèi)外共通的擔(dān)憂。在現(xiàn)在的技術(shù)水平下，深度學(xué)習(xí)算法有它自己的黑箱特性。這就要求我們?cè)谶M(jìn)行產(chǎn)品研發(fā)和設(shè)計(jì)時(shí)，考慮到深度學(xué)習(xí)算法的必要性、是否有替代技術(shù)。另外就是，我們要關(guān)注深度學(xué)習(xí)算法精確程度是否足以商業(yè)化，是否會(huì)有誤判的情形。

NBD：曠視的人工智能治理是如何推行的？

徐云程：AI治理這件事情在曠視先是自上而下推行，需要高層發(fā)起和推動(dòng)?，F(xiàn)在慢慢變成了自下而上——各層的員工開(kāi)始有感知、有意識(shí)，正逐漸成為“大眾運(yùn)動(dòng)”。

對(duì)內(nèi)，AI治理從研發(fā)學(xué)術(shù)、產(chǎn)品工程、客戶渠道和運(yùn)營(yíng)管理四個(gè)方面開(kāi)展了務(wù)實(shí)的工作。在新產(chǎn)品產(chǎn)生的過(guò)程中，我們希望在產(chǎn)品早期規(guī)劃研發(fā)的時(shí)候，就要加入AI治理的介入，把AI倫理作為一個(gè)打分項(xiàng)，整體考慮要不要做這樣一個(gè)產(chǎn)品。在客戶管理溝通中，我們?cè)诿考洝⒂布a(chǎn)品中都放入了《正確使用人工智能產(chǎn)品倡議書(shū)》，倡導(dǎo)客戶和合作伙伴一起加入AI治理的行列。

NBD：你在AI治理研究院的研究方向是什么？

徐云程：人工智能最重要的是“數(shù)據(jù)”問(wèn)題。數(shù)據(jù)隱私保護(hù)與數(shù)據(jù)安全，是需要全社會(huì)長(zhǎng)期關(guān)注的事情，這不光涉及到科技倫理問(wèn)題，也涉及到法律法規(guī)的制定，以及技術(shù)應(yīng)用本身。這其中需要相關(guān)各方去界定隱私的含義和邊界、數(shù)據(jù)使用的規(guī)則和懲戒，以及如何形成對(duì)各種數(shù)據(jù)管理的多元共治。

再則需要思考，人工智能產(chǎn)業(yè)哪些場(chǎng)景下技術(shù)的產(chǎn)品化面臨紅線。這需要探索企業(yè)內(nèi)部風(fēng)險(xiǎn)評(píng)估與管理的路徑，通過(guò)將目標(biāo)、人員、規(guī)則、機(jī)制、技術(shù)進(jìn)行有機(jī)融合，形成一套管控體系。

體驗(yàn)AI寫(xiě)詩(shī)。圖片來(lái)源：每經(jīng)記者 張建 攝（資料圖）

要用“顯微鏡”將緊迫的問(wèn)題放大看

NBD：企業(yè)以商業(yè)利益為主，進(jìn)行AI治理必然增加成本？

徐云程：大眾對(duì)于倫理道德認(rèn)知有一個(gè)循序漸進(jìn)的過(guò)程。對(duì)于企業(yè)來(lái)說(shuō)，一個(gè)負(fù)責(zé)任的企業(yè)、有中長(zhǎng)期發(fā)展規(guī)劃的企業(yè)，才是一個(gè)穩(wěn)健型的企業(yè)。企業(yè)的AI治理是個(gè)長(zhǎng)效機(jī)制，我們看到很多兩年前不是問(wèn)題的現(xiàn)象，在今天都成為了潛在的風(fēng)險(xiǎn)，或者成為一個(gè)合規(guī)成本。

所以，相較于回報(bào)，AI治理的投入就并不顯得大了。這并不是只要重金投入就能做好的事情，更多的是大家意識(shí)到這件事情的重要性，值得專心去做。我們很多研究課題是聯(lián)合外部一流的研究機(jī)構(gòu)一起做的。專業(yè)的人做專業(yè)的事，企業(yè)也沒(méi)有必要去培養(yǎng)幾十人的研究團(tuán)隊(duì)、天天做和業(yè)務(wù)沒(méi)有關(guān)系的課題了。

對(duì)于產(chǎn)業(yè)發(fā)展的治理，以前經(jīng)常碰到這種思潮，即科技創(chuàng)新需要“讓子彈飛一會(huì)兒”，大家都希望在開(kāi)始時(shí)給技術(shù)一段自由發(fā)展的時(shí)間，當(dāng)問(wèn)題累積到一定程度之后，再來(lái)研究解決的方法。所謂“先發(fā)展后治理”的模式就是這樣產(chǎn)生的，互聯(lián)網(wǎng)時(shí)代是這樣，其他技術(shù)的治理也是這樣。但隨著人工智能技術(shù)越來(lái)越強(qiáng)大，它的影響力更深更廣，迭代速度也更快，所以業(yè)界現(xiàn)在越來(lái)越有共識(shí)，不能套用以前治理的老方法，而是要“邊發(fā)展邊治理”。當(dāng)然，這樣也引發(fā)了下一個(gè)問(wèn)題，即在創(chuàng)新往前沖的過(guò)程中，怎樣才能做到對(duì)風(fēng)險(xiǎn)的預(yù)判？

NBD：近兩年，外界對(duì)人工智能治理的關(guān)注有什么變化？

徐云程：我們剛開(kāi)始是通過(guò)海外媒體關(guān)注到人工智能治理這件事情的。在2019年，海外媒體和曠視做交流的時(shí)候，三句不離和AI倫理有關(guān)的事情，以及企業(yè)在做哪些治理工作。因此，初期我們更多是跟海外溝通并尋找一些全球可借鑒的經(jīng)驗(yàn)。

第二個(gè)階段是2019年中后期，我們看到國(guó)內(nèi)社交媒體上越來(lái)越多的人開(kāi)始關(guān)注AI技術(shù)是不是在向可持續(xù)的、負(fù)責(zé)任的方向發(fā)展。因此，我們意識(shí)到，這是個(gè)全球性話題，需要社會(huì)各界、國(guó)內(nèi)外各方共同參與。

到2020年第三個(gè)階段，曠視開(kāi)始在企業(yè)內(nèi)部管理上做更多的反思和突破。隨之發(fā)現(xiàn)，在企業(yè)運(yùn)營(yíng)的流程中和人員培訓(xùn)的過(guò)程中，AI治理對(duì)企業(yè)的健康發(fā)展可以帶來(lái)很多價(jià)值，也可以具有很多優(yōu)勢(shì)。

NBD：在做人工智能治理時(shí)，你認(rèn)為企業(yè)的態(tài)度應(yīng)該是什么？

徐云程：技術(shù)的發(fā)展、商業(yè)的應(yīng)用、規(guī)則的制定應(yīng)該是相輔相成的，越多的交流越能讓產(chǎn)業(yè)健康發(fā)展；同時(shí)AI治理的每一步都要反映到日常工作中。雖然企業(yè)的AI治理并無(wú)成熟的模式可遵循，但我們正在秉持一貫的長(zhǎng)期主義精神，用大膽向前、小心求證的方式探索一條適合自己的道路。

所以，企業(yè)做AI治理，需要一手拿著“望遠(yuǎn)鏡”，一手拿著“顯微鏡”。“望遠(yuǎn)鏡”是指幫助企業(yè)看到技術(shù)研究的過(guò)去與未來(lái)，國(guó)內(nèi)外的差異，綜合思考問(wèn)題、解決問(wèn)題。“顯微鏡”是指將緊迫的問(wèn)題放大，仔細(xì)研究，厘清其中緣由，并快速解決。企業(yè)只有充分發(fā)揮“望遠(yuǎn)鏡”和“顯微鏡”的綜合作用，才能把握正確的發(fā)展方向，真正實(shí)現(xiàn)用人工智能造福大眾。