隨著算法在各行業(yè)的廣泛應(yīng)用，算法已成為數(shù)字社會(huì)的重要構(gòu)件和基礎(chǔ)。不過，在對(duì)整個(gè)社會(huì)帶來正向功能和價(jià)值的同時(shí)，也引發(fā)外界對(duì)其帶來的社會(huì)風(fēng)險(xiǎn)和倫理道德的談?wù)摗?/p>

　　為此，近日，由清華大學(xué)數(shù)據(jù)治理研究中心主辦的“人工智能倫理與治理”專題研討會(huì)在線上召開，邀請(qǐng)了來自中央黨校、中國(guó)社科院、清華大學(xué)、復(fù)旦大學(xué)、浙江大學(xué)、中國(guó)政法大學(xué)、電子科技大學(xué)、山東大學(xué)、北京化工大學(xué)、中國(guó)農(nóng)業(yè)大學(xué)、對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)、山東師范大學(xué)等多位專家學(xué)者，圍繞人工智能發(fā)展與應(yīng)用帶來的社會(huì)風(fēng)險(xiǎn)、人工智能倫理的核心關(guān)切和構(gòu)建方式等問題，展開了談?wù)摗?/p>

　　新形勢(shì)下的數(shù)據(jù)保護(hù)等問題受關(guān)注

　　研討會(huì)上發(fā)表了《人工智能倫理與治理報(bào)告》(下稱報(bào)告)。

　　報(bào)告認(rèn)為，人工智能倫理準(zhǔn)則可以分為安全、透明、公平、個(gè)人數(shù)據(jù)保護(hù)、責(zé)任、真實(shí)、人類自主、人類尊嚴(yán)等八個(gè)維度。會(huì)上，清華大學(xué)數(shù)據(jù)治理研究中心項(xiàng)目研究員戴思源分享了該報(bào)告的相關(guān)研究成果。他指出，網(wǎng)民對(duì)上述八個(gè)維度都有關(guān)注，其中在安全、公平、個(gè)人數(shù)據(jù)保護(hù)、責(zé)任方面關(guān)注的人數(shù)最多，對(duì)比之下，對(duì)透明、人類自主和人類尊嚴(yán)這幾個(gè)維度較少關(guān)注。

　　公眾數(shù)據(jù)保護(hù)一直受外界所關(guān)注。報(bào)告研究團(tuán)隊(duì)在調(diào)查中發(fā)現(xiàn)，公眾認(rèn)為最重要的個(gè)人信息包括自己的基本信息、人際關(guān)系信息、經(jīng)濟(jì)情況信息等。另外，在隱私泄露、信息盜用、信息刪除、信息查閱等個(gè)人信息和隱私潛在風(fēng)險(xiǎn)的四個(gè)方面，網(wǎng)民對(duì)于個(gè)人隱私泄露和信息盜用最為擔(dān)心。

　　政府和企業(yè)如何使用個(gè)人數(shù)據(jù)應(yīng)具有雙向約束的契約屬性，當(dāng)個(gè)人向政府或企業(yè)提供數(shù)據(jù)時(shí)，政府或企業(yè)應(yīng)更透明、合理地使用個(gè)人數(shù)據(jù)。公眾是否愿意分享個(gè)人信息的意愿應(yīng)得到尊重;在不同情況下的收集個(gè)人信息的目的和用途應(yīng)有更明確的界定。因此，對(duì)于責(zé)任屬性的討論和隱私的保護(hù)應(yīng)細(xì)分大數(shù)據(jù)的用途、目的和屬性，強(qiáng)調(diào)責(zé)任屬性的互利性，這是政府、企業(yè)與公眾的共同責(zé)任。

　　報(bào)告也指出，目前學(xué)界尚未對(duì)算法公平的定義、測(cè)量和準(zhǔn)則形成一致意見，了解公眾在主觀上如何判定算法決策結(jié)果的公正性也非常重要，將有助于科技工作者研發(fā)出具有公平原則的算法，這些原則需符合公眾對(duì)公平概念的普遍理解。

　　在了解大眾基礎(chǔ)上推動(dòng)“算法啟蒙”

　　上述報(bào)告調(diào)查發(fā)現(xiàn)，就人工智能倫理，中國(guó)網(wǎng)民最關(guān)注違背了公平原則的大數(shù)據(jù)殺熟等行為，其次是數(shù)據(jù)保護(hù)、人臉技術(shù)等安全性問題和自動(dòng)駕駛汽車等的責(zé)任界定問題，而較少擔(dān)心算法等人工智能的技術(shù)原理不透明、不公開或“人工智能越來越先進(jìn)，普通人在社會(huì)中發(fā)揮的作用越來越小”等人類尊嚴(yán)問題。在所有場(chǎng)景中，有用性和倫理因素都是最重要的影響受訪者使用智能產(chǎn)品的因素。

　　報(bào)告稱，公眾看重人工智能的公共安全性和個(gè)人數(shù)據(jù)保護(hù)，年輕群體傾向于發(fā)揮企業(yè)、用戶、社會(huì)的自主性和多元共治作用，而50歲以上群體更傾向政府的行政監(jiān)管;學(xué)歷越高、所在城市經(jīng)濟(jì)越發(fā)達(dá)、收入越高的受訪者，越看重技術(shù)倫理和法治方式對(duì)人工智能發(fā)展和規(guī)范的作用。

　　對(duì)于不同的群體為何會(huì)對(duì)人工智能的看法不盡相同，對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)政府管理學(xué)院講師寧晶發(fā)表了她關(guān)于社交媒體用戶算法接受度的研究。她稱，社交媒體用戶的技能熟練度和對(duì)算法推薦內(nèi)容的接受傾向存在一個(gè)正相關(guān)關(guān)系，也就是說，越不熟練使用社交媒體，越?jīng)]有辦法接受算法推薦內(nèi)容。

　　解決人工智能倫理問題需實(shí)證研究和發(fā)展技術(shù)

　　報(bào)告認(rèn)為，人工智能倫理準(zhǔn)則是指“當(dāng)前在人工智能技術(shù)開發(fā)和應(yīng)用中，依照理想中的人倫關(guān)系、社會(huì)秩序所確立的，相關(guān)主體應(yīng)予以遵循的標(biāo)準(zhǔn)或原則”。就理想的愿景如何在現(xiàn)實(shí)中接受檢驗(yàn)和落地，專家們也給出了各自的看法。

　　當(dāng)前，數(shù)字技術(shù)、人工智能等已經(jīng)廣泛被應(yīng)用在社會(huì)治理之中，如果看待這些技術(shù)的應(yīng)用，以及帶來的影響，也為這場(chǎng)研討會(huì)所關(guān)注。中國(guó)農(nóng)業(yè)大學(xué)人文與發(fā)展學(xué)院講師曲甜認(rèn)為，基層治理智能化轉(zhuǎn)型，目前關(guān)于“場(chǎng)景”的開發(fā)和討論已經(jīng)非常多了。但是，關(guān)于智能技術(shù)與治理手段的結(jié)合，似乎還不充分。特別是在鄉(xiāng)村地區(qū)，鄉(xiāng)村有很多基于熟人社會(huì)、傳統(tǒng)文化形成的治理手段，在長(zhǎng)期實(shí)踐中取得了很好的治理效果，如何讓現(xiàn)代智能技術(shù)和傳統(tǒng)治理手段有機(jī)結(jié)合而不是相互排斥，也是基層治理智能化轉(zhuǎn)型應(yīng)當(dāng)關(guān)注的問題。

　　人工智能倫理應(yīng)與具體國(guó)情相結(jié)合

　　由于人工智能顛覆了很多傳統(tǒng)認(rèn)知，解構(gòu)了原有的生產(chǎn)關(guān)系，有關(guān)人工智能倫理的討論也在各個(gè)國(guó)家開展。但研究發(fā)現(xiàn)，每個(gè)國(guó)家對(duì)待它的態(tài)度不盡相同。

　　報(bào)告對(duì)比發(fā)現(xiàn)，美國(guó)重視“培養(yǎng)公眾對(duì)人工智能技術(shù)的信任和信心”，推動(dòng)人工智能創(chuàng)新的三個(gè)基礎(chǔ)性原則是“確保公眾參與”;“限制監(jiān)管過度”，要求監(jiān)管機(jī)構(gòu)在考慮提出與部署人工智能應(yīng)用程序相關(guān)的法規(guī)之前，必須仔細(xì)評(píng)估風(fēng)險(xiǎn)和成本效益，重點(diǎn)是建立靈活的、基于性能的框架，而不是一刀切的法規(guī);以及“促進(jìn)可信賴的人工智能”;在治理標(biāo)準(zhǔn)上鼓勵(lì)向私營(yíng)部門和學(xué)術(shù)界提供政府?dāng)?shù)據(jù)集，促進(jìn)機(jī)器學(xué)習(xí)模型的訓(xùn)練，形成政企研優(yōu)勢(shì)互補(bǔ)和數(shù)據(jù)資源的流動(dòng)和利用。而歐盟的監(jiān)管措施使人工智能企業(yè)的倫理治理更加規(guī)范，但相關(guān)限制性規(guī)定使歐盟人工智能企業(yè)在全球技術(shù)發(fā)展和應(yīng)用中呈現(xiàn)相對(duì)劣勢(shì)。

　　上述報(bào)告還提出了人工智能治理的“中國(guó)方案”：“發(fā)揮倫理委員會(huì)作用、設(shè)立倫理道德基本原則”，企業(yè)人工智能委員會(huì)可制定內(nèi)部倫理風(fēng)險(xiǎn)管理政策、協(xié)調(diào)企業(yè)各部門倫理風(fēng)險(xiǎn)應(yīng)對(duì);“因地制定治理細(xì)則、構(gòu)建倫理標(biāo)準(zhǔn)體系”，從眾多倫理原則中提煉共識(shí)性通則，探索如何轉(zhuǎn)化為全面覆蓋、分級(jí)分類、科學(xué)合理、切實(shí)可用的標(biāo)準(zhǔn)細(xì)則，并通過技術(shù)研發(fā)實(shí)現(xiàn)落地;“制定智能治理法律法規(guī)、規(guī)范人工智能開發(fā)使用”，由于新技術(shù)快速發(fā)展，倉(cāng)促立法不利于法律條文穩(wěn)定性和可能限制新技術(shù)發(fā)展，可用行政文件和行業(yè)規(guī)范暫替法律條文來積累經(jīng)驗(yàn);“提高公眾智能素養(yǎng)、暢通社會(huì)監(jiān)督渠道”“出臺(tái)倫理道德培訓(xùn)手冊(cè)、增強(qiáng)責(zé)任主體風(fēng)險(xiǎn)意識(shí)”“搭建倫理治理共同體、加強(qiáng)人工智能國(guó)際合作”。

       為人工智能創(chuàng)造一個(gè)比較好的發(fā)展環(huán)境或創(chuàng)新環(huán)境，推動(dòng)人工智能技術(shù)、應(yīng)用發(fā)展，可能會(huì)對(duì)整個(gè)人類社會(huì)帶來更多的正向功能和價(jià)值。技術(shù)監(jiān)管更多地是一種平衡的藝術(shù)，即如何平衡技術(shù)發(fā)展、技術(shù)應(yīng)用和技術(shù)監(jiān)管的關(guān)系，如何平衡經(jīng)濟(jì)、社會(huì)和政治的關(guān)系，以及如何平衡風(fēng)險(xiǎn)與倫理，技術(shù)與規(guī)則之間的關(guān)系。