據美國科技媒體The Verge報道，歐盟本周一發(fā)布了一系列關于發(fā)展人工智能（AI）倫理的新指南，作為企業(yè)和政府開發(fā)人工智能倫理應用 的指導方針。
這些規(guī)則不同于美國科幻小說作家艾薩克·阿西莫夫（Isaac Asimov）的“機器人三定律”，沒有直截了當地提供一個道德框架來幫助人類控制兇殘的機器人。相反，當人工智能整合至醫(yī)療、教育和消費技術等領域時，它們可澄清一些影響社會的模糊而分散的問題。
因此，舉例來說，如果一套AI系統在未來某個時候診斷出你患有癌癥，歐盟的指導方針將確保下列事情的發(fā)生：軟件不會因種族或性別而產生偏見；不會推翻人類醫(yī)生的反對意見；患者有權選擇聽取AI診斷意見。
這些指導方針有助于阻止人工智能胡作非為，并保證在行政和官僚主義的層面上，不會制造出阿西莫夫式的謀殺謎團。
為了幫助實現這一目標，歐盟召集了52名專家組成的小組，提出了他們認為未來AI系統應該滿足的七項要求。具體如下：
- 人類作用和監(jiān)督：人工智能不應該踐踏人類的自主性。人們不應該被AI系統操縱或脅迫，而且，人類應該能夠干預或監(jiān)督軟件做出的每一個決定。
- 技術的穩(wěn)健性和安全性：人工智能應該是安全的、準確的。它不應該易于受到外部攻擊(例如對抗性實例)的影響，而且，應該是相當可靠的。
- 隱私和數據管理：人工智能系統收集的個人數據應該是安全的、私有的。它不應該讓任何人接觸，也不應該輕易被盜。
- 透明性：用于創(chuàng)建人工智能系統的數據和算法應該是可訪問的，軟件所做的決定應“由人類理解和跟蹤”。換句話說，操作員應該能夠解釋AI系統所做的決定。
- 多樣性、非歧視和公平性：人工智能提供的服務應面向所有人，無論年齡、性別、種族或其他特征。同樣地，系統不應該在這些方面存在偏見。
- 環(huán)境和社會福祉：人工智能系統應該是可持續(xù)的(即它們應該對生態(tài)負責)并“促進積極的社會變革”。
- 問責制：人工智能系統應該是可審計的，并被納入企業(yè)可舉報范疇，以便受到現有規(guī)則的保護。應事先告知和報告系統可能產生的負面影響。
人們會注意到上述一些需求非常抽象，很難從客觀的角度進行評估。(例如，“積極的社會變革”的定義因人而異，因國而異)，但其他定義內容更為直截了當，可以通過政府監(jiān)督進行檢驗。例如，用于訓練政府AI系統的數據實行共享，可能是對抗偏見性算法的好方法。
這些指導方針不具有法律約束力，但它們可能對歐盟未來起草的所有法律造成影響。歐盟一再表示，希望成為AI倫理領域的領導者，并通過《通用數據保護條例》(GDPR)表明，愿意制定影響深遠的法律，以保護公眾的數字權利。
不過在一定程度上，歐盟是由于環(huán)境因素而迫不得已充當這一角色的。在投資和前沿研究方面，歐盟無法與美國和中國——AI領域的世界領先者——一爭高下，因此，它選擇了倫理作為塑造技術未來的最佳選擇。
作為這項工作的一部分，本周一的報告包括了一份所謂的“值得信賴的AI評估列表”，以便幫助專家找出AI軟件中存在的潛在弱點或危險。此列表中的問題包括“是否對系統在意外情況和環(huán)境中的行為進行了驗證?”和“是否對數據集內的數據類型和范圍進行了評估?”
這些評估清單只是初步措施，歐盟將在未來幾年收集企業(yè)反饋，并在2020年期限內提供一份最終報告。
范尼·希德韋吉(Fanny Hidvegi)現在是數字版權集團Access Now的政策經理，也是參與撰寫這份指南的專家之一，他說評估列表是報告中最重要的部分。希德韋吉向The Verge透露，“它提供了一個實用的、前瞻性的視角”，來緩解人工智能的潛在危害。
“在我們看來，歐盟有能力、有責任站在這項工作的最前線，”希德韋吉說，“但我們認為，歐盟不應停留在倫理指南水平……而應該上升到法律層面?！?/p>
另有一些人懷疑，歐盟試圖通過影響巨大的倫理研究來規(guī)范全球人工智能的發(fā)展方式。
智庫機構數據創(chuàng)新中心(Center for Data Innovation)的高級政策分析師艾琳·奇沃特(Eline Chivot)在接受The Verge采訪時說：“通過為AI倫理創(chuàng)建黃金標準來確認歐盟在全球AI發(fā)展中的地位，我們對正在采取的這種方法持懷疑態(tài)度。要成為AI倫理的領導者，首先你必須在人工智能領域遙遙領先。
（本文編譯自外媒）
a&s傳媒是全球知名展覽公司法蘭克福展覽集團旗下的專業(yè)媒體平臺，自1994年品牌成立以來，一直專注于安全&自動化產業(yè)前沿產品、技術及市場趨勢的專業(yè)媒體傳播和品牌服務。從安全管理到產業(yè)數字化，a&s傳媒擁有首屈一指的國際行業(yè)展覽會資源以及豐富的媒體經驗，提供媒體、活動、展會等整合營銷服務。
粵公網安備 44030402000264號
