聚焦丨“刷臉”會不會刷走安全？
作者：人民日報 發布時間： 2019-04-18
隨著數據的積累、計算機算力的躍升和算法的優化,人工智能正在讓生活變得高效。語音識別、圖像識別使身份認證更可信賴,短短幾秒就能證明“你就是你”；智能診療和自動駕駛,更讓人們看到了戰勝疾病、減少事故的新機會……其自主性和創造性正在模糊人和機器的分野。
但是,當隱私侵犯、數據泄露、算法偏見等事件層出不窮時,人們又不得不反思:人工智能的持續進步和廣泛應用帶來的好處是巨大的,為了讓它真正有益于社會,同樣不能忽視的還有對人工智能的價值引導、倫理調節以及風險規制。
“刷臉”應用更廣泛,對隱私權的威脅值得重視
“刷臉”進站、“刷臉”支付、“刷臉”簽到、“刷臉”執法……人臉識別技術正走進更為廣闊的應用場景,與指紋、虹膜等相比,人臉是一個具有弱隱私性的生物特征,因此,這一技術對于公民隱私保護造成的威脅性尤其值得重視。“人臉圖像或視頻廣義上講也是數據,如果沒有妥善保管和合理使用,就會容易侵犯用戶的隱私。”中國社會科學院哲學研究所研究員段偉文說。
通過數據采集和機器學習來對用戶的特征、偏好等“畫像”,互聯網服務商進而提供一些個性化的服務和推薦等,從正面看是有利于供需雙方的一種互動。但對于消費者來說,這種交換是不對等的。就頻頻發生的個人數據侵權的事件來看,個人數據權利與機構數據權力的對比已經失衡,在對數據的收集和使用方面,消費者是被動的,企業和機構是主動的。
“大數據時代,個人在互聯網上的任何行為都會變成數據被沉淀下來,而這些數據的匯集都可能最終導致個人隱私的泄露。”湖南師范大學人工智能道德決策研究所所長李倫認為,用戶已經成為被觀察、分析和監測的對象。
算法應更客觀透明 要避免歧視與“殺熟”
在信息爆炸的時代,數據的處理、分析、應用很多都是由算法來實現的,越來越多的決策正被算法所取代。從內容推薦到廣告投放,從信用額度評估到犯罪風險評估,算法無處不在——它操作的自動駕駛或許比司機更加安全,它得出的診斷結果可能比醫生更準確,越來越多的人開始習慣一個由算法構建的“打分”社會。
作為一種信息技術,算法在撥開信息和數據“迷霧”的同時,也面臨著倫理上的挑戰:利用人工智能來評估犯罪風險,算法可以影響刑罰；當自動駕駛汽車面臨危險,算法可以決定犧牲哪一方；應用于武器系統的算法甚至可以決定攻擊的目標……由此引發了一個不容忽視的問題:如何確保算法的公正?
實際上，算法的設計、模型、目的、成功標準、數據使用等,都是編程人員的主觀選擇,偏見會有意或者無意地嵌入算法,使之代碼化。算法并不客觀,在算法決策起作用的諸多領域,算法歧視也并不鮮見。
2016年3月,微軟人工智能聊天機器人Tay上線,在與網民互動過程中,很短時間內就“誤入歧途”,集性別歧視、種族歧視于一身,最終微軟不得不讓它“下崗”。因此,如果將算法應用在犯罪評估、信用貸款、雇傭評估等關系人們切身利益的場合,一旦產生歧視,就可能危害個人乃至社會的利益。
此外,深度學習還是一個典型的“黑箱”算法,可能連設計者都不知道算法如何決策,因而要在系統中發現是否存在歧視和歧視根源,技術上也較為困難。算法的"黑箱"特征使其決策邏輯缺乏透明性和可解釋性。隨著大數據“殺熟”、算法歧視等事件的出現,社會對算法的質疑也逐漸增多。政府和企業在使用數據的過程中,必須提高對公眾的透明度,讓選擇權回歸個人。
2017年7月,國務院印發《新一代人工智能發展規劃》(以下簡稱《規劃》)。《規劃》強調,促進人工智能行業和企業自律,切實加強管理,加大對數據濫用、侵犯個人隱私、違背道德倫理等行為的懲戒力度。
雖然"刷臉"的應用越來越多,但人工智能目前仍處于起步階段,需加大對數據和隱私的保護力度,關注和防范由算法濫用所導致的決策失誤和社會不公。在個人數據權利的保護方面，應促使數據交易各方對自己的行為負責,讓每個人知道自己的數據如何被處理,特別是用于其他用途的情形,減少數據濫用,讓人們清楚知道自的“臉”還是否安全。
而且，要進一步加強人工智能的倫理設計,對算法的理論預設、內在機制與實踐語境等進行全流程追問與核查,從算法決策的結果和影響中的不公正入手,反向核查其機制與過程有無故意或不自覺的曲解與誤導,揭示存在的問題,并促使其修正和改進。
另外，應對人工智能帶來的倫理問題，一是要構建算法治理的內外部約束機制，將人類社會的法律、道德等規范和價值嵌入人工智能系統；二是在人工智能研發中貫徹倫理原則，促使研發人員遵守基本的倫理準則；三是對算法進行必要的監管，提升算法自身的代碼透明性和算法決策的透明性；四是針對算法決策和歧視以及造成的人身財產損害，提供法律救濟。
我們生活在一個人機共生的時代，人類與機器之間勢必將發生各種沖突和矛盾，僅靠法律和制度很難完全解決。人們還應努力提升自身的科學素養，主動維護自身的權利，社會也應盡快建立討論人工智能倫理問題的公共平臺，讓各方充分表達意見，促進共識的形成。
鄭重聲明：本文來源：人民日報，目的在于傳遞更多信息。并不代表本網贊同其觀點或證實其內容的真實性，不承擔此類作品侵權行為的直接責任及連帶責任。其他媒體、網站或個人從本網轉載時，必須保留本網注明的作品來源，并自負版權等法律責任。如涉及作品內容、版權等問題，請在作品發表之日起一周內與本公眾號聯系，否則視為放棄相關權利。
