近日,以“智聯世界 元生無界”爲主題的2022世界人工智能大會在滬舉辦。人工智能似乎已經成爲無遠弗屆、無所不能的泛在賦能技術，人工智能治理建設成爲會議的重要議題。隨後于9月15日閉幕的2022全球人工智能峰會更以“人工智能促進人類福祉”爲主題，通過了《利雅得人工智能行動宣言》，強調防止人工智能被不道德地應用。發展可靠、可信、安全的人工智能已成爲全球的共識。
原文 ：《發展安全的人工智能已成全球共識》
作者 | 本報記者 田林
圖片 | 網絡
中國人工智能創新水平不斷提升
首次亮相世界人工智能大會的元宇宙當仁不讓地成爲“主角”：一衆個性鮮明的數字人虛擬偶像以不同的方式歡迎參會來賓，機器人現場制作自選口味的咖啡。與此同時，消費者可以選擇在不同的場景下制作和享用它，在森林裏、在海邊……元宇宙正在從想象變爲現實。
如同信號彈，元宇宙激活各行業敏銳的觸覺，很多企業爭相布局新賽道。《消費元宇宙開啓下一個消費時代》白皮書顯示，截至2022年3月，全國“元宇宙”概念相關企業共計1532 家，其中2021年新成立的企業711家。普華永道預計，2030年元宇宙市場規模將達到1.5萬億美元；摩根士丹利預計，未來元宇宙潛在市場空間將超8萬億美元。元宇宙可以帶動萬億級軟件産業集群和數字經濟創新發展，這已經成爲業界人士的共識。上海更是國內首個將元宇宙寫入“十四五”規劃的城市，將其明確爲四大“新賽道”之一，並著手培育發展相關産業。今年6月推出特色産業園區，7月發布《上海市培育“元宇宙”新賽道行動方案》。目前，在張江科學城內，一條以元宇宙生態爲核心，“算、端、創、用”協同推進的“張江數鏈”已悄然形成。
全球人工智能發展呈現中美兩國引領、主要國家激烈競爭的總體格局。在此次世界人工智能大會治理論壇上，中國科學技術信息研究所研制的《2021全球人工智能創新指數報告》顯示，中國人工智能創新水平已經進入世界第一梯隊，創新指數連續兩年排名第二；總得分上，與美國的分差進一步縮減。中國科學技術信息研究所所長趙志耘表示，中國人工智能發展迅速，綜合實力不斷提升，表現爲開源項目影響力明顯提升。2021年，中國的人工智能開源代碼量達到158項，相比2020年的139項有所增長。全球TOP500超算中心數量連年保持首位。
人工智能加速賦能實體經濟。華爲打造5G智慧煤礦，在晉能控股集團塔山煤礦，智能巡檢機器人往來探視；騰訊與富馳高科合作AI質檢項目，一年能爲企業節省人力成本數千萬元；果農可以通過網商銀行“大山雀”衛星遙感風控技術，解析衛星圖片並預測産量，從而很快獲得貸款；微創圖邁腔鏡手術機器人連接橫跨近5000公裏的新疆克州和江蘇南京，順利完成了三例泌尿外科超遠程手術，實現了迄今爲止世界上最遠距離的5G遠程機器人手術……
上海期智研究院院長、圖靈獎得主姚期智在本屆人工智能大會接受采訪時表示：“爲了人工智能將來的發展，我們必須在基礎研究上做大量工作。建設人工智能創新高地，就是要在制高點議題上，取得話語權。在關鍵技術上，中國即便現階段相對不足，也要盡力追趕，爭取早日進入世界前列。在新興理論與技術方向，大家都在同一起跑線上，應該爭取先機，和全球並跑。”
人工智能技術發展面臨全方位挑戰
人工智能已滲透我們日常生活的方方面面，其強大力量正在不斷地改變與塑造著社會。我們在享受其便利的同時，也身不由己地被卷入技術的操控之中。人工智能技術的達摩克利斯之劍已隱現于我們的頭頂。
我們在使用技術的同時，技術也在改變我們自身。我們習慣了GPS定位，方位感就可能退化；習慣了使用搜索引擎，記憶力就可能下降；習慣了信息的推送，視野和思維會越來越狹窄……法國哲學家貝爾納·斯蒂格勒對此一針見血：“這種智能一旦變成了人工的，也會産生一種人工愚蠢：由此生成的人工制品，也就是藥，就會導致退化和自毀。”對此，德國波恩大學教授馬庫斯·加布裏爾認爲，人工智能時代真正的危險是人類對于自我的誤解和人類自由的喪失——逃避自我理解的難題，把自己的生活完全出讓給一種訂置狀態。正如北京大學教授陳嘉映所強調：“我們更應該關心我們已有的東西，更恰當地理解我們已有的東西。比如，通過對人工智能的了解，更恰當地理解人類自己的智能。”也就是說，如果不對人工智能保持反思與警醒，人類會變得越來越適應機器，人性會越來越機器化。
人工智能給現實世界帶來的安全挑戰不容忽視，小至社會，大至國家關系。面對世界各主要經濟體在人工智能領域競爭激烈的局面，華東師範大學教授潘斌在接受本報記者采訪時表示：“基于算法壟斷、數字特權與代碼霸權的優勢國家可能會無視求同存異、和睦共生的原則，反以人工智能爲工具尋求支配地位與霸權統治，建立一個新的數字化殖民地與數字化帝國，這是人工智能所造就的新帝國主義，或者說人工智能進一步揭示了全球不平等問題。”中國社會科學院研究員趙汀陽抱持同樣的看法，他撰文指出，技術的本質是能力，能力越大，其博弈均衡點就對技術掌權者越有利……給定人性不變，文明的人工智能化就非常可能導致文明的重新野蠻化。在這裏，“野蠻化”是指社會關系惡化爲強權，即真理的叢林狀態。可見，不加規約的人工智能技術可能導致人類不平等的加劇。
伴隨人工智能技術的增強，AIGC（人工智能自動生成內容）、自動駕駛事故頻發、人臉識別泄露隱私安全、虛擬人引起職場焦慮、算法歧視、大數據殺熟、深度僞造……人工智能引發的科技倫理問題已引起全球關注，這也是人工智能行業目前面臨的挑戰。中國信息通信研究院院長余曉晖認爲，人工智能産業進入了技術兌現、技術紅利的關鍵階段。若要實現全面推廣，還面臨著泛化能力、魯棒性、安全性、准確性等方面不足，這也是當前釋放人工智能潛力最大的痛點和難點之一。
面對當下人工智能産業面臨的諸多問題與挑戰，國家新一代人工智能治理專業委員會主任薛瀾曾表示，如果人工智能的治理跟不上，不僅會給社會帶來各種風險，而且會在一定程度上限制AI本身的發展。當前人工智能治理面臨的最大挑戰是我們沒有相對成熟的系統來規制其潛在風險。
創造人工智能技術良性的未來
在人工智能的算力時代，無論是世界人工智能大會上展示的穿上就可以讓攝像頭視而不見的 “隱身衣”，還是在AISC首屆人工智能安全大賽中亮相的只要貼在面部或者眼鏡上就可以解鎖人臉識別的“神奇貼紙”，都生動展示了深度學習算法的風險。歐洲立法強調，必須把AI的可解釋性作爲一個非常重要的標准，來衡量一些企業、機構、平台所提供的AI服務是否合理合法。
中國科學院院士、清華大學人工智能研究院院長張钹在機器人大會上指出，純粹靠數據學習生成的人工智能不可解釋，處于不可控狀態，爲了避免危險，需要發展安全、可靠、可信的智能機器人。我們提出的第三代人工智能就是要解決第二代人工智能算法不安全、不可靠、不可信、不可控的問題。第一代人工智能主要靠知識驅動，第二代人工智能主要靠數據驅動，這兩個方法都有片面性，必須把這兩個方法加起來，才有可能發展安全的、可靠、可信的智能機器人。
今年以來，新加坡、歐盟、美國、中國等的監管機構和第三方機構紛紛發布AI治理測試工具箱、技術監管沙箱，推進AI治理的落地實施。據不完全統計，目前全球已經發布了100多個人工智能倫理治理相關文件，各國政府、國際組織、學術界和産業界四方力量高度關注人工智能治理問題。
目前，我國雖尚未出台國家層面的人工智能專門立法或倫理指導意見，但9月6日深圳通過了《深圳經濟特區人工智能産業促進條例》，上海也正在制定本市的人工智能産業促進條例。這兩部地方性立法都將倫理原則內置于其中，創設了倫理委員會，引入了倫理風險評估、倫理審查、倫理安全標准管理、倫理指引和倫理教育等制度，追求向善的創新、以人爲本的發展。
中國社會科學院研究員段偉文主張通過剖析算法認知過程與認知生態系統，對算法展開倫理與政治的審視。他在接受采訪時表示，要打破技術解決主義與無摩擦的技術的隱蔽組合策略。一方面，面對智能科技的社會倫理風險，在尋求技術解決方案的同時，應立足技術社會系統等更爲廣闊的維度，追問和消除社會不公、認知權利不對稱等深層次的肇因。另一方面，要充分揭示算法認知中經常運用的“無摩擦技術”和“技術無意識”等設計策略，使算法認知以及使其得以運作的力量得到應有的揭示，從而促進公衆對科技的社會價值的理解，提升其對科技未來的想象力，使整個社會擁有面向深度智能化時代的生存智慧。
人工智能正在將人類帶入智能時代，社會治理面臨新的挑戰。中國科學技術大學機器人實驗室主任陳小平強調，隨著人工智能技術應用越發廣泛，人類社會進入了一個本質上全新的時代，傳統的社會治理模式不再完全有效，必須發展新的社會治理模式。上海交通大學文科資深教授季衛東認爲，在人工智能治理中，過分強調法治會對人工智能産業的發展、人工智能技術的探索造成一定限制，應平衡經濟利益與治理的關系，在發展産業的同時保障權利、實現公平，不應顧此失彼。與經濟利益相對的是現在比較缺乏的人工智能治理，爲解決現實問題應特別強調個人權利、信息安全、隱私等，在我們評價維度中表現爲公平正義及對政府行爲的法律制約。
當前，我國以制造業爲代表的實體經濟正處于轉型升級的關鍵節點，亟需通過人工智能賦能來突破傳統生産方式的瓶頸、催生新興産業、重構商業模式，以智能化轉型爲實體經濟注入新動能。未來的人工智能必須是可控而有益的，我們不僅要用科技爲人工智能裝上價值“校准器”，同時，要拓展理論視野，創新智能時代的社會治理模式，構造人與智能機器協同演化、共同成長的社會生態系統，形成智能時代人機和諧的新型文明社會。
文章爲社會科學報“思想工坊”融媒體原創出品，原載于社會科學報第1823期第1版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。
拓展閱讀
治國理政 | 人工智能時代，推動數據治理
訪談 | 顧適：人工智能的悲劇是一個“貓語問題”
