這是全球首套可用來核實AI系統安全和可靠等各方面表現的框架,楊莉明也廣邀公司和機構試行采用。
目前有10家公司率先試行采用系統
通訊及新聞部長兼內政部第二部長楊莉明昨天在瑞士達沃斯舉行的世界經濟論壇上宣布推出AI Verify時說,這是企業可用來自我評估的實用資源,他們可借此向利益相關者展示人工智能(AI)系統的性能,提升透明度,以及人們對這項科技的信任。
他們只須下載這個工具包,並按照指示進行一系列技術和流程測試。工具包會根據AI系統是否能做出公平及合乎依據的抉擇,以及是否夠安全和堅韌等方面的表現,生成一份評估報告。開發商和高層之後可選擇與利益相關者分享報告結果。
通訊及新聞部長兼內政部第二部長楊莉明昨天在瑞士達沃斯舉行的世界經濟論壇上宣布推出AI Verify時說,這是企業可用來自我評估的實用資源,他們可借此向利益相關者展示人工智能系統的性能,提升透明度,以及人們對這項科技的信任。
“我們會繼續制定AI內部監管方法、流程和控制措施,確保銀行負責任使用這項科技,提升客戶、職員、利益相關者,以及社會對我們的信任。”
星展銀行首席分析官古普塔(Sameer Gupta)受訪時說,通過與資媒局的合作,公司更了解如何在監管AI系統的同時,不扼殺這項創新科技的發展。他也說,使用工具包的過程簡單易懂,公司下來也會參考新框架內適用于銀行運作的部分。
在國際合作方面,我國加入人工智能分技術委員會,也正同其他國家和夥伴接洽,就加強AI監管框架和制定國際標准進行探討。資媒局也同美國商務部展開合作,制定相互兼容的AI監管框架。
AI Verify由資媒局和個人資料保護委員會共同制定。當局將多個開源測試方案包裝成一個工具包,供開發者和公司使用。
我國早在2019年推出人工智能監管模式框架和全國人工智能策略,爲多個領域和企業提供使用AI的指導原則。資訊通信媒體發展局說,AI是個新興領域,更多産品和服務在使用這項創新科技的同時,也能通過AI Verify,培養公衆對這方面的信任。
新框架目前處于最簡可行産品(Minimum Viable Product)的階段。資媒局廣邀業界試行采用,並提供反饋協助當局改善框架,將來對制定國際標准也會有幫助。
資媒局:通過AI Verify培養公衆信任
至今已有10家公司率先試行采用,包括星展銀行、谷歌、Meta,以及新加坡航空等。這些公司都已經在日常運作中采用AI。例如,星展銀行借助AI和機器學習爲客戶進行財務和投資規劃,公司也制定一套可用來反洗黑錢和反恐融資的監管系統,並爲職員規劃職業發展跑道和技能培訓。
人工智能科技可用來核實客戶身份、防止索賠欺詐或進行機器翻譯等,卻也涉及不少安全隱私和公平問題。我國制定一套新框架,通過一系列技術和流程測試,核實産品和服務使用的人工智能系統是否能做出合乎依據的抉擇,並對用戶安全、可靠和透明。