6月11日，香港個人資料私隱專員公署發(fā)布《人工智能 （AI）： 個人資料保障模范框架》（下稱《模范框架》）。

《模范框架》涵蓋4大范疇，具體包括：制訂AI策略及管治架構；進行風險評估及人為監(jiān)督；實行AI模型的定制與AI系統(tǒng)的實施及管理；以及促進與持份者的溝通及交流。

個人資料私隱專員鐘麗玲12日向媒體表示，香港企業(yè)使用AI呈現(xiàn)上升的趨勢，希望《框架》為機構使用人工智能系統(tǒng)時提供指引，持續(xù)監(jiān)督AI系統(tǒng)，降低個人資料外泄的風險，特別是風險高的環(huán)節(jié)，應加強人為監(jiān)督。

據悉，《模范框架》是亞太區(qū)首個在人工智能領域針對保障個人資料隱私制定的指引性框架。

2021年9月26日，中國國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能倫理規(guī)范》(以下簡稱“《規(guī)范》”)，旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關活動的自然人、法人和其他相關機構等提供倫理指引。

《規(guī)范》提出了增進人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責任擔當、提升倫理素養(yǎng)等6項基本倫理要求。其中，數據與隱私安全內容貫穿了人工智能管理、研發(fā)、供應等特定活動的具體倫理要求。

相比于《規(guī)范》，《模范框架》給出的建議更加細化。其中對機構提供包括制定、進行、實行和促進四個階段的調整反饋機制，在四個階段中，又分別提出了細化的步驟和考慮項目。

比如，在第一部分《AI策略及管治》中，《模范框架》指出，AI策略可包含：界定AI系統(tǒng)在機構的科技生態(tài)系統(tǒng)中提供的功能、參考AI道德原則，制定特定適用于機構在采購、實施及使用AI方案方面的道德原則、列明AI系統(tǒng)在機構中不可接受的用途等等。

而在“列明AI系統(tǒng)在機構中不可接受的用途”一條中，《模范框架》特別指出，機構應識別潛在風險高至應禁止采用的AI用例，這些用例應隨著AI技術的發(fā)展、新風險的出現(xiàn)及/或新風險緩解措施的采用而增加、刪除或調整用例。

《模范框架》作為指引性框架，也對打算投資購入AI方案的機構提出了可供參考的建議，其中包括方案使用AI的目的、預計使用AI的用例，AI供應商應遵循的有關隱私和保安的主要責任和道德規(guī)定、技術性和管治方面的國際標準等等。

針對風險因素，《模范框架》也給出了較為細化的指導。其中包括識別和評估AI系統(tǒng)可能帶來的各種風險，采取措施減少AI系統(tǒng)帶來的隱私風險。此外《模范框架》指出，對于AI方案需要以風險為本的方式進行人工監(jiān)督。

《模范框架》建議，在決定人工監(jiān)督的程度時，需要考慮AI系統(tǒng)的風險程度，若是高風險AI系統(tǒng)，即可能對個人或群體造成嚴重及長期的損害、輸出結果可能影響到個體的基本權利和自由，包括財務損失、身體傷害、歧視、個人資料控制權的喪失、自主權的缺乏、心理傷害等的系統(tǒng)，則應采用“人在環(huán)中”（human-in-the-loop）模式，在此模式中，人類在決策過程中保留控制權，以防止或減少AI出錯或作出不當的決定。

高風險AI系統(tǒng)包括用于醫(yī)療診斷、信用評估、工作或求職評估等對個人或社會有重大影響的領域。

若是低風險AI系統(tǒng)，則可以采用“人在環(huán)外”（human-out-of-the-loop）模式，在此模式中，AI系統(tǒng)在沒有人為介入的情況下作出決定，以實現(xiàn)完全自動化的決策過程。

若這兩者都不適用，則可以使用適中風險AI系統(tǒng)，例如當風險程度不可忽視或“人在環(huán)中”方式不符合成本效益或不可行時，可以采用“人為管控”（human-in-command）模式。在此模式中，人類決策者利用AI系統(tǒng)的輸出結果監(jiān)控其運作，并在需要時介入。