AI監管規定 需發展與安全並重

全球人工智能（AI）浪潮為多個行業帶來挑戰，美國白宮於7月21日召集7大AI公司，包括亞馬遜（Amazon）、Anthropic、谷歌（Google）、Inflection、Meta、微軟（Microsoft）和OpenAI。各公司代表與美國總統拜登（Joe Biden）會面，討論如何解決AI帶來的許多風險。

美擬行政命令 防AI社會風險

他們於會後一同作出一系列保護用戶權益的自願承諾，包括同意進行安全測試，有需要時更會委託獨立專家進行；他們也同意採用新的水印技術以告知用戶內容是AI生成。再者，這些公司亦承諾願意對偏見和私隱問題進行研究、與政府和其他組織共享有關風險的信息、開發例如應對氣候變化等的「環境、社會、公司管治」（ESG）工具、採取識別AI生成材料的透明度措施等具社會責任的任務。

據悉，協議簽署屬自願性質，公司所作的承諾不包括具體的截止日期，而且如果不履行承諾，亦不會產生任何重大法律後果。此外每家公司都可以做出不同的解釋。但這些承諾的執行將會在很大程度上由美國聯邦貿易委員會監督。據聯邦貿易委員會官員解釋，公司違反公共承諾可以被視為欺騙性行為，與現有的消費者保護法互相衝突。

事實上，公司自願保障措施是早期的「沙盒」，屬於試探性工作，據報拜登對此並不完全滿意。華府正積極地制定一項相關的行政命令，以強硬手段防止AI對社會構成的風險。然而，有學者認為與自願承諾相比，行政命令必然會引發起科技產業界更多的反對聲音，因為過分監管AI應用難免會窒礙創新及科技發展，不利業界推陳出新，影響產業發展。這問題絕非美國獨有，其他科技發達國家都在面對。

網信辦推《辦法》 制定監管規則

中國互聯網信息辦公室等7個部門於7月13日聯合發布《生成式人工智能服務管理暫行辦法》，制定國家在AI和算法領域上的重要監管規則，具體監管要求包括：

•算法安全評估和備案義務。評估尤其針對具有輿論屬性或者社會動員能力的生成式人工智能的內容和服務。

•訓練數據。《辦法》中規定，「採取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性」。另外，《辦法》對產品研製中採用人工標註提出要求，包括1.制定清晰、具體、可操作的標註規則；2.對標註人員進行必要培訓；3.確保抽樣核驗標註內容的正確性。

•內容管理。針對生成式AI可能帶來的虛假信息問題，《辦法》提出不得生成違反法律法規和社會公德、倫理道德的虛假有害信息，並採取有效措施提高生成內容的準確性和可靠性。再者，服務提供者發現違法內容時要及時採取停止生成、停止傳輸、消除等行動；同時，提供者發現用戶利用生成式AI服務從事違法活動時，應當依法依約採取警示、限制功能、暫停或者終止向其提供服務等處置措施，保存有關紀錄，並向有關主管部門舉報。

•防止歧視。《辦法》要求在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，採取有效措施防止生成民族、信仰、國別、地域、性別、年齡、職業、健康等歧視內容。

•生成內容標識和審核。《辦法》要求提供者應當根據國家規定對生成的圖片、視頻等內容進行標識。

•用戶個人信息（包括輸入信息）保護。《辦法》要求服務提供者對使用者的輸入信息和使用紀錄應當依法履行保護義務，不得收集非必要個人信息、不得非法留存能夠識別使用者身份的輸入信息和使用紀錄、不得非法向他人提供使用者的輸入信息和使用紀錄。

•用戶權益保護。《辦法》要求服務提供者提供安全、穩定、持續的服務，保障用戶正常使用。《辦法》規定了防止沉迷義務，要求服務提供者明確並公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式AI技術，採取有效措施防範未成年用戶過度依賴或者沉迷生0成式AI服務。

留空間包容發展 港可借鑑

總括而言，《辦法》原則上體現發展和安全並重、促進創新和依法治理相結合，既包括了對生成式AI在應用過程中可能產生的道德倫理、安全隱私、知識產權、歧視及不當言論等問題的監管，同時也注意到為新技術的發展留下包容開放的空間，非常值得香港借鑑。

▲ 作者認為，中國網信辦《生成式人工智能服務管理暫行辦法》既包括了對生成式AI在應用過程中可能產生的問題的監管，同時為新技術發展留下包容開放空間，值得香港借鑑。（路透社資料圖片）