【全球AI戰略洞察】欄目由清華大學人工智能國際治理研究院推出，旨在通過對當前人工智能領域發生的重要信息進行“標注、提煉、解讀”，剖析全球AI治理各國家間不同的戰略圖景，以此描繪人工智能治理領域的國際格局。
欄目主理人：劉典
復旦大學中國研究院副研究員、清華大學人工智能國際治理研究院戰略與宏觀研究項目主任
前言
上周末，歐盟剛剛就《人工智能法案》（下稱《法案》）的細節達成一致，并將盡快推進《法案》的實施工作。該《法案》將進一步全面監管人工智能技術的構建與使用，直接對使用人工智能技術的公司，如谷歌和Open AI等產生重大影響。相比起中國8月出臺的《生成式人工智能服務管理暫行辦法》和此前的《互聯網信息服務算法推薦管理規定》與《互聯網信息服務深度合成管理規定》，歐盟的《法案》是目前對于人工智能技術最全面的管理辦法，包括了禁止使用性取向和種族等敏感特征來識別人們的生物識別系統、從互聯網上不加區別地抓取面孔等限制性規定。
與中國和歐盟不同，美國在人工智能立法方面幾乎沒有進展。到目前為止，圍繞人工智能的唯一立法是紐約市第144號地方法，該法要求對自動化招聘流程進行偏見審計。而如加利福尼亞州和新澤西等其他州，也已經有議員提出和推進圍繞人工智能等立法。
在聯邦層面，美國的人工智能立法還遙遙無期，因此拜登政府嘗試通過發布行政命令的方式先行推進對于人工智能的風險防范措施。2022年10月，美國白宮科技政策辦公室（OSTP）發布《人工智能權利法案藍圖》，為美國之后的行政與立法端的限制舉措提供指導方向。2023年10月，拜登發布“關于安全、可靠和值得信賴的人工智能”的行政命令。本文將對美國目前的人工智能技術管理辦法進行梳理。
聯邦層面：利用行政手段先行制定強制性規范
01
《人工智能權利法案藍圖》
日期：2022年10月4日
形式：非約束性原則
目標：形成社會指南，指導自動化系統的設計、使用和部署，以在人工智能時代保護美國公眾。
內容：
- 建立安全和有效的人工智能系統
- 建立算法歧視保護措施
- 保護數據隱私
- 強調通知和透明度的重要性
- 鼓勵開發選擇退出機制
評價：該非約束性原則是一份“框架性”和“起點式”文件，為后續美國政府和立法者確立了監管方向，但缺乏細節和具體實施。
來源：https://www.whitehouse.gov/ostp/ai-bill-of-rights/
02
關于安全、可靠和值得信賴的人工智能”的行政命令
關于安全、可靠和值得信賴的人工智能”的行政命令
日期：2023年10月30日
形式：行政命令
目標：為人工智能安全和保障制定了國內新標準，保護美國人的隱私，促進公平和公民權利，維護消費者和工人的利益，促進創新和競爭，提升美國在人工智能全球治理的領導地位。
內容：
- 設立人工智能安全新標準，保護美國公民免受人工智能潛在風險：
（1）領先的人工智能系統的開發者與美國政府共享其安全測試結果和其他重要信息；
（2）制定標準、工具和測試機制，以幫助確保人工智能系統的安全、可靠和可信；
（3）通過制定強有力的生物合成篩選新標準，防范利用人工智能設計危險生物材料的風險；
（4）通過制定檢測人工智能生成內容和驗證官方內容的標準和最佳實踐，保護美國人民免受人工智能帶來的欺詐和欺騙；
（5）建立先進的網絡安全計劃，開發人工智能工具，發現并修復關鍵軟件中的漏洞；
（6）制定一份國家安全備忘錄，指導有關人工智能和安全的進一步行動。
- 更好地保護美國公民的隱私：
（1）優先考慮采用聯邦支持，加快開發和使用隱私保護技術，包括使人工智能系統在訓練的同時保護訓練數據隱私的技術；
（2）加強隱私保護研究和技術發展，如加密工具，為研究協調網絡提供資金支持，以推動快速突破和發展；
（3）評估各機構如何收集和使用商業可用信息，并加強聯邦機構的隱私指導，以兼顧人工智能；
（4）為聯邦機構制定指導方針，以評估隱私保護技術的有效性。
- 促進公平和公民權利
- 保護消費者、患者和學生
- 支持工人
- 促進市場創新和競爭
- 提升美國在海外的領導力：
（1）擴大雙邊、多邊和多利益相關方參與，以在人工智能領域開展合作；
（2）與國際合作伙伴和標準組織一起加快重要人工智能標準的開發和實施 ，確保技術安全、可靠、可互操作；
（3）促進人工智能在國外安全、負責任和維護權利的發展和部署，以解決全球挑戰。
- 確保政府負責任且有效地使用人工智能
評價：該命令為美國迄今為止最全面的人工智能監管原則，在簽署命令之前，拜登政府已與美國七家最領先的人工智能公司充分討論并取得這些公司的自愿遵守承諾。該舉措是拜登政府在緩慢的立法進程與人工智能技術迅速發展所帶來技術風險之間的平衡，也是保持美國人工智能公司全球領先地位與預防過度發展所帶來的潛在社會危害之間的平衡。
來源：https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/
州層面：圍繞人工智能的立法舉措
01
紐約市地方法 144 (NYC 144)
日期：2023年7月5日
形式：立法
目標：限制雇主對于自動招聘決策工具（AEDT）的使用
內容：
使用自動招聘決策工具或“AEDT”協助決策的雇主必須確認此類工具已經歷“偏見”審計。
（NYC 144將AEDT 定義為“源自機器學習、統計建模、數據分析或人工智能的任何計算過程，該過程發出簡化的輸出，包括分數、分類或建議，用于實質上協助或取代自由裁量權做出影響自然人的就業決定的決策。”）
評價：該立法是美國第一個圍繞人工智能的立法。該立法側重于人工智能對于美國公民權利的影響，落腳點在于人工智能對于招聘環節和就業歧視的影響。NYC 144關注的是工具的結果，而不是工具如何實現這些結果。根據NYC 144可以看出，美國在未來的人工智能立法中可能更加關注人工智能技術的影響而不是人工智能參與過程的系統或者機制，因為影響更容易衡量。對于企業來說，人工智能技術的使用將會使他們面臨更多的合規風險。
來源：https://www.natlawreview.com/article/nyc-s-local-law-144-and-final-regulations-regulation-ai-driven-hiring-tools-united
02
其他算法、隱私等相關立法
加利福尼亞州：《加州消費者隱私法案》管轄分析和自動決策。
康涅狄格州：《隱私法案》(CTPA)，如果分析是為了促進產生法律或其他類似重大影響的自動決策，則消費者有權選擇退出。
科羅拉多州：《保護消費者在保險實踐中免受不公平歧視》、《隱私法》（CPA）消費者有權選擇不處理其個人數據，以“進行分析以促進產生法律或類似重大影響的決策”。
伊利諾伊州：《人工智能視頻面試法案》
印第安納州：《參議院法案5規范個人信息的收集和處理等數據使用，規定分析和自動決策的規則。
馬里蘭州：《眾議院法案1202禁止雇主在求職者的就業前面試期間使用面部識別服務來創建面部模板。
蒙大拿州：《消費者數據隱私法》規范數據使用、個人信息的收集和處理、分析和自動化決策等。
田納西州：《參議院法案73及配套法案《眾議院法案1181強制執行與“分析”相關的數據保護評估。
德克薩斯州：《眾議院法案1844
弗吉尼亞州：《弗吉尼亞消費者數據保護法案》(VCDPA) 規定了分析和自動化決策的規則。
03
其他的人工智能相關擬議立法
紐約（提議）：A00567 號法案將要求雇主每年進行不同的影響分析。不同的影響分析可以用作司法部長發起調查的證據。
新澤西州（擬議）：A4909 法案將要求銷售自動化就業決策工具的企業 (i) 在銷售該工具的過去一年內進行偏差測試，(ii) 向購買者免費提供年度偏差審計服務，并且（ iii) 通知該工具須遵守待定的國家立法。
加利福尼亞州（提議）：AB331 法案將要求自動化決策工具的部署者對雇主使用的任何自動化決策工具進行影響評估。
馬薩諸塞州（提議）：H.1873 法案將要求雇主完成算法影響評估，以評估自動決策系統潛在的歧視風險。
加利福尼亞州參議員斯科特·維納 (D-San Francisco) 推出了SB 294，即《人工智能安全法案》。SB 294 為加州提供了一個框架，以確保人工智能模型在其境內的安全開發。
新澤西州議員薩達夫·賈弗 (Sadaf Jaffer)推出S1926，旨在規范招聘決策中自動化工具的使用，以盡量減少就業歧視。該法案將禁止自動化就業決策工具，除非該工具 (1) 在過去一年內接受過偏差審計，(2) 將接受年度偏差審計服務，且購買者無需支付額外費用該工具的信息，以及 (3) 包含該工具受法律規定約束的通知。
產業層面
01
成立“人工智能聯盟”
（IBM、Meta等全球50多個企業、學術機構、非政府組織、政府組織、國際組織）
日期：2023年12月5日
形式：開放參與
目標：支持人工智能領域的開放創新和開放科學，建立開放社區
內容：
- 開發和部署基準和評估標準、工具和其他資源，以便在全球范圍內負責任地開發和使用人工智能系統。
- 負責任地推進具有多種模式的開放基礎模型生態系統。
- 促進關鍵支持軟件技術的貢獻和采用，培育充滿活力的人工智能硬件加速器生態系統。
- 支持全球人工智能技能建設和探索性研究。讓學術界參與進來，支持研究人員和學生學習并為重要的人工智能模型和工具研究項目做出貢獻。
- 開發教育內容和資源，讓公眾討論和政策制定者了解人工智能的好處、風險、解決方案和精準監管。
- 發起倡議，鼓勵以安全和有益的方式開放人工智能發展。
評價：該聯盟的成立意味著以一種非政府路徑促進人工智能的發展、監管與國際合作。值得注意的是，聯盟的初創者中并不包含微軟、谷歌和Open AI公司，因此該聯盟可能暗示了一種潛在的產業界自我和互相監督的監管路徑。目前微軟和谷歌公司對于人工智能技術的開發和使用相對封閉和不透明，未來更可能建立起對于其他公司的巨大優勢。因此，一方面該聯盟顯示了與微軟和谷歌不同的人工智能發展理念，另一方面也隱含了人工智能領域積累的商業和技術競爭。
來源：https://thealliance.ai/news
當前人工智能監管的三種代表框架與美國的監管路徑預測
目前人工智能技術的全球監管格局高度分散，并未形成統一的監管方式和內容。全世界的人工智能監管規范以歐盟、美國和中國形成三種代表框架。
《法案》的目標是針對人工智能制定相關風險的預防性法規，重點關注五個主要優先事項：人工智能的使用應該安全、透明、可追溯、非歧視和環境友好。《法案》根據人工智能相應的風險創建了一個浮動監管范圍，旨在對風險最高的人工智能系統施加最嚴格的限制。該法律將根據四個級別對人工智能工具進行分類：不可接受的風險、高風險、有限風險和最小風險。不可接受的風險包括對個人進行社交評分或在公共場所進行實時面部識別的人工智能系統。他們將被禁止。其他風險較小的工具，例如生成經過處理的視頻和“深度偽造”圖像的軟件，必須披露人們正在看到人工智能生成的內容。但歐盟全面的預防性法律也會在市場創新和競爭上產生影響，過多的監管可能會扼殺企業對于新領域或者新技術嘗試的機會的和熱情，不僅限制了如Meta、Open AI等全球企業在歐盟的發展，也會限制歐洲本土人工智能企業的發展。法國人工智能公司米斯特拉爾（Mistral）等公司的領導團隊試圖進行游說以放松監管，認為它們使全球人工智能創新競賽變得不平等。
拜登的行政命令為美國人工智能技術劃定了發展方向和危險禁區，但其監管力度和范圍遠遠比不上實際的立法行為。在行政命令發布之前，拜登政府給予企業自愿自我監管安全風險的余地。7 月，白宮宣布亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 等多家人工智能制造商已同意對其系統進行自我監管。這些自愿承諾包括對工具進行第三方安全測試（稱為紅隊）、對偏見和隱私問題的研究、與政府和其他組織共享有關風險的信息，以及開發應對氣候變化等社會挑戰的工具，同時包括識別人工智能生成材料的透明度措施。美國目前以自愿為原則的監管辦法在最大程度上鼓勵了美國的人工智能技術創新和大企業的全球發展，因為將不會有政府的強制性監管機構監督大公司的人工智能計劃和技術框架。
自 2021 年以來，中國出臺了多項有關推薦算法、深度合成等內容和生成式人工智能的法規。中國的《生成式人工智能服務管理暫行辦法》重點關注生成式人工智能領域，尤其是應對與深度偽造和其他合成內容有關的風險，注重于平衡服務提供者和使用者之間的責任。《立法》明確監管紅線，優先企業自查，旨在促進生成式人工智能健康發展和規范應用，也體現出立法者對于人工智能創新發展的積極鼓勵態度。
目前，美國以行政命令和自愿原則為主的監管手段并不是人工智能時代監管的長久之計。隨著人工智能技術的發展和相關企業對于各行各業滲透和影響，風險和威脅將會指數性上漲，而僅憑自愿原則將無法規范更多在該領域的中小型公司。未來，美國或將會在現行州層面的立法和拜登政府的行政命令的基礎上，出臺美國聯邦層面的人工智能監管立法，形成一套完整的基于人工智能技術的監管體系和專門的監管機構。參議院多數黨領袖、紐約州民主黨人查克·舒默 (Chuck Schumer)承諾，可能會在明年制定一項全面的人工智能法案。
主理人：劉典
編輯：盧的、陶含孜
排版：趙楊博
校審：王祚
終審：梁正、魯俊群
魯ICP備2020050029號-1
魯ICP備2020050029號-1