摘 要：人工智能立法凡是會對特定技巧有所著重。聯邦進修屬于主流的機械進修技巧，最年夜的上風就在于其架構design充足斟酌了隱私需求。聯邦進修在金融、數據公然等範疇的利用曾經比擬普遍，并對天然人權益發生了嚴重影響。今朝以隱私維護為目的的聯邦進修不竭裸露各類隱私提醒了小我數據隱私維護途徑的法令缺點：規范稀少招致聯邦進修缺少明白隱私需求，“隱私design”上風很可貴到施展；分布式架構招致聯邦進修隱私維護義務難以落實；過度誇大保密性和平安性，招致隱私維護的人格性被弱化和轉化；技巧衡量缺少規范招致隱私維護缺少通明性和斷定性。這些題目提醒了人工智能隱私維護與小我數據維護在維護對象、維護流程、維護義務、維護框架等方面存在的宏大鴻溝。為了順應人工智能隱私維護的特別請求，將來可在整合規范根據、調劑規范重點、摸索回責機制、構建溝通機制等方面臨人工智能隱私維護規范停止進級和完美。
要害詞：人工智能立法；聯邦進修；隱私design；差分隱私；隱私盤算
人工智能練習、安排、應用經過歷程存在很多隱私風險。但人工智能隱私維護今朝沒有一個整全性的計劃。“人工智能”這個術語涵蓋了很多道路懸殊的技巧計劃。在科技界，包含楊立昆（Yann LeCun）和杰弗里·辛頓（Geoffrey Hinton）在內的迷信家關于人工智能技巧今后的實際成長標的目的和工程實行計劃依然存在較年夜的爭議。在2010年之前，基于人工神經收集架構的深度進修已經被普遍認定為一種沒有前程的技巧途徑。但十多年來人工智能技巧和財產的迅猛成長推翻了之前的風行認知。歐盟的人工智能立法文本重要表現了當下的技巧認知和實行的標的目的。好比歐盟《人工智能法》（Artificial Intelligence Act）專門誇大了其與《通用數據維護條例》（General Data Protection Regulation，以下簡稱GDPR）的關系，并以機械進修這種比擬依靠數據驅動的技巧道路為重要規范對象。歐盟人工智能立法的波折經過歷程及其終極版本對基本模子的專門誇大也闡明今朝的人工智能立法并不完整是中立的，而是對特定技巧有所著重的。聯邦進修（federated learning）是一種在隱私維護的條件下充足應用多個機構或主體的數據停止結合建模的機械進修基本技巧。這種隱私維護機械進修框架既能穩固運轉包含神經收集在內的各類主流算法又能兼容年夜模子技巧，屬于以後主流的機械進修技巧。作為一種“隱私design”（privacy by design），聯邦進修最年夜的上風就在于其架構design充足斟酌了隱私包養 需求，在一切義務中都可以或許包管“數據不出庫”。“數據不動模子動、數據可用不成見”的特征使得聯邦進修在充足應用介入方數據協同練習模子的同時，還能很好地維護用戶的隱私和數據平安。這種根據小我數據（信息）維護法思緒而design的架構并不克不及與日俱增地防止隱私風險。科技界曾經指出了聯邦進修的隱私design仍有缺乏。2024年2月，斯坦福年夜學人自己工智能研討院在落款為《在人工智能時期從頭思慮隱私》的白皮書中指出：小我數據維護權無法有用打消人工智能大批搜集數據形成的隱私風險；現有和擬議中的隱私立法缺乏以處理人工智能的隱私題目。今朝聯邦進修在金融、數據公然等範疇的利用曾經比擬普遍，介入者多為機構和企業，不易為民眾感知和熟悉。但是法學研討應當有超越通俗和風行認知程度的高度，深刻剖析聯邦進修隱私維護在法令層面的缺乏，將技巧層面的固出缺陷浮現出來，也有助于提醒人工智能隱私維護的特別性，并對人工智能隱私規范的成長標的目的供給啟示。
本文對“隱私維護”“小我信息維護”等術語的應用采取軌制聯繫關係和實際成長的態度。今朝法令範疇普遍應用的“小我信息維護”“隱私權”“隱私維護”等概念，并沒有哪個加倍基本以致于可以成為其他概念的基本或許具有代替其他概念效能的必定性。相反，隱私權和小我信息維護在極端復雜的實際佈景下以高度聯繫關係的方法配合成長。從實際成長的角度看，業界更多應用的是“隱私維護”（privacy preserving）這個具有高度包涵性和彈性的概念。聯邦進修提出者們在論文頂用“隱私維護”這個術語往返應以歐盟GDPR為代表的小我數據維護的法令請求。但《中華國民共和國小我信息維護法》（以下簡稱《小我信息維護法》）等法令規范提出的隱私權維護等請求并不會在新興的技巧和產物上主動完成，而是需求包含法學界在內的相干主體加倍有針對性的審閱、反思與推進。本文從法令的規范態度審閱現有聯邦進修隱私維護的現實後果和缺乏，并由此剖析其軌制緣由并提出相干法令對策。本文采用技巧與規范聯合的態度，用“隱私”一詞來歸納綜合與確保數據免受不測或居心表露以維護人格莊嚴相干的各類權益。
一、聯邦進修隱私維護的法令局限性
聯邦進修原來就是小我數據維護法有用實行的結果。谷歌公司的技巧團隊在2016年初次提出聯邦進修概念時宣稱其是一種充足斟酌了隱私維護的、合適古代變動位置裝備練習人工智能的分布式深度進修框架。變動位置裝備上的人工智能練習數據凡是是隱私敏感（privacy sensitive）或多少數字宏大的。這招致登錄到數據中間停止練習的傳統方法不再合適。作為一種替換計劃，聯邦進修將練習數據分布在變動位置裝備上，經由過程湊集當地盤算的更換新的資料來進修共享模子，從而處理安卓手機用戶鍵盤輸出法的當地更換新的資料優化題目。這種基于裝備的結合建模僅是聯邦進修的一種形狀。聯邦進修的形狀由跨裝備結合練習慢慢拓展至跨機構結合建模。狹義的聯邦進修誇大各介入方的原始數據存儲在當地，不停止交流或傳輸，而是應用即時聚合更換新的資料的方法來到達模子進修的目標。聯邦進修的愿景是在知足隱私維護需求的條件下，充足應用更多介入方的數據停止人工智能項目標開闢和安排。法學界今朝對ChatGPT這類預練習年夜型說話模子（Large Language Model，簡稱LLM）的愛好遠高于聯邦進修。現實上，聯邦進修亦可有用增進LLM的穩步成長。有研討指出高東西的品質說話數據存量能夠將在2026年耗盡，低東西的品質說話數據和圖像數據的存量也將在將來20年中慢慢耗盡。假如數據應用效力沒有明顯進步或找到新的數據源，機械進修的成長趨向能夠放緩，LLM的範圍增加也會遭到限制。聯邦進修為充足應用各類終端和機構的數據供給了合規架構，有助于衝破數據瓶頸（data bottleneck），在隱私維護基本長進行LLM建構。別的，由于端側通訊和算力限制，通用人工智能也可應用聯邦進修這類分布式機械進修停止即時的端側練習和模子更換新的資料。
在聯邦進修提出的最後幾年，各界對其隱私維護後果佈滿信念。由于歐盟隱私維護規范對谷歌這類跨國至公司來說好處攸關，是以GDPR等歐盟律例的制定和實行春聯邦進修design的影響是直接和顯明的。有學者傳播鼓吹：“聯邦進修經由過程加密機制下的參數交流方法維護用戶數據隱私，數據和模子自己不會停止傳輸，也不克不及反猜對方數據，是以在數據層面不存在泄露在國際核心期刊上發表百餘篇論文，擔任名牌大學終身的能夠，也不違背更嚴厲的數據維護法案如GDPR等。”可是，2019年就有研討證實可以經由過程模子的輸出輸入以及中心梯度來反推介入模子練習的數據。2020年有研討展示梯度反轉（inverting gradients）進犯可以重構介入方練習數據。很顯明，聯邦進修發布時的悲觀判定無法成立。現實上，進犯者可以依據聯邦進修體系的構造特征對其停止數據中毒、模子進犯、推理進犯、辦事器破綻等情勢的進犯，此中一些還會招致嚴重的隱私風險。罕見的針春聯邦進修的隱私進犯包含：模子重建進犯、歹意辦事器進犯、基于GAN的推理進犯、揣度成員進犯等。
今朝，關于聯邦進修隱私風險的研討仍處于方興日盛的階段。正如本文行將指出的那樣，技巧範疇經常混用“隱私”“數據”與“平安”概念。本文基于規范與技巧聯合的態度，從法學角度對與法令慎密相干的四個方面的聯邦進修隱私風險停止梳理，對與法令聯繫關係不年夜的“隱私”技巧題目并沒有深刻切磋。這種梳理很能夠是不完全的，但也基礎籠罩了最為急切的隱私規范題目。總體而言，今朝聯邦進修隱私維護在法令規范層面的局限性重要都是以小我數據維護為焦點的隱私維護途徑形成的，重要表示在以下四個方面。
（一）隱私維護規范稀少招致隱私需求匱乏
隱私需求（privacy requirement）是與隱私相干的體系請求。隱私需求的直接起源重要有法令（law）、律例（regulation）、尺度（standard）、最佳實行（best practice）以及好處相干方的等待等。隱私design（privacy by design）的普通流程是起首斷定隱私需求；接上去停止隱私風險評價，選擇適當的隱私把持方式；最后停止法式的開闢和集成。隱私需求是隱私design的動身點和成敗的要害。隱私需求不清楚或不完整會招致隱私design的功能年夜打扣頭。今朝聯邦進修的隱私需求起源單一，重要由開闢者對體系隱私機能停止自動摸索和改良。這充足表現了“隱私design”的自動（proactive）和預防（preventive）特征：design者應自動預估體系潛伏的弱點和能夠產生的隱私要挾，然后選擇適當的技巧和治理辦法對相干風險停止預防。除了來自開闢者和研討者的隱私需求外，今朝聯邦進修範疇的其他隱私需求很是匱乏。詳細來說，表示在如下幾個方面。
起首，法令春聯邦進修這類機械進修架構的隱私維護并無專門規則或特別請求。今朝針對人工智能和年夜數據範疇的法令規范方法是軟硬法聯合、傳統立法與各類尺度、指南、最佳實行等規范配合施展感化。這些分歧性質的規范之間相互參照、慎密聯絡接觸，配合組成人工智能狹義的法令規范周遭的狀況。由于全球人工智能立法仍處于摸索階段，現有法令中對人工智能隱私維護最具操縱性的規范是小我數據維護法。以GDPR為例，聯邦進修“數據可用不成見”的特征使其能輕松地合適其六年夜準繩中的正確性、存儲限制、完全性和保密性準繩，對目標限制準繩和數據最小化準繩的服從度也很是高，對符合法規公正通明準繩的服從水平則與其他機械進修體系基礎雷同。歐盟人工智能立法沒有春聯邦包養網 進修這類架構設置專門規范。根據該刑場景規范的途徑，聯邦進修實用的各類場景年夜多合適低風險的情況，即使觸及高風險人工智能利用，聯邦進修也比其別人工智能架構更不難合適該法的各類隱私合規請求。聯邦進修在現包養網 有規范框架下像一個高度自發的隱私維護“優等生”，來自法令律例的強迫性隱私需求是匱乏的。
其次，由于聯邦進修正處于高速成長階段，技巧框架和細節仍有很年夜完美空間，相干共鳴有待慢慢構成。即使有研討者或機構提出一些評價尺度，也都是階段性和摸索性的。總體來看，今朝關于聯邦進修隱私維護的最佳實行和尺度是稀疏的。
最后，好處相干方的隱私等待也是匱乏的。在現有小我數據維護法框架下，數據主體春聯邦進修的隱私等待是含混的。從規范層面看，憲法、平易近法和其他部分法中的人格權和隱私權規范過于抽象，基礎不具有特定場景的可操縱性。從現實後果來看，隱私維護現實被內容標籤：天作之合、業界精英、小甜文、先婚後愛數據維護替換。隱私權對應的人格權主體被降格為毫能幹動性的受維護的數據主體。從現實層面看，由于聯邦進修的架構和技巧很是復雜，年夜部門通俗數據主體最基礎無從清楚其相干權力能夠受損的場景和道理。聯邦進修的練習和推理流程對原始數據的維護總體來說是優于包養其他架構的，是以數據主體的維權憂慮也較弱。權力主體隱私等待需求的匱乏招致在貿易安排中，聯邦進修的隱私維護目的很不難在與數據合規應用、模子效力或許收集平安的衡量中被就義。
（二）隱私維護法令義務含混
聯邦進修隱私維護法令義務簡直定與究查的艱苦重要來自其松散的“聯邦”關系和特別的“結合”進修經過歷程。詳細表示在如下幾個方面。
起首，聯邦進修在主體關系方面的“松散性”招致回責艱苦。在松散的聯邦構造中，各數據持無方之間是一種比擬同等的關系。一旦呈現追責題目，很難從規范層面簡略地斷定詳細義務主體。以橫向聯邦進修為例，在客戶端—辦事器收集構造下，如谷歌Gboard之類的跨裝備端聯邦進修利用呈現隱私泄露題目，比擬不難斷定安排利用的至公司的重要義務。但假如是跨機構的聯邦進修，辦事器則既能夠是主導聯邦進修體系建構的主體設置的，也能夠是各個客戶端主體配合信賴的第三方供給的。且辦事器把持者未必應對隱私維護負更多義務。對等收集構造聯邦進修各介入方之間的關系更接近松散的“邦聯”：各介入方無須借助第三方即可直接通訊，平安性雖獲得了進一個步驟進步，但呈現題目后更難斷定義務回屬。
其次，聯邦進修結合進修建模的特征使其介入方的法令性質難以斷定。各介入方紛歧定就是歐盟小我數據維護法上的“數據把持者”或許我國《小我信息維護法》上的“小我信息處置者”。GDPR界定的數據把持者是指可以或許零丁或與別人配合決議小我數據處置目標和方法的組織或小我，其在小我信息處置運動中施展焦點決議計劃感化，并對該決議計劃擔任。很顯明，小我數據把持者自己就是一個與義務慎密聯繫關係的概念。歐盟數據維護機構也認同：“把持者是一個效能概念，旨在依據現實影響分派義務。”把持者必需斷定應為哪些預期目標處置哪些數據。聯邦進修的各介入方往往不克不及到達把持者的尺度。這是由於聯邦進修關于小我數據處置的重要目標是練習模子，而不是獲取更多關于個別的信息。更主要的是在聯邦進修架構下小我數據是可用不成見的，且數據可用性不是以活動性作為條件的，相反是在不活動的情形下施展感化。不成見自己就合適小我數據維護框架下的隱私等待。假如不克不及將聯邦進修介入方定性為小我數據把持者或小我信息處置者，從小我數據法角度對其停止義務分派和究查也會成為無根之木。
（三）隱私維護的人格權益被轉換和弱化
法令隱私概念包括兩個重點，即人格性（自立本次知識競賽節目將問答與辯論結合。參賽者——嘉賓性、成分和莊嚴）和掩蔽性（免于侵進、限制察看）。聯邦進修提出時斟酌了小我數據維護法的請求，但落其實design和工程實行上，則重要參考現有收集平安和信息平安規范的請求。聯邦進修隱私維護實在顛末了兩次轉換：起首在立法層面被轉換為小我數據維護，然后又在更詳細的技巧尺度層面被轉換為信息平安防護。由此，聯邦進修隱私維護過火誇大掩蔽性（保密性），而疏忽了人格性的維度。
在design和工程完成上，隱私維護是信息體系平安防護框架下的一個分支範疇。例如國際尺度組織（ISO）在數據通訊和收集平安範疇制訂的尺度就起首是平安尺度，并在平安尺度基本上慢慢開端發布隱私尺度，此中最主要的是ISO/IEC 29100系列隱私框架尺度。這些隱私尺度是基于平安尺度和平安治理的框架建構起來的。年夜部門隱私尺度的請求終極都經由過程貫徹平安尺度得以完成。在人工智能平安尺度化的研討組SC42發布的浩繁尺度中，沒有一項是專門的隱私維護尺度。這也從正面闡明今朝人工智能尺度制定範疇中平安的級別優先且遠高于隱私。
美國國度尺度與技巧委員會（National Institute of Standards and Technology，以下簡稱NIST）編號為SP 800-53的《信息體系和組織的平安和隱私把持》（Security and Privacy Controls for Information Systems and Organizations）供給了具體周全的隱私把持事項，并具有明白的組織和構造。此中控件分為20個族（families），盡年夜部門都是隱私與平安配合的把持項目。並且在SP 800-53第四版中還增添了個別介入（individual participation）和隱私受權（privacy authorization）兩個專門的隱私把持項目。但文件的制訂者以為“沒有信息平安的基礎基本，組織就不成能擁有有用的隱私”。于是，在2020年第五版對把持項目停止了大批調劑，包含用其他項目代替了個別介入和隱私受權兩個專門的隱私把持項目，以及對第四版的一些把持辦法元素停止分化細化，從全體上進步了把持項目標集成性，加大力度了隱私和平安把持的一體化。但隱私維護的需求進一個步驟被平安防護接收了。其他的相干尺度包含IEEE尺度委員會（SASB）于2021年發布的聯邦進修尺度（IEEE P3652.1）以及中國信息通訊研討院牽頭制訂的《隱私盤算聯邦進修產物平安請求和測試方式》（YD/T 4691-2024）和《隱私盤算聯邦進修產物機能請求和測試方式》（YD/T 4692-2024）等，其追蹤關心重心在于產物的研發、評價、測試和驗收，而非權益維護和法令監管。還有一些所謂國際尺度原來就是國際企業（如微眾銀行）主導制定和推進經由過程的。由于這些尺度不具有強迫性且與本文的主題無親密關系，不在此多論。
更主要的是，純真誇大平安防護無法根絕高迫害的隱私風險。今朝聯邦進修平安和隱私防護年夜部門的研討都是基于老實但獵奇的模子假定。有學者基于這種假定體系研討了橫向聯邦進修的半老實平安性。半老實的進犯者會在遵照聯邦進修的password平安協定的基本上，試圖從協定履行經過歷程中發生的中心成果揣度或許提掏出其他介入方的隱私數據。由于數據法令律例等原因的束縛，加之歹意行動會招致模子東西的品質降落傷害損失進犯方本身好處，聯邦進修模子練習的介入方凡是合適半老實但獵奇的假定，不會測驗考試極真個歹意進犯。可托履行周遭的狀況等平安盤算技巧的引進，也可以在必定水平下限制此類進犯者的影響，使其很難從辦事器前往的參數中揣度出其他介入方的隱私信息。但從最基礎上包養網 說，聯邦進修很難根絕“拜占庭將軍題目”（Byzantine Generals Problem）的困擾。一旦呈現一起配合關系瓦解招致半老實模子假定掉效，尤其是中間辦事器成為歹意進犯者時，完整可以經由過程模子猜測出介入方相干數據。更嚴重的情形是各方彼此默許經由過程技巧手腕獲取其他介入方的數據。這種看似極真個假定現實上也具有好處上的實際性：聯邦進修各介入方若非競爭關系，完整能夠應用聯邦進修的架構共謀衝破法令限制停止數據交流，在獲取可用人工智包養 能模子的同時不符合法令竊取數據。由于聯邦進修架構復雜，對此類歹意通同行動停止內部監管的難度很是年夜。跨機構聯邦進修中即使觸及小我數據，天然人也很難停止介入和干涉，數據主體在渾然不覺中就已遭遇隱私損害。
（四）缺少規范束縛的技巧衡量招致隱私維護缺少斷定性
聯邦進修在技巧層面具有明顯的復雜性，重要表現在以下幾個方面。起首，聯邦進修的類型和算法具有復雜性。聯邦進修凡是可分為橫向、縱向和遷徙進修三類。橫向聯邦進修和縱向聯邦進修是依據客戶端數據的分歧屬性來停止分類的。聯邦遷徙進修則是聯邦進修與遷徙進修的聯合。客戶端之間的數據特征和分類標簽差別較年夜，在停止練習時需求停止對齊任務。跟著聯邦進修框架的成長，越來越多的傳統機械算法可在聯邦進修上完成。這招致聯邦進修在框架和算法類型上具有很高的復雜性。其次，聯邦進修是一種分布式進修。分布式機械進修比集中式進修在架構上更復雜。而聯邦進修則比普通的分布式機械進修面對更嚴重的挑釁：數據的多源異構（Multi-Source Heterogeneous Data）；裝備不穩固；通訊本錢昂揚。傳統機械進修的練習數據是自力同分布（independent and identically distributed，以下簡稱IID）的。在聯邦進修中，數據分布在多個裝備或辦事器上，每個裝備或辦事器上的數據能夠來自分歧的用戶群體或周遭的狀況，招致數據分布紛歧致。這與IID假定相違反。由於IID假定請求一切數據樣本都來自統一個分布。而在聯邦進修中，分歧裝備上的數據包養 能夠存在相干性。例如，用戶的手機和電腦上的數據能夠有聯繫關係，但這些數據是在分歧的周遭的狀況中搜集的，這兩個裝備上的數據能夠具有分歧的特征分布。依據分歧地域或許分歧的用戶行動，這些數據之間必定發生相干性。而這種相干性違背了自力性的請求。是以IID數據不知足同分布的請求。在聯邦進修中，為了維護用戶隱私，凡是需求采用差分隱私等技巧。這些技巧在非IID數據（Non-IID）上的利用加倍復雜。高度的復雜性使得開闢者必需在多種目的和技巧參數中做出衡量（trade off）和選擇。但今朝這些衡量卻沒有本質性的法令束縛。這招致有利于隱私維護的技巧目標不難在衡量包養網 中被就義，從而形成聯邦進修隱私維護在規范層面的不斷定性增添。這種由衡量形成的不斷定性在差分隱私上表現得尤為凸起。
差分隱私的道理由辛西婭·德沃克（Cynthia Dwork）于2006年給出嚴厲的數學證實。從實質下去說，差分隱私是一種擾動技巧（perturbation techniques），其思緒是在原始數據上添加噪聲，使從擾動數據上盤算出來的統計信息與從原始信息上盤算出來的信息難以區分。擾動技巧簡略高效，但易受概任性進犯，這招致一種兩難地步：噪聲添加過多，會嚴重影響進修的正確度和效力；添加太少，又達不到隱私維護的後果。典範的差分隱私又被稱為ε-差分隱私。ε被稱為差分隱私的隱私預算（privacy budget）。當隱私預算ε足夠小時，隱私維護水平較高，但數據可用性較低，機械進修後果較差。進步隱私預算ε包養網 ，情形則相反。隱私預算就是一種在效力和隱私維護之間的衡量參數。差分隱私的分歧安排方法會形成差別宏大的功效、機能、隱私損益狀態，必需依據各類需乞降目的停止衡量。而聯邦進修中需求衡量的環節遠不止差分隱私。例如橫向聯邦進修隱私維護尺度可以經由過程機密共享（secret sharing）、秘鑰協議（key agreement）、認證加密（authenticated encr包養網 yption）或同態加密等方法完成，但需求投進較年夜的盤算和通訊開支，所以在實行中往往經由過程差分隱私完成弱化的橫向聯邦進修的半老實隱私平安性請求。這些缺少規范的衡量增添了聯邦進修隱私維護的不斷定性。
二、人工智能隱私維護的特別性
人工智能對包含隱私權在內的各類權力發生的影響有極年夜的不斷定性。以GDPR為代表的小我數據維護法是針對盤算機、internet和年夜數據的技巧和財產特征建構的。小我數據維護法較為有用地完成了年夜數據前提下的隱私維護。這不難招致一種過錯熟悉：小我數據維護法完整可以或許勝任人工智能的隱私維護。但是，從聯邦進修隱私維護存在的題目來看，小我數據維護法并不克不及充足順應人工智能隱私維護的挑釁。綜合來看，聯邦進修隱私維護的法令缺點提醒了人工智能隱私維護和小我數據維護之間的鴻溝，凸顯了人工智能隱私維護的特征。
（一）維護對象鴻溝
從人工智能的實質和成長趨向來看，小我數據維護法無法捕獲最主要的人工智能隱私維護原因。人工智能的目的是接近人類全體的智能程度，而非
發佈留言