Google周二(11/11)推出了Private AI Compute,在雲端建立受保護的執行環境,使Gemini大型模型能在隔離環境中處理敏感資料,並維持與裝置端接近的隱私標準,如同蘋果Apple Intelligence所使用的Private Cloud Compute。
Google解釋,AI正在變得更有用、更個人化,也更主動。它不再只是完成指令,而是能預先推測使用者的需求,在適當的時間給出個人化建議,或代替使用者處理任務。這種能力的提升,需要更進階的推理與大量運算,有時已超出裝置端所能負擔。這使得Google必須把推理放至雲端,但又不能將資料曝露給Google或工程師,Private AI Compute應運而生。
Private AI Compute的核心目標是讓雲端大型Gemini模型能夠處理高度敏感的個人資料,但資料只屬於使用者,Google也無法存取;此外,雲端資料在被模型短暫推理之後就會立即銷毀。
為了實現Private AI Compute,Google打造了跨CPU與TPU的受保護執行環境,藉由CPU端的AMD SEV-SNP安全環境,以及TPU端的Titanium Intelligence Enclave(TIE),將記憶體的資料全程加密與隔離,工程師亦無法利用除錯工具介入或偷窺。
此外,所有資料只能在可信節點中解密及運算,且節點之間必須通過雙向遠端驗證才能建立加密通道,任何未經驗證的節點都無法加入推理流程。系統還縮減了可信運算基底(Trusted Computing Base,TCB),僅讓最必要的元件可接觸敏感資料。對於需要統計分析的場景,系統則使用機密聯邦分析(Confidential Federated Analytics),僅輸出差分化的匿名統計資料,以避免曝露個資。
為使隱私保證可被外部驗證,Google允許第三方對系統進行安全與隱私審查。Private AI Compute的伺服器與重要元件採用二進位透明度(Binary Transparency),所有可執行檔的SHA-256摘要會先行公布在公有帳本,且僅允許經過驗證的二進位運行於受保護環境。
Pixel10為首批採用Private AI Compute的產品,讓即時情境建議功能Magic Cue可在更正確的時間,給出更精準的建議,也能讓跨語言摘要Pixel Recorder可支援更多語言、處理更長的錄音內容,並針對較複雜的內容產生更結構化的摘要。
