五分鐘技術(shù)趣談 | 隱私安全計算之聯(lián)邦學習

作者：聶文靜 2021-06-04 15:38:18

以往科技巨頭它們通過提供基于云的AI解決方案以及API，獲取大量高質(zhì)量的業(yè)務(wù)和個人數(shù)據(jù)模式，在未來發(fā)展中可能受到極大的限制。為此，研究如何在保護隱私和安全的前提下，解決數(shù)據(jù)孤島問題實現(xiàn)數(shù)據(jù)共享需求越來越突出，隱私計算受到極大重視，聯(lián)邦學習應(yīng)運而生。

Labs 導讀

人工智能時代興起，數(shù)據(jù)資源成為維持相關(guān)產(chǎn)業(yè)的基礎(chǔ)原料，是否能夠獲取相關(guān)海量數(shù)據(jù)能力成為制約產(chǎn)業(yè)發(fā)展重要因素。然而，由于數(shù)據(jù)安全問題、競爭關(guān)系等因素，數(shù)據(jù)在各個行業(yè)甚至公司的內(nèi)部以“數(shù)據(jù)孤島”的形式存在，隨著數(shù)據(jù)隱私安全問題突出，國家管控越來越嚴格，先后發(fā)布《網(wǎng)絡(luò)安全法》等法律法規(guī)，在社會層面上，用戶對個人隱私數(shù)據(jù)越發(fā)重視。以往科技巨頭它們通過提供基于云的AI解決方案以及API，獲取大量高質(zhì)量的業(yè)務(wù)和個人數(shù)據(jù)模式，在未來發(fā)展中可能受到極大的限制。為此，研究如何在保護隱私和安全的前提下，解決數(shù)據(jù)孤島問題實現(xiàn)數(shù)據(jù)共享需求越來越突出，隱私計算受到極大重視，聯(lián)邦學習應(yīng)運而生。

作者：聶文靜，單位：中國移動研究院業(yè)務(wù)研究所

近年來

「數(shù)據(jù)隱私」成為網(wǎng)絡(luò)熱詞

在大數(shù)據(jù)時代，

數(shù)據(jù)的流通和共享

為社會發(fā)展創(chuàng)造了巨大價值

但被泄露的個人隱私不在少數(shù)，

人們對企業(yè)的信任日益走低

......

那么有沒有一種技術(shù)，

在安全合規(guī)、保障用戶隱私的前提下，

讓企業(yè)“看不見”數(shù)據(jù)，

也能利用數(shù)據(jù)創(chuàng)造價值、提供高效服務(wù)呢?

魚和熊掌能否兼得?

隱私計算或許是一個答案

本期Labs和大家聊聊

隱私計算中聯(lián)邦學習的那些事兒~

Part 01隱私計算技術(shù)概念

隱私計算涉及多方技術(shù)主要包括機器學習，分布式機器學習，密碼學(同態(tài)加密，差分隱私等)，安全多方計算，以及聯(lián)邦學習等多種不同的技術(shù)。

機器學習是專門研究計算機怎樣模擬或?qū)崿F(xiàn)人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結(jié)構(gòu)使之不斷改善自身的性能。它是人工智能的核心，是使計算機具有智能的根本途徑。

分布式機器學習是一個由參數(shù)服務(wù)器將數(shù)據(jù)存儲在分布式工作節(jié)點上，通過中央調(diào)度節(jié)點分配數(shù)據(jù)和計算資源的機器學習框架，較集中式機器學習框架運算效率提高，更加適合大批數(shù)據(jù)建模。

多方安全計算是一個滿足沒有信任第三方情況下，互不信任參與方在保護各自隱私信息前提下協(xié)同建模的機器學習框架。這個框架能夠同時確保輸入的隱私性安全性和計算的正確性。

同態(tài)加密是一類具有特殊屬性的加密方法，與一般加密算法相比，同態(tài)加密除了能實現(xiàn)基本的加密操作之外，還能實現(xiàn)密文間的多種計算功能，即先計算后解密可等價于先解密后計算。

差分隱私是密碼學中的一種手段，簡單地說，就是通過添加噪音在保留統(tǒng)計學特征的前提下去除個體特征以保護用戶隱私。

聯(lián)邦學習，又名聯(lián)邦機器學習，聯(lián)合學習，聯(lián)盟學習，由谷歌公司于2016 年最先提出，最初是用于解決安卓手機終端用戶在本地更新輸入法中的頻繁詞模型的問題，其設(shè)計目標是在保障大數(shù)據(jù)交換時的信息安全、保護終端數(shù)據(jù)和個人數(shù)據(jù)隱私、保證合法合規(guī)的前提下，在多參與方或多計算結(jié)點之間開展高效率的機器學習.主要解決的問題就是，數(shù)據(jù)擁有方不出本地前提下，構(gòu)建共有模型。聯(lián)邦學習可以從技術(shù)上解決數(shù)據(jù)孤島問題，讓每一個參與方隱私數(shù)據(jù)在不用交換原始數(shù)據(jù)情況下，僅僅交換加密的模型參數(shù)，完成模型的建立的一種框架。聯(lián)邦學習可使用的機器學習算法包括邏輯回歸、神經(jīng)網(wǎng)絡(luò)、隨機森林等，有望成為下一代人工智能協(xié)同算法和協(xié)作網(wǎng)絡(luò)的基礎(chǔ)。

隱私計算相關(guān)技術(shù)之間的關(guān)系可參見如下示意圖：