隐私保护机器学习

隐私保护机器学习（privacy preserving machine learning; PPML），理学-统计学-大数据统计分析-联邦学习-隐私保护机器学习，一种考虑数据隐私保护需求的机器学习方法。基本原理隐私保护机器学习将数据隐私保护技术应用于传统机器学习，连接了传统机器学习系统和人们对于数据隐私保护的需求。旨在对机器学习过程中私人或公司数据进行保护，防止这些数据被外来侵入威胁。机器学习一般分为三个部分：输入方（数据拥有者或提供者，例如患者和医院）、分析/计算方（例如第三方检测机构）、结果方（例如报告发布平台）。在机器学习中对于数据隐私的威胁（见图）包含以下几个部分：①重建攻击（reconstruction attacks）。可以根据计算方服务器中存储的从原始数据中提取的特征来还原原始数据。例如，攻击者可以从机器学习的服务器中存储的图片细节模块（图片特征）来还原原始点的指纹图像（原始数据）。②逆模型攻击（model inversion attacks）。