不少人恐怕都有这样的经历：刚买了车，这项研究表明在将这些材料集成到当前系统之前对其进行审查和验证是多么重要。”技术人员和“深度学模型中的盲后门”的主要作者，推销保险的电话就一个接一个；去看了某处的楼盘，于 8 月 12 日在虚拟 USENIX Security '21 会议上发表。合著者是康奈尔学和康奈尔科技学计算机科学教授 Vitaly Shmatikov。“如果黑客能够实施代码中毒，手机上就会接到各种卖房子的广告……那这些发送广告的商家是如何得知我们的个人信息的？这很有可能是某些互联网公司将用户的分个人信息和用户特征结合起来作为营利的手段。那么如何在数据时代保护个人信息呢？
今天让我们来看一看IT行业的新兴领域：隐私计算技术。
在法律层面，”Bagdasaryan 说，数据安全法、网络安全法、个人信息保护法是对个人信息的法律保障。在技术手段方面，“他们可以操纵自动化供应链和宣传，隐私计算技术就是一种解决方法，以及简历筛选和有害评论删除的模型。”在无法访问原始代码或模型的情况下，并且资本已经开始加速进入这个市场，这些后门攻击可以将恶意代码上传到许多公司和程序员经常使用的开源站点。与需要了解代码和模型的知识才能进行修改的对抗性攻击相反，批独角兽公司很可能应运而生。
“保护个人信息的法律法规”
众所周知，后门攻击允许黑客产生很的影响，数据安全关系个人安全。某些个人隐私数据和生物特征信息非常重要，而实际上不必直接修改代码和模型。“对于以前的攻击，比如涉及个人身份、家庭、经济状况、兴趣爱好等公民个人隐私的个人信息，攻击者必须在训练或署期间访问模型或数据，以及人脸、指纹、DNA等不可逆转的生物特征信息，这需要渗透受害者的机器学基础设施，如果被恶意泄露，安全隐患不容小觑。一旦被人非法利用，这些数据的主人很可能会因此惹到许多麻烦。视频刚开始的时候提到过的几项法律就是为了解决这些问题而提供法律依据。特别是在近日，全国审议通过的将于9月1日起施行的数据安全法。这项法律将与上述其他法律一起，构成具有特色的数据领域法律体系。
此前有媒体报道，疫情之下，一些科技公司纷纷研发出针对戴口罩场景下的人脸识别技术。这项技术给人们带来了便利的同时，也减少了人们摘除口罩所带来的病毒感染风险。然而，数据的应用不仅带来了机遇与便利，也带来了用户对自身隐私信息安全的担忧。
特别是收集数据的场景滥用，有些地方就连进小区、取厕纸都要“刷脸”识别。这些场景几乎不需要成本或仅需要极少的成本就可以轻易地获取量的个人信息数据。人脸识别技术场景的滥用，势必会造成用户面数据的泄露。
据《人脸识别应用公众调研报告》显示，六成接受调研的人认为，人脸识别技术的应用场景过于广泛，各种收集人脸数据的方式甚至层出不穷，有滥用的趋势。这很可能是互联网企业为了收集数据而增加了很多本无必要使用面数据的场景使得他们可以轻易地以各种手段量获取面数据。可见，数据是一把双刃剑，如何利用好这把双刃剑，不仅仅是科技企业应该思考的问题，也是层面需要思考的公共课题。
据统计，2020年疫情期间，全国累计使用健康码超过600亿次。健康码助力我国经济社会秩序在疫情期间平稳过渡，在疫情之后平稳恢复。然而，如此规模地收集和使用个人数据，会让量个人信息数据掌握在社区、物业、企业手中，这些数据若保存不当或被违规违法利用则会产生较的安全隐患。为了解决这个问题，隐私计算技术应运而生。
“百万富翁”设想
在了解隐私计算技术之前，让我们先来看这么一个设想。假设有两个百万富翁相遇，他们都想知道谁更富有，但又不愿意让对方知道自己真正拥有多少财富。他们两人在没有第三方参与的情况下，会使用什么方法来得知自己和别人哪个更有钱？这个设想本质上反映了基于用户数据挖掘的服务和数据的使用权、所有权之间的矛盾，提供服务的数据提供方必须得到你的数据才能给客户提供数据服务。放到这个“百万富翁”设想中，即数据提供者一定要拿到两位富翁的财产数据，才能计算出“谁更有钱”。有没有一种技术，可以实现数据使用权、所有权的分离，生产方保有数据的所有权，在提供加密数据后不影响数据需求方进行计算和提供服务？简而言之，需求方可以直接基于已经被加密过的数据进行计算，而这种技术就是隐私保护计算。
“隐私保护的核心是数据生命周期防护”
数据泄露事件发生的原因往往是内员工有意泄露数据、外黑客网络攻击窃取数据、数据处理交换等新应用场景泄露数据。
隐私保护的核心是数据生命周期防护：收集、共享、存储、使用、删除（其中最重要的环节是收集、共享、使用）。在一开始，各家IT公司基本都离不开数据库的使用。传统的数据防护就诞生于那个数据系统还相对简单的时代，当时的数据主要存储在数据库中，在使用数据库的时候难免会遇到黑客入侵、内泄露、非法利用数据等违法违规行为。传统的数据防护就是对数据库内的数据进行防护，一般这种防护是通过加密技术或者在公司内制定一些规则来实现的。在隐私计算中，数据全生命周期防护是一种深入数据流的防护手段，企业通过建立一套全生命周期的防护措施从数据的产生、传输、存储、处理、共享、使用、销毁等环节入手进行数据保护。这种贯穿一整个生命周期的防护模式能够避免木桶原理，防止在某个方面出现短板导致企业数据安全在某个环节全盘崩溃。
“国内外隐私计算公司在隐私计算方面的发展情况”
在隐私计算领域有不少企业已经开始布，有这么几家初创企业已经取得了一些技术优势或者资本青睐，国外Duality、inpher、CapePrivacy。国内的华控清交、富数科技、矩阵元、数牍科技、光之树科技、零知识科技等一批专注于隐私计算产品化的初创企业不断涌现。仅在国内，隐私计算的市场规模将快速发展，三年后技术服务营收有望触达100-200亿的空间，甚至将撬动千亿级的数据平台运营收入空间。
不过，隐私计算想要达到百亿级的市场规模，突破规模瓶颈，需克服四个难点。第一，技术和解决方案还没有完全成熟，没有一家公司的技术和解决方案是经过长时间使用检验的；第二，技术的安全性有待提高，缺乏可靠的技术标准认定；第三，市场需求还不够规模，、企业、公民对于保护数据隐私还不够重视，而相关技术公司缺乏明确的拉动性政策和标杆性示范项目；第四，行业内较难进行多方协同合作。
隐私计算市场未来可能形成若干家主流技术框架‘寡头竞争’的面。其中使用开源框架的公司会具有突出的竞争力。”除了开源框架，之前热炒的区块链技术与隐私计算可以形成技术互补的体系。在区块链环境下，通过隐私计算技术可以提供在多方之间进行数据计算且不影响数据隐私性的服务。这种服务使原始数据在无需归集与共享的情况下，在多节点间进行协同计算和数据隐私保护。在欧科云链“星途计划”框架下的首场区块链沙龙活动现场，集团裁张超表示，从整套的解决方案视角来看，目前隐私计算技术融入了分区块链数据存储格式的解决方案，某些隐私计算场景作为区块链实验项目，这两种技术相互融合。总之，隐私计算技术未来一定有可期，而具备区块链能力将有助于隐私计算技术服务商脱额而出。
“隐私计算联盟”
在去年，信通院和近50家单位一起成了“隐私计算联盟”。这个“隐私计算联盟”的目的，正是为了促进数据要素依法有序自由流动，防止数据被泄露、滥用，推进隐私计算技术与实体经济深度融合，提升隐私计算在行业内与社会上的认知。
在金融领域，银行的众多业务场景需要结合外数据的联合建模。这些外数据包括了数字营销、风控与反欺诈、存客激活与信用分析等。保险公司会通过这些外数据，精准地获取客户，推广自己的保险产品，对自己的保险制定合理的价格，这都需要多维度数据支撑。
在医药领域，想要对患者进行精准医学、AI制药的核心要素就是量的实验数据或临床数据。医疗机构中的病例数据对于数据来说是最重要的隐私数据，但一家医院的数据样本数量并不足以支撑规模的模型训练，要得出准确的数据模型就需要多方共享病例数据。
政务领域具有较完备的数据基础，但政务涉及能源、交通、规划、环保等多行业和多门的数据共享与协同，只有打通并共享各门的数据，才能支撑起各项应用所需要的数据量。
