Search
E-mail
RSS

Journal of Cybersecurity >

2024 , Vol. 2 >Issue 6: 1 - 15

DOI: https://doi.org/10.20172/j.issn.2097-3136.240601

Special Contributions

Review of big data security and privacy computing technologies

  • LI Jianhua ,
  • YIN Ying ,
  • LI Siyuan ,
  • LIN Xi , *
Expand
  • Institute of Cyber Science and Technology, Shanghai Jiao Tong University, Shanghai 200240, China

Online published: 2024-12-17

Copyright

Copyright ©2024 Journal of Aeronautical Materials. All rights reserved.
Fold

Abstract

In the era of digital transformation, data has become a critical resource for reshaping the individual lifestyles, driving the corporate decision-making, and enhancing the public services, with its commercial and societal value steadily increasing. However, the risks of data leakage, misuse, and privacy invasion have also intensified. As big data integrates more deeply in various fields, how to extract the data value under the premise of protecting user’s privacy has become a central focus for both academia and industry. In response to these challenges, the data security and privacy protection technologies have advanced rapidly, as a key technology of which, privacy computing can offer effective solutions to the tension between secure data collaboration and privacy protection. In this context, the development stages of big data security were reviewed, and the major threats to data security and the future direction of building data security capacity were discussed. The basic concepts, technical routes and research efforts of the privacy computing were presented and the challenges faced in its application were also discussed. The overview of the development history and latest technologies of data security and privacy computing was to provide reference for the future research and to promote the further development and application of the big data security and privacy protection technologies.

Key words： big data security; privacy computing; privacy protection; data security governance

Cite this article

LI Jianhua , YIN Ying , LI Siyuan , LIN Xi . Review of big data security and privacy computing technologies[J]. Journal of Cybersecurity, 2024 , 2(6) : 1 -15 . DOI: 10.20172/j.issn.2097-3136.240601

0 引言

随着云计算和物联网等技术的迅猛发展，数据的规模和复杂性不断增加，潜在价值不断上升。在当今数字化转型的浪潮中，数据已成为一种极其重要的战略资源。这一变化不仅为商业和社会带来了新的机遇，同时也使数据的安全与隐私保护问题愈发突出[1]，成为亟待解决的重大挑战。
数据安全的内涵与互联网的发展密切相关，随着数据量的急剧增长，数据的重要性愈加凸显。20年前，互联网主要被视为娱乐平台，数据的使用场景相对有限。然而，随着工业互联网和智能制造等物联网底层应用的逐步融合，数据的生成和使用规模呈现爆炸式增长。这一转变催生了许多新概念和新技术，使得数据安全不仅关乎信息的完整性和可用性，更直接影响个人隐私、商业秘密乃至国家安全。近年来，频繁发生的数据泄露事件不仅给企业和个人造成了巨大的经济损失，也引发了公共安全和社会信任的危机。因此，加强数据安全防护、构建完善的数据安全保障体系，已成为信息化社会发展的迫切需求。
数字化时代，数据的价值在个人生活、企业决策和公共服务中日益显著。与此同时，数据安全漏洞和隐私泄露的风险也在不断增加。公众隐私保护意识不断提高，我国也相继颁布了《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等一系列法律法规，将隐私保护要求上升至法律层面。图1展示了近年来颁布的部分数据安全法律法规。因此，如何在充分利用数据的同时有效保障用户隐私已成为学术界和产业界的重要课题。尤其是在机器学习等大规模数据分析和智能决策过程中，平衡数据利用效率与隐私保护之间的矛盾显得尤为关键。
图 1 数据安全法律法规的发展

Fig.1 Development of data security laws and regulations

在此背景下，隐私计算技术应运而生，成为数据安全利用的重要解决方案。隐私计算的核心目标是在保护隐私的前提下，实现数据的安全共享、互通、计算和建模。通过使用密码协议[2]、硬件环境[3]、差分隐私（Differential Privacy）[4]、联邦学习（Federated Learning）[5]等技术手段有效降低数据泄露的风险，同时保证数据的可用性和分析价值，达到对数据“可用而不可见”的目的。隐私计算在数据可信流通机制的建设过程中发挥着重要作用，为社会的信任基础提供了必要的保障，并为各种行业的合规性和创新性发展奠定了基础[6]。
大数据安全和隐私计算具有确保数据在利用过程中的安全性和隐私性的共同目标。数据安全着重防止未经授权的访问和数据泄露，提供基础保障措施（如访问控制、加密、数据泄露防护）；隐私计算则在数据使用和共享时，通过先进技术（如差分隐私、联邦学习、零知识证明）进一步强化数据的保护。随着现代数据使用场景的复杂性的增加，包括多方协作、数据流通及大规模数据分析，单一的传统安全措施已不足以应对新兴威胁与挑战。隐私计算补充并扩展了传统数据安全的能力，为全面数据保护提供了更高的安全层级。
本文旨在通过对大数据安全与隐私计算的共同讨论，展示对复杂数据场景保护的多种技术。结合两者来阐述如何在数据的整个生命周期，从静态保护到动态使用中，保持数据安全和隐私保护的统一策略。本文将首先回顾数据安全的概念及其发展历程，分析当前大数据安全面临的威胁以及大数据安全能力建设的方向。接着，归纳并总结隐私计算的内涵和技术路线，介绍该领域的新兴技术。最后，探讨隐私计算面临的挑战和未来的发展方向。

1 大数据安全

1.1 数据安全的定义

数据安全是指通过一系列技术和管理手段，保护数据的完整性、保密性和可用性，防止数据遭到未授权访问、篡改或丢失。为有效保护计算机硬件、软件和数据，必须建立并实施相应的技术与管理安全措施，以防止因偶然或恶意导致的破坏、更改和泄露[7]。数据安全的发展经历了多个阶段。最初，数据安全主要依赖于物理安全措施，随着信息化程度的提高，逐渐向技术安全和管理安全转变。当前，数据安全已进入到一个综合性、多层次的安全体系中，包括数据加密、访问控制、安全审计等多种技术和管理手段。数据安全的核心要素包括（1）保密性（Confidentiality）：信息不被泄露给未经授权的用户，实现手段包括信息加密、身份认证、访问控制及安全通信协议等，其中信息加密是防止信息非法泄露的基本手段，确保信息仅供授权对象使用；（2）完整性（Integrity）：信息在传输、交换、存储和处理过程中，保持不被破坏、修改或丢失，且未经授权不能被改变的特性，这是数据安全的基本特征之一；（3）可用性（Availability）：信息资源能够被授权实体按需访问和正常使用，或在异常情况下能够迅速恢复的特性，这一特征用于衡量网络信息系统在服务用户方面的安全性能，确保在系统运行期间能够正确存取所需信息，并在遭受攻击时快速恢复；（4）可控性（Controllability）：网络系统和信息在传输范围及存放空间内的可控程度，反映对网络系统及信息传输的控制能力；（5）抗抵赖性（Non-repudiation）：网络参与双方在信息交互过程中，能够确信彼此及其提供信息的真实性，所有参与方不可否认或抵赖自身的真实身份，以及所提供信息的原样性和所完成的操作及承诺。

1.2 数据安全的发展阶段

数据安全作为信息化社会的重要组成部分，伴随数字化进程的不断推进而逐步演变。早期的数据安全关注点较为局限，随着技术的革新和应用场景的扩展，数据安全的内涵和外延不断丰富。根据不同时期数据应用的特点及面临的威胁，数据安全的发展可以划分为三个主要阶段，如图2所示。
图 2 数据安全发展的三个阶段

Fig.2 Three development stages of data security

1.2.1 数据安全1.0时代：以数据库为中心的保护

在数据安全1.0时代，数据的管理和保护主要集中于数据库管理系统（Database Managemant System, DBMS）。这一阶段，数据安全的核心任务是为数据库建立一个保护边界，主要防止外部入侵和破坏。安全策略以传统的网络安全思路为基础，强调数据库的加固与边界防护。然而，这种安全模式的局限性逐渐显现。数据的保护过度依赖数据库系统本身，忽视了数据在不同场景和生命周期中的安全需求。数据从生成、存储到传输、应用的多个环节缺乏有效的监管和保护。
在此阶段，数据安全的主要问题包括：缺乏对数据责任的明确划分，数据在流动和使用过程中的安全防护不足，以及数据隐私保护薄弱[8-9]。这一阶段的数据安全防护机制更多是被动防御，尚未具备全局性、动态化的数据安全治理能力。数据安全平台的安全与数据的整体安全并不等同，亟须加强对数据全生命周期的监管，包括对数据保护责任的归属、数据存储位置、应用者身份及流动中数据的保护等环节的关注[10]。

1.2.2 数据安全2.0时代：场景化的安全保护

20世纪末，计算机和网络技术开始大规模应用和普及，随后云计算、人工智能等技术的迅猛发展使得数据的商业化价值不断提升，推动了数据交易市场的形成，数据逐渐成为重要资产[11]。数据变现的需求增加，随之而来的是更多数据隐私泄露和安全漏洞的风险。数据安全进入2.0时代，其核心特征是场景化的数据安全防护，即数据安全机制需要根据数据所处的具体应用场景进行动态调整。
与1.0时代不同，这一阶段的数据安全保护打破了物理边界，不再局限于数据库层面，而是扩展至各类业务系统中，确保其能在复杂的云计算、物联网等环境中提供稳定服务[12]。然而，尽管2.0时代强调了场景化保护，但由于数据安全技术尚未实现智能化、分布式和自适应，所以仍存在许多不足，特别是跨场景的数据应用中，安全防护机制尚未形成有效的协同。

1.2.3 数据安全3.0时代：体系化的数据安全治理

在数据安全3.0时代，数据的价值已不仅限于企业资产，而是被视为国家的战略资源和基础设施。在5G和人工智能的驱动下，大数据成为经济增长的重要组成部分，数据安全问题的社会性和国家性特征日益显著[13]。数据的广泛应用不仅对企业提出了更高的安全防护要求，也使大数据安全逐渐成为国家安全的一个重要组成部分[14]。
在数据安全3.0时代，数据安全的治理已进入体系化的阶段。国家和企业不仅需要应对更复杂的大数据安全威胁，还需要构建覆盖数据全生命周期的综合性安全防护体系。数据安全不再是孤立的技术问题，而与法律、政策、管理等多方面密切相关。各国相继颁布了数据安全法、个人信息保护法等法规，以规范数据的使用和流通，进一步提高数据治理水平。这一阶段的关键在于建立系统化、智能化的安全防护体系，提升数据的可控性和可信性，确保敏感数据在企业和社会层面的安全应用。
数据安全3.0时代的核心特征是“体系化安全”和“治理能力建设”。数据不仅是经济发展的重要驱动力，还承载了国家利益和社会公共安全的责任[15]。因此，如何在数据使用过程中既确保其商业价值，又保障其安全性和合规性，成为数据安全领域的重要课题。随着大数据安全相关技术的快速发展，未来的挑战不仅是技术防护，还需要构建体系化的安全防护，并加强大数据安全能力建设，包括建立更为完善的法律法规和国际合作机制，以应对日益复杂的全球化数据安全威胁。

1.3 大数据安全威胁及能力建设

尽管数据安全已逐步发展至3.0时代，体系化治理的框架正在逐渐形成，但当前仍面临诸多威胁与挑战。这些挑战包括数据资产的重要性提升、数据泄露路径的多样化、数据应用的持续创新等。接下来将详细探讨这些威胁与挑战，以及在此背景下如何构建有效的数据安全能力。
数据资产重要性的提升。在当今的市场环境中，随着数据在客户服务、市场竞争和商业决策中的关键作用日益凸显，数据资产逐渐被视为各类组织机构的核心资产，受到前所未有的重视和保护。然而，利益驱动因素使得数据资源面临的风险不断增加，如网络黑灰产业链的体系化发展使数据安全攻击手段不断演变[16]。
数据泄露路径的多样性。随着数据与业务的深度融合，数据泄露的路径日益多元化，除黑客攻击外，还包括数据共享接口、内部员工、离职员工以及第三方外包人员等多个方面。众多的数据泄露途径暴露了以网络安全为重点的传统数据保护体系的局限性，迫切需要转变为以数据为核心的全面保护机制[17]。
大数据应用的持续创新。新技术及新业务模式的不断出现为大数据安全保护带来了新的挑战。在数据与业务的持续融合创新过程中，组织需要对新业务模式及应用场景进行跟踪评估，以识别和应对随时可能出现的新数据安全威胁。
管理体系执行有效性的挑战。随着安全管理体系的日益复杂化，其执行有效性也成为新的风险来源。弱口令、策略有效性不足、审计分析未落实以及业务权限变更管控不严等，都可能成为数据安全攻击的薄弱环节。
社会工程学攻击的威胁。社会工程学攻击利用人性的弱点，攻击者可以通过赢得内部人员的信任绕过技术层面的安全措施。因此，强化员工对此类攻击的认识并提高他们的防范意识和能力至关重要。
法律法规标准的挑战。在当前时代，与数据安全相关的法律、法规和技术标准呈现出大爆发态势。随着相关规范文件的不断颁布和更新，组织必须持续更新其数据安全策略以确保合规。这一过程往往伴随着对现有安全架构的频繁修改，也对其信息技术方面的投入造成压力。
针对上述威胁和挑战，组织需要构建全面的数据安全能力，以应对复杂的安全环境。
大数据资产管理能力。对大数据资产进行全面的梳理和清查是增强数据管理能力的首要步骤。运用静态扫描、协议解析等先进技术手段，对高频数据资产、静默数据资产进行识别并建立僵尸库，做好数据的分级分类工作。在此基础上，进一步建立和完善数据资产的动态监控机制，确立数据资产责任制度，通过精细化的访问关系管理和数据权限控制，确保数据资产的合理使用和安全防护，提升数据资产的管理水平。
大数据安全运营能力。明确数据安全管理制度，定期进行安全检查，聘任或培养数据安全管理专员，确保数据安全工作由具备专业能力的人员执行。通过建立完善的大数据安全运营体系，使数据安全措施与业务流程紧密结合，提供实时的安全保障，从而有效提升数据安全管理的整体能力。此外，这一体系还应具备足够的灵活性和适应性，以便能够迅速响应并符合不断更新的法律法规要求。
数据业务安全监控能力。为确保数据在各个环节的安全性，需要对数据的采集、存储、传输、共享、处理、分析以及最终的安全销毁等过程实施全面监控。通过整合数据安全技术，实现统一管理和调用，形成公共资源池以提供标准化的安全服务。此外，应建立自动化的监控平台，实时监控数据的使用情况和安全状况，通过日志管理、异常检测、入侵防御等技术手段，提高对数据安全事件的识别和响应能力。
大数据支撑环境安全管控能力。从数据库和数据平台的安全加固入手，采取数据库加密、漏洞识别、补丁修复、安全配置、身份鉴别、访问权限控制等措施，确保数据资产的安全性。定期进行安全扫描和配置核查，通过自动化工具和流程，对数据库和数据平台进行持续的安全评估，及时发现并修复安全漏洞，防止未授权访问和数据泄露。通过构建一个综合的数据支撑环境安全管控体系，实现数据资产的全面保护。
大数据安全运维管控能力。高权限人员应被重点关注，可以从授权审批、违规识别与阻断、高危操作提示与阻断、数据遮蔽四个方面进行管控。建立权限回收机制，支持静态和动态授权，根据人员职责的变化及时调整其访问权限，实现对权限的精细化控制。
大数据安全感知能力。大数据安全感知能力主要依靠监控与审计，其核心价值体现在辅助决策制定、违规行为的发现与取证，以及稽核制度的规范化执行。通过构建具备日志信息采集、日志汇总与分析、规则识别、告警和可视化展现等能力的数据安全感知系统，提高对安全威胁的识别和响应能力。

2 隐私计算

2.1 隐私计算的基本概念

隐私计算是一类技术和方法的统称，旨在在数据共享和分析时保护数据隐私和安全。其核心目标是在数据处理过程中确保数据的机密性，避免敏感信息泄露。隐私计算通过多种方式实现这一点，包括同态加密、安全多方计算（Secure Multi-Party Computation）、差分隐私、联邦学习等技术。它允许各参与方在不暴露原始数据的情况下进行数据协作和分析，从而在保持数据隐私的前提下实现数据的有效利用与共享[18]。参与隐私计算的各方可以是同一机构的不同部门，也可以是不同的机构。通过隐私计算框架，参与方的数据在本地保持加密状态，从而在实现数据安全保护的同时，促进多源数据的跨域合作[19]。隐私计算破解了数据保护与融合应用之间的难题，为数据共享提供了新的可能性。
隐私计算的实施遵循以下基本原则：（1）原子性，强调隐私分量之间相互独立，可细化至不可分割的粒度；（2）一致性，要求对于相同的隐私信息，不同隐私保护算法应使隐私属性向量的所有分量趋向于零；（3）顺序性，隐私保护算法中部分操作的顺序差异可能导致隐私保护效果的不同；（4）可逆性，明确一些隐私保护算法（如基于加密的算法）是可逆的，通过解密可恢复原始数据，而其他处理往往是不可逆的。
总体而言，隐私计算可以为数据安全与共享提供有效的解决方案，为实现跨域数据合作、提升数据利用效率和保护个人隐私提供可靠的技术保障。

2.2 隐私计算的技术路线

隐私计算的实现依赖多种技术路径，包括安全多方计算[20]、可信执行环境（Trusted Execution Environment）[21]、联邦学习[6]和差分隐私[22]等，如图3所示。
图 3 主流隐私计算技术分类

Fig.3 Classification of mainstream privacy computing technologies

2.2.1 安全多方计算

安全多方计算是通过密码学方式允许多个参与方在保护各自输入隐私的前提下，共同计算一个函数的结果[20]。安全多方计算的目标是实现各方在不暴露自身数据的情况下协作进行计算，确保计算结果正确、输入数据保密。
在安全多方计算中，安全模型是用来描述和确保安全多方计算协议安全性的一组假设。安全模型定义了不同类型攻击者的行为和潜在威胁，是制定安全要求的主要依据[23]。安全模型主要分为三类。（1）半诚实模型：攻击者遵守协议的规则，但会尝试在合法范围内收集其他参与方的隐私信息，还可能通过合谋获取敏感数据；（2）恶意模型：攻击者不受协议约束，能够进行任意攻击，直接威胁安全多方计算系统的隐私与完整性；（3）隐蔽攻击模型：介于半诚实与恶意模型之间，攻击者在攻击前会权衡收益与风险，通常采取不太公开的攻击方式[24]。
安全多方计算系统需要满足一系列安全要求，以确保其正确、安全地运行。主要安全要求包括（1）隐私：每个参与方的输入对其他参与方保持保密；（2）正确性：只要诚实的参与方遵守协议，计算的输出就是正确的；（3）公平性：确保所有参与方同时获得输出，防止任何参与方在其他参与方之前获取结果；（4）输出保证：协议一旦启动，即使存在对抗性参与方，最终仍能生成输出；（5）输入独立性：确保每个参与方能够独立选择输入，不受他人干扰。这些安全要求共同定义了安全多方计算系统的行为，确保其能够抵御潜在攻击者，保护计算过程中的隐私和数据完整性。然而，在安全多方计算系统的设计与实现中，需要在计算效率、通信开销和提供的安全级别之间进行权衡。隐私、正确性、公平性和输出保证被视为基本要求，而输入独立性是可选要求[20]。
安全多方计算系统可分为阈值安全多方计算、通用安全多方计算和专用安全多方计算[20]。阈值安全多方计算系统允许一定数量的参与方在不泄露私密输入的情况下共同计算一个函数，常用于密钥管理等场景。该系统保证隐私与正确性，但未必满足所有输入的公平性。通用安全多方计算适用于拥有任意数量参与方的系统，确保共同计算函数时各方不会获取额外信息。其安全性涵盖隐私、正确性、公平性和输出保证，广泛应用于私有集合交集和分布式机器学习等场景。专用安全多方计算系统为特定应用设计，提供隐私和正确性保障，具体安全要求则依据应用场景的差异有所调整，典型应用包括隐私保护数据挖掘和安全拍卖。
安全多方计算系统的技术基础包括不经意传输、混淆电路、零知识证明、同态加密和秘密共享。本文以基于同态加密的安全多方计算为例进行讨论。
同态加密是一种无须解密即可对加密数据进行计算的技术，它允许在加密状态下操纵数据，从而在整个计算过程中保护数据隐私[25]。在这种加密范式中，对密文进行计算产生的结果解密后，会与对明文进行相同操作产生的结果相匹配，即计算的加密输出本质上是明文输出的加密。因此，在整个过程中，输入和输出都受到加密的屏蔽。根据支持的运算范围，同态加密可分为全同态加密和半同态加密。全同态加密允许对加密数据进行任意运算，解密结果与直接计算的结果一致，而半同态加密只支持对加密数据进行特定的加法或乘法运算。常见的同态加密方案包括ElGamal和Paillier。
ElGamal加密支持无限次乘法，其变体代理重加密允许将密文转换为由另一个密钥加密的密文[26]。Paillier加密支持无限次加法，并且在加法和乘法上都是同态的[25]。
ElGamal加密方案由ElGamal于1984年提出，是一种部分同态加密方案，支持对密文进行无限乘法运算[25-26]。ElGamal加密包括三个基本步骤：密钥生成、加密和解密。ElGamal方案的一个独特方面是代理重加密的概念[27]，它能够使用代理密钥将一个密钥A加密的密文转换为密钥B加密的密文。密钥生成从使用生成器创建的n阶循环群开始。选择随机整数，通过计算得到公钥和私钥。加密后产生一对密文，密文对可以通过私钥解密，原始消息也可以通过计算获得。ElGamal只支持对加密对进行乘法运算。ElGamal方案的一个变体是代理重加密[27]。它允许将加密消息转换为由另一个密钥加密的同一消息的密文，此转换需要代理函数和代理密钥。因此，该算法假设用户和代理转换器之间没有合谋来保护隐私。作为ElGamal方案的变体，代理重加密也允许同态乘法运算。

2.2.2 可信执行环境

可信执行环境通过基于硬件芯片的可执行环境对使用中的敏感数据进行保护，其在云计算等环境中的应用尤为突出[28]。与早期的硬件安全模块不同，可信执行环境不仅能够保护基本输入输出系统和引导代码，还支持加密计算过程，突破了传统模块在处理加密数据方面的局限性[29]。此外，远程验证技术的引入使可信执行环境在云环境下更加适用，即便用户无法直接访问硬件，仍然能确保其指定的软件在受信任的硬件上运行。本文重点探讨可信执行环境在隐私计算中的应用，尤其是在云计算中的作用。
可信执行环境在云计算中有两种主要模型：基于虚拟机的模型和基于进程的模型[30]。在基于虚拟机的模型中，整个虚拟机的系统内存都被动态加密。而基于进程的模型则只加密虚拟机内特定的存储区域。在基于进程的模型中，硬件供应商通常充当证书颁发机构（Certificate Authority，CA）的角色，通过嵌入私钥在硬件制造过程中建立信任[15]。信任链由硬件嵌入的私钥和通过CA认证的公钥连接，这使得可信执行环境能够在云端环境中实现安全保障。
可信执行环境的创建和验证过程分为两个阶段：第一阶段基于硬件提供的微码指令开发可信执行环境，使用对称加密方案保护系统内存数据。在此阶段，云服务提供商或其他用户无法直接访问可信执行环境的私钥，从而保证了计算的隐私性[31]。应用程序加载到加密内存后，可信执行环境生成唯一标识符并返回给用户，以便进行横向验证。第二阶段为远程验证。由于用户无法直接访问物理硬件，验证可信执行环境的创建和运行的应用程序代码是否符合预期成为必要操作。此过程依赖远程CA验证服务，用户通过可信执行环境证书确认其应用程序代码的完整性，并确保在可信硬件上执行。通过这种方式，可信执行环境确保了云环境下应用程序的安全性和隐私性。
可信执行环境技术应用于云计算、物联网、多方计算和人工智能等领域。云计算是目前可信执行环境的主要用例，它有按需付费定价和动态扩展可能性等功能驱动，但也必须满足组织的安全和信任要求。可信执行环境承诺为云计算添加与组织在本地环境中熟悉的相同的安全属性[32]。这将允许在敏感区域使用基于可信执行环境的云计算。可信执行环境也被应用于物联网。由于物联网设备的处理能力通常较低，它们会将收集到的传感器数据发送到中央公共云组件。由于这些数据可能非常敏感，可信执行环境可以提高处理云环境的安全保障。此外，在已经在物联网设备内完成处理的物联网场景中（如在汽车或医疗保健应用中），必须执行正确的代码。可信执行环境可用于设备上，通过证明后端系统的正确性来保护执行代码并增加信任[33]。

2.2.3 联邦学习

机器学习模型的性能高度依赖大量高质量数据的可用性，然而数据的隐私问题和数据孤岛现象极大地限制了模型训练的效率和效果，传统的集中式机器学习模型在数据共享和隐私保护之间的矛盾日渐明显[34]。联邦学习作为一种分布式学习框架，允许多个参与方协作训练全局模型，无须共享本地数据[35]，通过聚合来自不同客户端的局部模型参数构建最优的全局模型，有效解决了数据隐私保护问题。
联邦学习的核心概念是分布式数据建模，客户端无须共享数据即可参与全局模型的训练。设定每个联邦学习的客户端分别拥有不同的本地数据集，联邦学习允许各客户端在本地数据上训练模型，并在不暴露数据的情况下共享模型参数。
联邦学习的学习过程通过最小化每个客户端上的损失函数来实现。通过不断迭代，联邦学习模型逐渐趋近于性能最优的集中式模型，同时允许小范围的性能偏差。联邦学习的训练过程分为以下步骤。（1）全局模型初始化：每个客户端从中心服务器下载初始的全局模型；（2）本地模型训练：客户端利用本地数据训练模型，直到本地模型收敛；（3）上传加密的模型参数：客户端将加密后的模型参数上传至服务器；（4）全局模型聚合：服务器使用联邦学习算法对上传的梯度或模型参数进行聚合，并更新全局模型；（5）循环迭代：客户端和服务器持续通信，直到全局模型收敛。
联邦学习的隐私保护机制体现在其分布式学习框架中。在联邦学习中，参与方无须将数据直接传输到中心服务器，从而有效避免了数据泄露的风险。相比传统的集中式学习模型，联邦学习通过分布式数据存储、加密通信等方式确保数据隐私。首先，各客户端的数据保存在本地，避免了数据集中化带来的隐私风险。其次，客户端和服务器之间传输的模型参数可通过加密处理防止在传输过程中被窃取或篡改。此外，为进一步保护模型的隐私性，联邦学习可以引入差分隐私技术，在不损害模型性能的前提下，增加模型参数中的噪声，从而防止攻击者对原始数据的推断攻击。由此，联邦学习可以实现类似集中式学习的模型性能，同时最大限度地保护数据隐私。
与其他隐私计算技术相比，联邦学习在计算效率和可扩展性上具有显著优势。多方安全计算虽然能够提供更高的安全保障，但在计算复杂度和通信成本方面存在较大的开销，难以在大规模分布式环境中应用。可信执行环境需要特定的硬件支持，设备的适应性相对较低。相比之下，联邦学习在保证隐私的同时，具有较高的计算效率和良好的扩展性，这使其在多个数据敏感的领域中得到了广泛应用[35]。
在联邦学习提出之前，机器学习领域的隐私保护问题一直是研究的热点。作为一项创新技术，联邦学习的研究方向与传统隐私保护技术紧密相关。联邦学习通过一种保护数据隐私的安全机制，使本地敏感数据得以保留，同时保障模型在传输过程中的安全性。然而，即使联邦学习具备一定的安全保护能力，仍难以完全规避各类针对系统的攻击，这些攻击可能严重影响联邦学习系统的可靠性并威胁参与方的数据隐私[36]。
作为一种注重隐私保护的安全机器学习技术，联邦学习对信息隐私的保护程度很大程度上依赖安全加密技术。在提升数据保护机制的同时，联邦学习还需要着重应对恶意攻击所带来的安全风险。安全性通常着眼于保障数据的机密性和完整性，而隐私保护则进一步关注个体信息不被泄露。在涉及敏感数据的场景中，隐私保护尤为重要，而安全性则确保数据免受未经授权的访问。
尽管联邦学习旨在实现安全协作，但其仍面临多种类型的攻击，这些攻击可能破坏联邦模型的性能，甚至危害本地参与方模型的安全性。本文重点分析联邦学习研究中的两类常见攻击：中毒攻击和拜占庭攻击。
在联邦学习机制中，中毒攻击指攻击者篡改、破坏或污染客户端在训练过程中生成的本地数据集或模型，从而影响全局模型的安全性。根据攻击方式，中毒攻击可分为数据中毒和模型中毒两类，这些攻击对联邦学习的安全构成了严重威胁。数据中毒攻击的典型表现是恶意篡改本地数据的源标签或特征，以干扰联邦模型的训练结果[37]。
尽管联邦学习系统通常通过激励机制鼓励更多高质量数据的客户端参与，但其设计往往忽略了潜在恶意客户端的威胁问题。近年来，分布式学习中的安全性逐渐引起关注，其中拜占庭威胁尤为关键。中毒攻击多聚焦于单一用户或服务器，而拜占庭攻击则强调分布式环境中多个用户的合谋。在联邦学习中，攻击者可能通过控制多个客户端（即拜占庭用户）上传虚假数据，利用不可靠的通信渠道或受损硬件干扰系统，导致全局模型被恶意操纵而无法实现有效融合[38]。
对联邦学习安全性威胁的深入研究，可为系统设计提供更强的防御能力，保障联邦学习在数据隐私和系统可靠性方面的进一步发展。

2.2.4 差分隐私

差分隐私是一种在数据分析过程中保护个体隐私的技术，其灵感来自密码学中的不可区分性思想。其核心思路是通过添加噪声来保证攻击者无法识别个体是否存在于数据集中。这一隐私保障依赖对相邻数据库的定义，即两个数据库仅在少量元素（通常仅为一个元素）上存在差异。差分隐私确保即使攻击者掌握了外部信息，仍无法准确推断出单个个体的参与情况，从而为敏感数据提供隐私保护[34]。
传统的差分隐私模型被设计用于保护集中持有的聚合数据。然而，随着隐私需求的增加，本地差分隐私模型应运而生，主要用于保护用户个体数据。在本地差分隐私中，每个用户对其数据进行随机化处理，保证即使是数据持有者也无法准确知道个体数据。本地差分隐私的统计效用与用户数量高度相关，参与人数越多，统计结果越准确。因此，本地差分隐私更适合用户众多的场景，如在线隐私保护。
差分隐私的实现机制主要包括拉普拉斯机制、指数机制和随机响应机制等。拉普拉斯机制通过在数据上添加拉普拉斯分布的噪声来实现隐私保护，其噪声幅度由隐私参数和查询函数的敏感度决定。隐私参数越小，意味着添加的噪声越大，从而隐私保护效果越好。不过，较大的噪声也可能导致数据分析结果的准确性下降，因此必须在隐私保护与数据效用之间进行权衡[39]。另一种常见的机制是指数机制，通过对数据的打分函数进行随机化处理，将“有利”的输出概率与其得分相关联，以确保高得分的输出具有更高的发布概率[40]。在本地差分隐私的应用中，随机响应技术被广泛应用，该技术通过随机翻转用户的比特向量来混淆数据，使得单个用户的数据在传输前已被随机化，从而在用户端即实现隐私保护。
在差分隐私机制的进一步发展中，度量差分隐私引入各种距离度量，如欧几里德距离、曼哈顿距离和切比雪夫距离，扩展了差分隐私的应用范围。这些距离度量在不同场景下具有不同的适用性。例如，切比雪夫距离常被用来混淆智能电表的读数，而曼哈顿距离则用于保护社交网络中的个人数据。通过这些距离度量，差分隐私机制能够根据事件之间的相似度分配不同程度的隐私保护，进一步提升了隐私模型的实用性。此外，在度量差分隐私的应用中，基于欧几里德距离的平面拉普拉斯机制被提出，进一步扩展了差分隐私的适用场景。通过在二维空间中添加噪声，平面拉普拉斯机制能够更好地保护地理位置数据。同时，该机制还可以推广至高维空间，通过Gamma分布采样实现多维噪声的生成，进一步增强了隐私保护的灵活性[22]。
总体而言，差分隐私通过引入多样化的实现机制提高了其适用性和灵活性。这种技术不仅在理论上拥有坚实的基础，还在实际应用中展现出越来越多的潜力，特别是在大数据分析、人工智能模型训练和个性化推荐系统中，差分隐私成为数据隐私保护的重要工具。随着技术的进一步发展，差分隐私将继续在应对复杂隐私威胁和满足数据利用需求中发挥关键作用。
近年来，随着对非结构化数据中敏感内容（包括图像、视频、音频和文本）的隐私问题的日益关注，许多工作提出了基于差分隐私的方法，为非结构化数据提供严格的隐私保障[41]。调研保护非结构化数据内容的隐私方法可以发现，这些方法在混淆非结构化数据之前，用向量对其进行建模和表示。首先，非结构化数据通过奇异值分解（Singular Value Decomposition，SVD）和词嵌入等可逆变换进行矢量化。然后，使用传统的差分隐私方法对包括实值或位值矢量的矢量化结果进行模糊处理。最后，这些模糊的矢量被反向矢量化，并用于构建模糊的非结构化数据。非结构化内容的差分隐私保护技术，将是未来一段时间的热点问题。

2.3 隐私计算的前沿技术

隐私计算的前沿技术包括群体学习、区块链和零信任技术，如图4所示。
图 4 隐私计算的前沿技术

Fig.4 Advanced technologies of privacy computing

2.3.1 群体学习

随着数据隐私问题的日益突出和大规模机器学习需求的增加，去中心化的机器学习方法成为解决这一问题的重要手段。尽管联邦学习在解决数据隐私问题上取得了一定的成效，但传统联邦学习依赖中央服务器进行模型参数的聚合和协调，仍然面临单点故障、模型安全性不足、系统异构性、网络带宽和延迟的限制等问题[42-43]。为应对这些挑战，群体学习（Swarm Learning）作为一种结合区块链技术和联邦学习的新型框架，已经成为隐私计算领域的前沿技术[44]。
群体学习不依赖中央服务器进行模型更新的聚合，而是通过区块链等方式构建对等网络，确保参与节点间的有效协作，保障数据隐私。群体学习的核心优势在于其去中心化的架构和对隐私的增强保护。通过区块链技术的集成，群体学习能够在没有中央权威协调的情况下管理模型训练中的成员资格。群体学习通过智能合约促进参与方之间的安全数据共享，显著提升了系统的容错能力和抗攻击性，降低了单点故障和集中数据泄露的风险，使其成为高隐私、高鲁棒性需求的理想选择。在医疗领域，群体学习的应用使医院和研究机构在不共享患者数据的情况下，实现协同训练预测和诊断模型，从而保障数据隐私和合规性。在汽车行业，群体学习支持车辆和系统组件作为自主学习代理，实现实时决策和优化，减少对中央服务器的依赖。同样，在金融服务领域，群体学习通过去中心化的学习机制提高了欺诈检测的效率，避免了客户信息泄露。
尽管群体学习展示了显著优势，但其推广仍面临若干挑战，为此，需要在多个前沿技术方向继续研究。（1）增强后门攻击的防御技术：通过引入基于图神经网络的节点行为异常检测和动态可信度评估机制，及时识别和隔离恶意节点，确保全局模型的可靠性；（2）区块链集成优化：开发轻量级共识算法以提升区块链与群体学习的融合效率，降低计算和存储资源需求，解决集成过程中的复杂性问题；（3）高效加密通信协议：设计基于同态加密和差分隐私的混合通信机制，在保护隐私的同时降低通信成本，提升系统的可扩展性和实时性；（4）自适应学习机制：利用联邦强化学习和元学习技术，动态调整模型训练参数以适应异构环境，从而提高系统的鲁棒性和泛化性能；（5）跨领域的标准化框架：建立隐私计算和群体学习的国际标准化协议，确保技术在不同行业和跨国场景中的互操作性与合规性，促进其应用的广泛落地。

2.3.2 融合区块链的隐私计算技术

区块链是一种去中心化的分布式账本技术，最初用于记录点对点网络中节点间的交易[45]。区块链系统中所有节点都维护相同的账本副本。当新交易发生时，节点通过特定的共识机制共同验证，并将交易记录添加到区块链上。交易数据的安全性与完整性则依赖密码学技术的支持。区块链的去中心化特性允许数据在多个节点间分布存储，降低了单点故障和数据篡改的风险。其可追溯性确保了数据记录的完整性和可信性，使得各参与方对数据协作更有信心。通过智能合约，区块链还能够实现自动化的数据处理和权限控制，从而减少人为干预带来的安全隐患。
在分布式的数据协作中，确保参与方之间的信任至关重要。不受信任的参与方使用恶意或错误数据参与计算，可能会损害数据分析结果的准确性，甚至导致更严重的后果。区块链的多方共识机制确保所有参与方对数据的验证达成一致意见，有助于建立共同的信任基础，并且参与方可以验证链上数据的真实性，降低信息不对称带来的风险。智能合约通过自动执行预设规则，减少对中央服务器的依赖，使参与方能够在公平、公正的环境下进行合作。
在隐私计算中，区块链与多种技术的结合已成为学术界研究的热点。一些研究将区块链引入联邦学习框架，用来存储访问控制策略[46]，记录用户间的交互信息[47]，以及作为一种去中心化的机制来协调不同参与方之间的模型更新[48]。而且，区块链在联邦学习知识的可信存储[49]、模型的共享和交易[50]、参与方激励[51]等方面也发挥着关键作用。多方安全计算着重于计算过程中的保密性，区块链可以帮助多方安全计算实现计算周期的全程可追溯，并且安全多方计算可以在区块链跨链时充当可信中介。
尽管区块链在隐私计算中的应用前景广阔，但也面临诸多限制：区块链的共识机制往往会导致数据处理速度较慢，无法满足高实时性的需求；数据在区块链上永久存储，在数据量较大的情况下会产生高昂的存储成本。此外，区块链的去中心化特性可能与某些领域的中心监管要求产生冲突，限制其在特定行业的应用。未来研究的方向包括改进共识机制以提高处理效率、增强可扩展性实现不同链之间的互通与协作，以及在保持去中心化的同时，找到与监管合规的平衡点等。

2.3.3 零信任

随着物联网和边缘计算等技术的快速发展，传统的安全模型逐渐无法满足日益复杂的安全需求。零信任架构（Zero Trust Architecture）作为一种新兴的安全理念，假设每个请求均可能存在安全风险，对所有用户和设备进行严格验证与授权。零信任技术基于最小特权原则，实现了细粒度的访问控制和动态的策略执行，强调在任何情况下都不隐式信任用户或设备[52]。在隐私计算领域，零信任为数据协作计算构建起一道坚固的安全防线。
零信任并非单一的网络架构，而是一系列战略性实施的指导原则，旨在保护企业资产，如数据、设备、用户及其他基础设施组件[53]。实现零信任架构的基本技术包括软件定义边界、身份与访问管理以及微隔离技术。软件定义边界是通过软件在移动互联网与云计算融合的环境下，打造出一道虚拟的保护屏障，为网络提供额外的隐形防护[54]。身份和访问管理作为零信任架构的支柱，通过对身份、权限、环境的综合管理，确保正确的主体在正确的情境下，出于正当的目的访问正确的资源。而微隔离技术则通过精细的策略管理，实现对业务系统内部及与外部主机间交互的隔离，增强流量的可见性和可控性，从而有效抵御黑客和恶意软件的持续渗透和大规模攻击。
零信任通过持续的验证和监控，增强对用户数据隐私的保护。它提供了一个安全的环境，可以结合隐私计算技术在零信任环境中处理和分析数据，有效应对复杂的数据安全威胁。但是，频繁的认证和授权检查可能会增加系统的延迟，影响用户体验。对于企业来说，零信任要求对整个网络和应用程序的访问控制策略进行重新设计，在技术上和管理上都非常复杂。在设备多样性和网络环境复杂性较高的情况下，零信任架构的部署会更加困难。未来，零信任技术将在优化用户体验和提升自动化智能化水平方向上推进。

2.4 挑战与展望

数据安全技术在隐私计算框架中面临着诸多挑战。
首先，当前的数据安全技术，如加密算法、访问控制、数据脱敏等，虽然在保障数据隐私方面已取得显著进展，但在处理动态数据环境、实时应用和大规模数据流转时，依然面临性能瓶颈与可扩展性问题。特别是在处理异构数据时，如何保证其在不同存储和传输过程中的一致性和完整性，是一大难题。此外，量子计算的发展可能对现有加密技术产生重大威胁，需要研究新型抗量子攻击的加密技术。
其次，保障数据在整个生命周期中的安全，即从数据生成、存储、传输到销毁，仍有许多难点。尤其是数据在传输过程中的链路加密及防窃听技术需要进一步强化，以应对日益复杂的攻击手段。
此外，数据安全技术在开发和实施中面临透明性和可解释性问题。算法的不可解释性会导致潜在的偏见与错误操作，尤其在自动决策系统中，透明性缺失可能引发伦理争议。确保数据安全技术的透明和公平性，防止偏见或滥用，是未来重要的研究方向。
最后，不同国家和地区的法律差异给数据跨境传输与合作带来挑战。随着数据保护法如欧盟GDPR（General Data Protection Regulation）和中国《数据安全法》的严格执行，数据安全技术必须与这些法规保持一致。此外，如何动态调整安全策略以满足不断变化的法律要求是未来数据安全技术的关键问题。
未来的数据安全研究将集中于开发可适应动态和复杂数据环境的高效算法，增强算法透明性与可解释性，以及推进技术与法律法规的同步发展。通过改进加密技术、引入抗量子加密方法、标准化安全协议以及增强监管合规性，数据安全技术将更加全面、稳固地保障数据的隐私与安全。
对隐私计算而言，虽然隐私计算技术通过保障数据隐私推动了数据的安全流通和协同计算。然而，随着应用场景的复杂化，隐私计算在技术、伦理和法律监管方面面临一系列挑战，这些挑战需要通过技术进步和政策完善予以解决。
首先，技术层面的挑战依然突出。隐私计算技术的实现大多涉及复杂的算法和协议，其效率和可扩展性仍需进一步提升。隐私计算在处理复杂计算任务时面临较大的计算复杂性和资源消耗问题，特别是在一些安全多方计算场景中，由于多方参与方需要进行复杂的加密操作和协同计算，计算资源和时间成本显著增加，限制了其在大数据环境下的广泛应用。其次，跨域协同计算的困难性也是隐私计算的一大挑战。隐私计算往往涉及多个数据提供者和处理方，可能采用不同的数据安全操作标准并应用不同的隐私计算技术。如何实现不同域之间的有效协同，同时保护各自的数据隐私，也是一个亟待解决的问题。此外，隐私计算技术本身的漏洞和数据泄露风险仍然存在。
尽管隐私计算具有数据“可用不可见”的特点，但仍有可能通过多次输入攻击或反向工程等方式推测出原始数据，造成被动泄露。特别是在联邦学习等场景中，数据在多个参与方之间频繁流转，也增加了模型攻击和隐私泄露的可能性。未来研究者应持续探索新的隐私保护技术，如新型的安全多方计算协议、更高效的算法优化和硬件加速技术、增强的差分隐私方法等，以提高隐私计算的计算效率、可扩展性、安全性和可行性。
其次，伦理道德风险进一步加剧了隐私计算的应用难度。由于隐私计算大多依赖复杂的加密和协作算法，数据处理的过程对外界难以解释，算法黑箱问题使得技术操作缺乏透明性，可能引发技术人员在开发和部署过程中的偏见和失误以及数据流通参与主体间的信任问题。此外，这种不可解释性还容易被不法分子利用，使违法数据流通得以在隐私计算的“合法”外壳下进行，导致黑市中的数据通过隐私计算技术合法化，加剧数据流通中的信任危机。未来，隐私计算在伦理层面需要加强透明性和可解释性，制定更加明确的算法伦理标准，以减少算法歧视和滥用。
法律合规挑战也是隐私计算在实际应用中面临的一个重要问题。由于数据流通的复杂性和隐私计算技术的多链路处理特性，现有的法律法规难以覆盖所有场景。例如，数据协作分析过程中各方对数据的处理权限和目的，可能随着协同计算的深入而不断变化，静态的知情同意原则在动态数据流转中难以有效执行。此外，数据的跨地域甚至跨国境流动日益频繁，涉及不同地区和组织的隐私保护规范和标准。数据所有权、使用权等法律问题在全球范围内尚未达成共识，这也限制了隐私计算技术的跨境应用。未来，需要根据隐私计算的具体应用场景，制定更加灵活且适应性强的法律框架，确保隐私计算技术的合规性和合法性。
总之，隐私计算虽然在解决数据安全与隐私保护问题上显示出巨大潜力，但其技术复杂性、伦理道德风险及法律合规挑战依然显著。未来的研究与应用需要在算法优化、技术标准化、法律与伦理框架建设等方面不断改进，进一步推动隐私计算的广泛落地与应用。

3 结束语

本文对数据安全与隐私计算领域的研究进行了系统的回顾、总结与分析。首先，针对数据安全的定义、演进阶段以及面临的主要威胁进行了深入探讨，并提出了相应的能力建设建议。其次，在隐私计算方面，详细阐述了其基本概念、技术发展路径及最新研究成果，并对当前的技术瓶颈与未来发展方向进行了分析。然而，现有研究和应用仍存在若干亟待解决的问题。其一，数据安全技术在应对新兴威胁和复杂应用场景时的适应性仍显不足，尤其是对跨境数据流动和多方协同的安全保障，尚需进一步完善。其二，隐私计算技术普遍面临计算开销较高的难题，实际应用的性能优化和可扩展性有待提高，在大规模应用中存在显著的技术挑战。此外，隐私保护的法律法规及技术标准尚不健全，给隐私计算技术的广泛推广和落地应用带来一定的制约。
未来的研究方向可以集中于以下几个方面：首先，针对适应性不足的挑战，研发更灵活和自适应的数据安全框架，结合人工智能和机器学习技术，以实现自动威胁检测和响应。这种框架可以利用深度学习模型实时分析数据流，识别潜在威胁并动态调整安全策略，从而提高应对新兴威胁和复杂应用场景的能力。其次，解决隐私计算的高计算开销问题。探索硬件加速技术，如使用图形处理器（Graphics Processing Unit）、可编程逻辑门阵列（Field Programmable Gate Array）以及专用智能芯片，来提升隐私计算的计算性能。同时，引入分布式计算架构，如边缘计算和混合云方案，将计算负载分散于多个节点，以实现更高效的并行计算。此外，研究优化算法和轻量级加密协议，以减少计算复杂度。制定灵活的跨境数据保护协议，结合零知识证明和同态加密等技术，确保数据在跨境流动时仍能保持机密性和完整性。开发国际协作平台，促进不同国家和地区的政策对接与信息共享，推动技术在全球范围内的安全落地。另外，积极加入国际标准组织，推动隐私计算和数据安全的技术标准化建设。鼓励产学研合作，共同制定面向未来的法律框架，结合技术与政策工具，以动态应对技术的快速发展。政府和行业应联手开发法律兼容的技术解决方案，如合规监控工具，以确保隐私计算的合法性。最后，将前沿技术如人工智能，与隐私保护技术结合，利用人工智能进行隐私风险预测与管理。例如，开发智能化的合规审查系统，帮助企业和机构在数据使用过程中遵守隐私法规。进一步研究联邦学习中的模型保护和差分隐私结合策略，以提升数据驱动的智能决策能力。

References

Publishing order | Descend order by publishing year | Descend order by cited within
1
李瑞轩, 董新华, 辜希武, 等. 移动云服务的数据安全与隐私保护综述[J]. 通信学报, 2013, 34 (12): 158- 166.

DOI

LI R X, DONG X H, GU X W, et al. Overview of the data security and privacy-preserving of mobile cloud services[J]. Journal on Communications, 2013, 34 (12): 158- 166.

DOI

2
FENG Q, HE D, ZEADALLY S, et al. A survey on privacy protection in blockchain system[J]. Journal of Network and Computer Applications, 2019, 126, 45- 58.

DOI

3
LEE D,KOHLBRENNER D,SHINDE S,et al. Keystone:an open framework for architecting trusted execution environments[C]//Proceedings of the 15th European Conference on Computer Systems. ACM,2020:1-16.

4
熊平, 朱天清, 王晓峰. 差分隐私保护及其应用[J]. 计算机学报, 2014, 37 (1): 101- 122.

XIONG P, ZHU T Q, WANG X F. A survey on differential privacy and applications[J]. Chinese Journal of Computers, 2014, 37 (1): 101- 122.

5
肖雄, 唐卓, 肖斌, 等. 联邦学习的隐私保护与安全防御研究综述[J]. 计算机学报, 2023, 46 (5): 1019- 1044.

XIAO X, TANG Z, XIAO B, et al. A survey on privacy and security issues in federated learning[J]. Chinese Journal of Computers, 2023, 46 (5): 1019- 1044.

6
李凤华,李晖,牛犇,等. 数据要素流通与安全的研究范畴与未来发展趋势[J]. 通信学报,2024,45(5):1-11.

LI F H ,LI H,NIU B,et al. Research category and future development trend of data elements circulation and security[J]. Journal on Communications,2024,45(5):1-11.

7
YANG P, XIONG N, REN J. Data security and privacy protection for cloud storage: a survey[J]. IEEE Access, 2020, 8, 131723- 131740.

DOI

8
ALTHONAYAN A,ANDRONACHE A. Shifting from information security towards a cybersecurity paradigm[C]//Proceedings of the 2018 10th International Conference on Information Management and Engineering. ACM,2018:68-79.

9
MOUSA A,KARABATAK M,MUSTAFA T. Database security threats and challenges[C]//2020 8th International Symposium on Digital Forensics and Security (ISDFS). IEEE,2020:1-5.

10
KOO J, KANG G, KIM Y G. Security and privacy in big data life cycle: a survey and open challenges[J]. Sustainability, 2020, 12 (24): 10571.

DOI

11
NAGHIZADEH P,SINHA A. Adversarial contract design for private data commercialization[C]//Proceedings of the 2019 ACM Conference on Economics and Computation. ACM,2019:681-699.

12
SUBASHINI S, KAVITHA V. A survey on security issues in service delivery models of cloud computing[J]. Journal of Network and Computer Applications, 2011, 34 (1): 1- 11.

DOI

13
郭华东. 科学大数据——国家大数据战略的基石[J]. 中国科学院院刊, 2018, 33 (8): 768- 773.

GUO H D. Scientific big data-a footstone of national strategy for big data[J]. Bulletin of Chinese Academy of Sciences, 2018, 33 (8): 768- 773.

14
覃庆玲, 彭志艺, 李晓伟. 全球数字经济浪潮下数据安全保护体系[J]. 信息安全与通信保密, 2020, 15 (2): 67- 81.

QIN Q L, PENG Z Y, LL X W. Data security protection system in the wave of global digital economy[J]. Information Security Communications Privacy, 2020, 15 (2): 67- 81.

15
阙天舒, 王子玥. 数字经济时代的全球数据安全治理与中国策略[J]. 国际安全研究, 2022, 40 (1): 130- 154.

QUE T S, WANG Z Y. Global data security governance and action strategies for China’s participation in the era of digital economy[J]. Journal of International Security Studies, 2022, 40 (1): 130- 154.

16
YU S,CARROLL F. Implications of AI in national security:understanding the security issues and ethical challenges[M]//Artificial Intelligence in Cyber Security:Impact and Implications:Security Challenges,Technical and Ethical Issues,Forensic Investigative Challenges. Cham:Springer International Publishing,2022.

17
MICHELI M,PONTI M,CRAGLIA M,et al. Emerging models of data governance in the age of datafication[J]. Big Data & Society,2020,7(2):2053951720948087.

18
郑志明, 何积丰, 唐立新, 等. 隐私计算的关键理论与前沿应用[J]. 中国科学基金, 2024, 38 (4): 603- 611.

ZHENG Z M, HE J F, TANG L X, et al. Innovative theoretical methods and key applications of privacy computing[J]. Bulletin of National Natural Science Foundation of China, 2024, 38 (4): 603- 611.

19
LI F, LI H, NIU B, et al. Privacy computing: concept, computing framework, and future development trends[J]. Engineering, 2019, 5 (6): 1179- 1192.

DOI

20
EVANS D, KOLESNIKOV V, ROSULEK M. A pragmatic introduction to secure multi-party computation[J]. Now Publishers, Norwell, MA, 2018, 2 (2-3): 70- 246.

21
GRPPERT T, DEML S, STURZENEGGER D, et al. Trusted execution environments: applications and organizational challenges[J]. Frontiers in Computer Science, 2022, 4, 930741.

DOI

22
ZHAO Y, CHEN J. A survey on differential privacy for unstructured data content[J]. ACM Computing Surveys, 2022, 54 (10s): 1- 28.

23
DO Q, BEN M, CHOO K K. The role of the adversary model in applied security research[J]. Computers & Security, 2019, 81, 156- 181.

24
ZHAO C, ZHAO S, ZHAO M, et al. Secure multi-party computation: theory, practice and applications[J]. Information Sciences, 2019, 476, 357- 372.

DOI

25
ACAR A, AKSU H, ULUAGAC A S, et al. A survey on homomorphic encryption schemes: theory and implementation[J]. ACM Computing Surveys, 2019, 51 (4): 1- 35.

26
ELGAMAL T. A public key cryptosystem and a signature scheme based on discrete logarithms[J]. IEEE Transactions Information Theory, 1985, 31 (4): 469- 472.

DOI

27
BLAZE M,BLEUMER G,STRAUSS M. Divertible protocols and atomic proxy cryptography[C]//International Conference on the Theory and Applications of Cryptographic Techniques. Berlin,Heidelberg:Springer ,1998:127-144.

28
ZHANG L, ZOU Y, WANG W, et al. Resource allocation and trust computing for blockchain-enabled edge computing system[J]. Computers & Security, 2021, 105, 102249.

29
ABERA T,ASOKAN N,DAVI L,et al. Invited-things,trouble,trust:on building trust in IoT systems[C]// Proceedings of the 53rd Annual Design Automation Conference. ACM,2016:1-6.

30
MOFRAD S,ZHANG F,LU S,et al. A comparison study of intel SGX and AMD memory encryption technology[C]//Proceedings of the 7th International Workshop on Hardware and Architectural Support for Security and Privacy. ACM,2018:1-8.

31
MUNOZ A, RIOS R, ROMAN R, et al. A survey on the （in） security of trusted execution environments[J]. Computers & Security, 2023, 129, 103180.

32
BARBOSA M,PORTELA B,SCERRI G,et al. Foundations of hardware-based attested computation and application to SGX[C]//2016 IEEE European Symposium on Security and Privacy (EuroS&P). IEEE,2016:245-260.

33
HAN S,JANG J. MyTEE:own the trusted execution environment on embedded devices[C]//Prceedings of the 30th Annual Network and Distributed System Security (NDSS). 2023.

34
LI S,LIN X,LI G,et al. DPG-DT:differentially private generative digital twin for imbalanced learning in industrial IoT[C]//19th International Conference on Mobility,Sensing and Networking (MSN). IEEE,2023:270-276.

35
WEN J, ZHANG Z, LAN Y, et al. A survey on federated learning: challenges and applications[J]. International Journal of Machine Learning and Cybernetics, 2023, 14 (2): 513- 535.

DOI

36
CAI X, GENG S, ZHANG J, et al. A sharding scheme-based many-objective optimization algorithm for enhancing security in blockchain-enabled industrial internet of things[J]. IEEE Transactions on Industrial Informatics, 2021, 17 (11): 7650- 7658.

DOI

37
CAO X,GONG N Z. Mpaf:model poisoning attacks to federated learning based on fake clients[C]//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. IEEE,2022:3396-3404.

38
TAO Y, CUI S, XU W, et al. Byzantine-resilient federated learning at edge[J]. IEEE Transactions on Computers, 2023, 72 (9): 2600- 2614.

DOI

39
MUTHUKRISHNAN G, KALYANI S. Grafting Laplace and Gaussian distributions: a new noise mechanism for differential privacy[J]. IEEE Transactions on Information Forensics and Security, 2023, 18, 5359- 5374.

DOI

40
NANAYAKKARA P,SMART M A,CUMMINGS R,et al. What are the chances? Explaining the epsilon parameter in differential privacy[C]//32nd USENIX Security Symposium (USENIX Security 23).USENIX Associaton,2023:1613-1630.

41
ZHAO Y, DU J T, CHEN J. Scenario-based adaptations of differential privacy: a technical survey[J]. ACM Computing Surveys, 2024, 56 (8): 1- 39.

42
XU G W, LI H W, LIU S, et al. VerifyNet: secure and verifiable federated learning[J]. IEEE Transactions on Information Forensics and Security （TIFS）, 2019, 15, 911- 926.

43
ZHANG Z B, DONG D J, MA Y H, et al. Refiner: a reliable incentive-driven federated learning system powered by blockchain[J]. Proceedings of the VLDB Endowment （PVLDB）, 2021, 14 (12): 2659- 2662.

DOI

44
WARNAT-HERRESTHAL S, SCHULTZE H, SHASTRY K L, et al. Swarm learning for decentralized and confidential clinical machine learning[J]. Nature, 2021, 594 (7862): 265- 270.

DOI

45
何蒲, 于戈, 张岩峰, 等. 区块链技术与应用前瞻综述[J]. 计算机科学, 2017, 44 (4): 1- 7.

HE P, YU G, ZHANG Y F, et al. Survey on blockchain technology and its application prospect[J]. Computer Science, 2017, 44 (4): 1- 7.

46
MAESA D D F,MORI P,RICCI L. Blockchain based access control. In distributed applications and interoperable systems[C]//Proceedings of the 17th International Federated Conference on Distributed Computing Techniques,DisCoTec. Springer Nature Link,2022:206-220.

47
MAJEED U,HONG C S. FLchain:federated learning via MEC-enabled blockchain network[C]//In Proceedings of the 2019 20th Asia-Pacific Network Operations and Management Symposium (APNOMS). IEEE,2019:1-4.

48
TOLMACH P, LI Y, LIN S W, et al. A survey of smart contract formal specification and verification[J]. ACM Computing Surveys, 2021, 54 (7): 1- 38.

49
WANG J, LIN X, WU Y, et al. Blockchain-enabled lightweight fine-grained searchable knowledge sharing for intelligent IoT[J]. IEEE Internet of Things Journal, 2023, 10, 21566- 21579.

DOI

50
LU Y, HUANG X, DAI Y. et al. Blockchain and federated learning for privacy-preserved data sharing in industrial IoT[J]. IEEE Transactions on Industrial Informatics, 2020, 16, 4177- 4186.

DOI

51
LI Y, CHEN C, LIU N, et al. Blockchain-based decentralized federated learning framework with committee consensus[J]. IEEE Network, 2021, 35, 234- 241.

52
SYED N F, SHAH S W, SHAGHAGHI A, et al. Zero trust architecture （ZTA）: a comprehensive survey[J]. IEEE Access, 2022, 10, 57143- 57179.

DOI

53
GE Y, ZHU Q. Gazeta: game-theoretic zero-trust authentication for defense against lateral movement in 5G IoT networks[J]. IEEE Transactions on Information Forensics and Security, 2024, 19, 540- 554.

DOI

54
RAFIQUE W, QI L, YAQOOB I, et al. Complementing IoT services through software defined networking and edge computing: a comprehensive survey[J]. IEEE Communications Surveys & Tutorials, 2020, 22 (3): 1761- 1804.

Options
Outlines

/

〈 〉

Website Copyright © Editorial Office of Journal of Cybersecurity.
Tel: 010-89061756/89061778　
E-mail：wlkjaqkxxb@caasse.cn
Powered by Beijing Magtech Co. Ltd,.

京ICP备16032046号-20