人工智能是医疗保健、技术及其他领域发展的重要组成部分，但数据隐私监管方式仍令人担忧。
数据隐私对于赢得公众对技术进步的信任至关重要。
数据隐私往往与基于消费者数据的人工智能（AI）模型相关。用户对获取和使用其数据（其中可能包括敏感信息）的自动化技术心存戒备，这是可以理解的。AI模型依赖数据质量来提供有价值的结果，因此，其持续发展取决于隐私保护是否被纳入设计的核心。
良好的隐私和数据管理实践不仅能消除客户的恐惧与顾虑，也与公司的核心组织价值观、业务流程和安全管理息息相关。隐私问题已得到广泛研究和宣传，我们的隐私认知调查数据表明，隐私保护是消费者非常关注的问题。
结合具体情境解决这些顾虑至关重要。对于运营面向消费者的AI业务的公司而言，有多种方法和技术可以帮助解决通常与人工智能相关的隐私问题。
有些产品和服务需要数据，但不必侵犯任何人的隐私
从公众对隐私的看法来看，人工智能领域的公司已经处于不利地位。根据欧洲消费者组织的数据，2020年一项调查显示，45-60%的欧洲人认为，AI将导致更多个人数据滥用。
许多广受欢迎的在线服务和产品依赖大型数据集来训练和改进其AI算法。即便是对隐私最不敏感的用户，也可能认为这些数据集中的部分数据属于私人信息。来自网络、社交媒体页面、手机和其他设备的数据流，构成了企业用于训练机器学习系统的大量信息。由于一些公司过度使用个人数据且管理不善，隐私保护正成为全球公共政策议题。
人们收集大量敏感数据，以改进由AI驱动的流程。许多数据分析也受到机器学习普及的推动，因为复杂算法需要基于这些数据集实时做出决策。搜索算法、语音助手和推荐引擎只是少数几种利用大型真实用户数据集驱动AI的解决方案。
大型数据库可能涵盖广泛的数据，其中一个最紧迫的问题是，这些数据可能包含可识别个人身份的信息和敏感信息。实际上，训练算法做出决策并不需要知道数据与谁相关。因此，这类产品背后的公司应致力于保护其数据集的隐私，尽可能减少从源数据中识别用户的途径，同时采取措施从算法中移除边缘案例，以避免逆向工程和身份识别。
数据隐私与人工智能之间的关系相当微妙。虽然有些算法可能不可避免地需要私人数据，但有很多方法可以更安全、侵入性更低地使用这些数据。以下方法仅列举了使用私人数据的公司可以采取的一些措施，以助力解决问题。
将数据隐私纳入人工智能设计考量
我们曾谈到逆向工程问题：恶意行为者会发现AI模型中的漏洞，并从模型输出中推断出可能至关重要的信息。这正是为什么在面临这一挑战的AI应用场景中，更新和改进数据库及训练数据至关重要。
例如，在机器学习过程中结合相互冲突的数据集（对抗式学习），有助于识别AI算法输出中的缺陷和偏见。此外，也可以使用不含真实个人数据的合成数据集，但其有效性仍存疑。
医疗保健领域在AI和数据隐私治理方面处于领先地位，尤其是在处理敏感私人数据方面。该领域也在知情同意方面做了大量工作，涉及医疗程序以及数据处理——相关风险很高，并且受到法律监管。
至于AI产品和算法的整体设计，通过匿名化和汇总使数据与用户脱钩，是任何使用用户数据训练AI模型的企业都必须采取的关键措施。
以下多项考量有助于加强AI公司的隐私保护：
将隐私置于核心：让开发人员重视隐私保护，并设法有效加强安全性
对数据集进行匿名化和汇总，删除所有个人标识符和独特数据点
严格控制公司内哪些人员可以访问特定数据集，并持续审查数据访问情况，因为这曾导致一些数据泄露事件
更多数据并非总是更好的解决方案。使用精简后的数据测试算法，找出让应用场景切实可行所需收集和处理的最少数据量
必须提供简便的方式，让用户能够按需删除个人数据。对于仅对用户数据进行假名化处理的公司，应持续使用最新数据重新训练模型
采用强有力的去标识化策略，例如使用经过完全匿名化的汇总数据集和合成数据集，以及用于算法训练、审计和质量保证等用途的不可逆标识符
重新审视获取和使用第三方关键信息的方式，以保障用户的自主权和隐私；仔细检查数据来源，只使用那些在获得用户明确且知情同意后收集数据的来源
考虑相关风险：攻击者是否可能通过AI系统的输出危及用户隐私？
数据隐私与AI的未来将如何发展？
AI系统需要大量数据，一些顶级在线服务和产品如果没有用于训练AI算法的个人数据，就无法运行。尽管如此，仍有许多方法可以改进数据的获取、管理和使用，包括改进算法本身和整体数据管理。尊重隐私的AI需要尊重隐私的企业。
