合成数据快速扩张，风险也在同步增长

人工智能模型和智能体系统的质量，取决于其所依赖数据的质量。然而，企业数据往往存在缺失、稀缺，或者受到监管壁垒的限制。这导致企业对事件的认知不完整甚至失真，进而迅速扭曲各类分析结果。

合成数据由此登场。这种人工生成的信息旨在模拟真实世界的统计规律。当企业缺乏客户、患者或交易等事实数据时，合成数据尤其有助于填补这些空白。这一概念并非新鲜事物，合成数据长期以来在保护敏感信息方面发挥着作用。不过，在人工智能时代，它正在经历一场自我革新。

金融服务公司、医疗机构、政府部门等机构都在常规使用合成数据，但使用时必须保持谨慎。如果缺乏强有力的管控，合成数据可能产生误导性结果，并加大监管风险。”你可以让它变得相当准确，但这需要付出真正的努力才能实现，”咨询公司BCG X的首席人工智能官马特·克罗普表示。

要实现有效部署，首席信息官必须认清合成数据在何时、何地能够发挥价值，进而建立恰当的治理模型和运营管控机制。偏差、漂移和模型崩溃都不是抽象的风险，尤其是在处理人为构造出来的数据时。

“归根结底，合成数据终究是合成出来的，”研究机构Forrester的分析师泽德·哈特尔表示。

人为构造的内容很关键

在企业场景中，合成数据的吸引力显而易见。通过用逼真的仿制数据替代真实数据，企业可以在内部和合规层面掩盖个人身份或保护专有业务记录。当真实数据缺失时，企业还可以借助合成数据对特定情况和事件进行建模，从而在数据驱动的市场中保持竞争力。

挑战在于，如今人工智能已经改变了这一格局，企业需要重新把握这些优势。人工智能一方面推动了对合成数据的需求，另一方面也降低了生成合成数据的成本。过去，”通常需要一名数据科学家与领域专家坐下来，共同构建出一套适合所要建模场景的数据集，”哈特尔说道。

如今情况已大不相同。生成式AI模型能够将过去需要数周才能完成的合成数据生成工作压缩到几秒钟内，并且产出的结果与真实数据高度相似。企业也迅速把握住了这一优势：咨询公司凯捷与Sogeti、OpenText联合开展的调研发现，在2000多名受访者参与的《2025-26年度全球质量报告》中，测试环节使用合成数据的比例从2024年的14%上升到2025年平均的25%。此外，35%的机构如今生成的测试数据中，超过四分之一来自合成数据。

然而，一个根本性的矛盾也随之出现：”这是安全性与实用性之间的权衡，”数据管理软件公司Perforce的首席技术官伊尔克·塔斯卡亚说道。合成数据越接近真实数据，其实用性就越高，但同时在隐私和安全层面的风险也越大。反之，如果首席信息官过度倾向安全性，实用性就会”大幅下降”，他指出。

这项任务之所以如此棘手，是因为大语言模型在语义理解方面表现出色，却在一致性方面存在短板，塔斯卡亚表示。模型可能会在后续处理中”改变想法”。而规模的扩大只会进一步加大难度。生成50条合成记录是一件简单的事，但要在一个60TB的生产数据库中生成数十亿行数据，Token成本会急剧攀升，效率则会大幅下滑。

复杂性带来了另一层挑战。一个数据集所包含的维度越多，内部存在的关联关系越复杂，就越难以确保合成数据能够达成预期目标，哈特尔表示。还存在一个更根本的局限：从设计本质上讲，合成数据必须经过有意识地生成。这意味着合成数据可以对企业已经理解的场景进行规模化扩展，但无法可靠地呈现模型构建时无人预料到的边缘情况。

走出沙盒环境

尽管生成式AI让生成合成数据变得更加容易，但要有效部署它，远不止”打开你惯用的聊天机器人，输入’生成1000条合成数据记录'”这么简单，克罗普表示。有些场景可以容忍近似结果，有些则不能。这其中需要一种”艺术性与科学性兼具”的平衡，哈特尔说道。

举例来说，一名开发人员在测试单一功能时，可能只需要针对本地数据库中涉及20份保单的10名客户生成合成数据进行分析。而另一方面，一个集成测试环境可能涉及数百名客户，并与计费和支付系统产生关联。涉及分析和模型训练的情形，则会让情况进一步复杂化。

随着合成数据池不断扩大，风险也随之上升，尤其是当数据流出沙盒环境之后。即便是很小的数据块，一旦意外混入生产系统，也极易被忽视。一条人为构造的记录在测试环境中通常是无害的，但一旦污染了生产模型，就可能导致模型出现偏差、业务决策失误，以及监管层面的风险暴露。”你需要审视数据究竟是如何被使用的，并据此部署恰当的管控措施，”塔斯卡亚解释道。

有效的管控措施围绕三个核心问题展开：

首席信息官必须理解具体情形中的细微差别，包括何时该使用合成数据、何时最好避免使用，塔斯卡亚表示。例如，构建软件界面并不需要严格的管控；但依赖准确性且不能存在偏差的保险承保模型，情况则截然不同。

此外，还需要针对具体任务所要求的准确度水平进行评估。克罗普表示，实现这一目标的最佳方式是借助评估工具，即一种将系统输出结果与已知正确答案进行交叉核验的测试框架。借助这类工具，团队可以在开发阶段及投产后发现不符合预期的偏差并进行调整。如果没有这类工具，”你根本无从了解系统的实际表现，”他补充道。

构建防护机制

即便拥有完善的治理框架，如果缺乏恰当的衡量指标，也难以真正发挥作用。BCG X建议对关键因素进行直接监督，本质上是借鉴金融服务行业分配监管责任的做法。这意味着需要建立清晰的归属和问责机制，这其中也包括那些自行接入工具、有时还会使用影子AI的业务部门用户。

这些系统还必须正视一个事实：人工智能是动态的，而非静态的。由于模型会发生漂移，有时甚至会崩溃，责任归属也必须随时间推移而持续延伸。随着新事件的发生和新数据流的涌入，各种关系和结果都会随之改变。任何监督机制都必须正视这种动态变化。

与此同时，合成数据面临着截然相反的问题：它在生成那一刻便被”冻结”，因此在一个持续变化的动态系统中，很容易产生偏差和错误结论。当这些数据被重新纳入训练流程后，会逐渐衰减，性能也会随之下降。解决之道是什么？建立相应机制，确保合成数据能够反映当下的实际需求，而非仅仅停留在最初生成时的状态。

毫无疑问，合成数据能够加速开发流程、挖掘商业机会，并强化隐私保护。随着首席信息官们意识到，仅靠真实世界的数据已不足以驱动数字化企业的发展，越来越多的企业开始引入合成数据，克罗普总结道。只要将合成数据当作一种战略工具而非权宜之计来使用，它就”能够成为弥合这一差距的有效途径”。

真正的分野将出现在那些及时更新治理体系以适应人工智能时代、并能有效运用合成数据的企业，与那些未能做到这一点的企业之间。