文 | 深观商业

从生成式AI的惊艳亮相引起全球科技巨头军备竞赛般的投入开始，整个AI行业仿佛被注入了无限的想象力。似乎在宣告着即将出现一个生产力即将被彻底解放、商业模式即将被完全颠覆的光明未来。

微软、谷歌、亚马逊等云巨头纷纷将资本支出的绝大部分押注于AI基础设施建设，而无数逐利而来的AI初创公司，更是如雨后春笋般涌现试图分一杯羹，全球AI领域的投资额也达到了史无前例的高度。

然而，正如任何过热的淘金热最终都会迎来冷静期当技术以超乎预期的速度普及时，潜在的负面效应也以同样的速度被放大，正在悄然侵蚀着行业参与者。

从“可选项”到“必选项”的巨额支出

根据奇安信集团对外发布《2024人工智能安全报告》来看，在2023年基于AI的深度伪造欺诈便已暴增了3000%，基于AI的钓鱼邮件也增长了1000%；而内容生成环节更是实现规模化生产。

基于Stable Diffusion和GPT-4的定制模型，可每小时生成2000条伪原创研报、800段逼真视频。暗网平台“DarkGPT”更是提供包月服务，1万美元即可获得每日5000条金融虚假内容的产能。

而且“AI滥用”的后遗症并不仅仅在社会新闻版块，可以说它已经穿透了科技公司的防火墙直接作用于其财务报表。而金融行业正是这场风暴的中心，当AI以假乱真的能力被精准地应用于金融诈骗时，其破坏力可以说是指数级的增长。

据行业估算，2024年由深度伪造技术引发的各类欺诈造成的全球经济损失已高达120亿美元。尤其在监管相对滞后、交易更为匿名的加密货币领域，AI滥用更是如鱼得水。根据相关的报告也显示2024年仅AI深度伪造技术全年造成的损失便高达46亿美元。

随着AI滥用事件的频发，过去模糊的“伦理指南”正在迅速转变为具有强制约束力的法律条文，而且这种转变直接导致了企业合规成本的急剧攀升。

而且一旦出现违规需要付出的代价更是惨痛的，罚款最高可达全球年营业额的数个百分点或数千万欧元，而且合规也不再是法务部门的单一工作，而是渗透到研发、产品、市场的每一个环节。

这些“反噬”也并非凭空产生，在AI商业化过程中对速度和规模的追求，长期以来压倒了对安全和伦理的考量所以形成了这种“原罪”。因此未来合规成本的升高是不可避免的，而欧盟的《AI法案》可以说是这一趋势的先行者。

该法案于2024年8月1日正式生效并分阶段实施，着重对高风险的AI系统施加了严格的合规要求。而且这不仅仅是一项区域性法规，更可能产生“布鲁塞尔效应”从而影响全球的AI监管格局。

监管的落地也将会直接转化为企业的合规成本。据公开信息推算，仅欧盟AI法案便可能导致欧洲企业的AI采纳成本增加约310亿欧元，并使AI投资减少近20%。而美国联邦贸易委员会也已对OpenAI展开调查，谷歌等公司也不得不调整其营销话术，避免被处以巨额罚款。

可以说“监管的铁幕”正在迫使整个行业从过去“快速行动，打破陈规”的互联网思维转向一种更为审慎、合规驱动的开发模式。可以说这种转变无疑会减缓创新速度并增加运营成本，对于那些资源有限的中小企业和初创公司构成尤为严峻的挑战。

对“信任”的侵蚀或许是AI滥用最难修复的一种

这源于在激烈的竞争压力下，企业急于抢占市场将产品快速推向用户，所以将风险控制和安全测试置于次要位置。但是这种“快速行动并打破规则”的心态在AI时代尤为危险，因为AI技术的潜在破坏力远超以往的软件应用。

并且市场对于AI技术的可靠性极度敏感，甚至一次小小的失误都可能引发巨大的信任危机和财务损失。谷歌的Bard模型之前便在一次演示中出现事实性错误，竟然导致其母公司Alphabet的股价在单日内暴跌7%，市值蒸发超过1000亿美元。

并且随着AI投资的巨额支出持续攀升，投资者开始担忧其回报前景，这种悲观情绪导致Meta、Microsoft、Alphabet和Nvidia等AI领域的领军企业股价普遍承压下跌，市场也开始讨论“AI泡沫”的风险，并开始质疑哪些不计成本的“军备竞赛”式投资。

更何况大量公司缺乏对AI伦理的明确责任归属，高管层面也并未对其有所调整。所以AI系统的决策过程像一个“黑箱”，在责任主体模糊的情况下滥用和误用的风险便难以控制。企业内部也未建立有效的问责机制。

但是更深层次的原因在于当前主流生成式AI商业模式本身所内含的风险。这些模型依赖于海量数据的投喂，其训练过程难以完全避免偏见和有害信息的吸收。而其强大的生成能力却为恶意利用提供了温床。

因此当商业模式的核心是追求更强大的模型、更广泛的应用时，如果缺乏与之匹配的强大“安全刹车”系统，滥用就成了可预见的副产品。这种商业逻辑与伦理要求之间的结构性失衡才是导致“反噬”的根本内因。

所以当企业享受了技术红利带来的增长，如今便也不得不为其模式所伴生的风险“买单”。哪怕科技公司以“让世界更美好”的叙事推广AI，公众在实际体验中，也会频繁受到隐私泄露、算法偏见、就业替代、虚假信息等负面影响。

这种落差也导致了广泛的“AI焦虑”和不信任感。公众普遍认为现有的监管法规不足以应对AI带来的社会风险期望政府采取更加果断的行动。这种强大的民意压力也是推动监管机构加速行动的根本动力。

面对公众的呼声和潜在的社会风险，监管机构的介入是必然的。但由于技术发展的速度远超立法速度监管往往表现出一定的滞后性，欧盟AI法案便被部分人士认为可能增加企业负担、抑制创新。

全球主要经济体在AI领域的竞争，也使得监管变得更加复杂。各国都希望在鼓励创新和防范风险之间找到平衡点但这种平衡点的位置各不相同，因此形成了复杂的国际监管格局给跨国企业的合规带来了巨大挑战。

而且这种外部滥用对整个AI行业的声誉造成了“连坐”效应。即使一家公司本身恪守伦理，也无法完全独善其身，因为公众对AI的信任是整体性的。恶意滥用行为如同向池塘中投下的毒药，在污染了整个水域后迫使所有“池中生物”共同承担后果。

这场危机成为AI自我革新的契机

这场“反噬”带来的阵痛，是AI产业从野蛮生长走向规范发展的必经阶段。它正在淘汰那些只想赚快钱、缺乏责任感的“玩家”，筛选出真正有实力、有远见的长期主义者。从长远来看，这也是为AI产业的健康、可持续发展所必须付出的代价。

其中最大的机遇在于将“信任”从一种道德呼吁，转变为一种可量化、可变现的商业资产和竞争壁垒。数据显示近85%的客户也更愿意与重视AI伦理实践的公司合作，而那些优先考虑伦理和透明度的公司收入增长也更快。

可以说在AI产品同质化日益严重的未来，谁能赢得用户的信任谁就能赢得市场。“负责任的AI”将不再仅仅是公关部门的口号，而是必须贯穿于产品设计、开发、部署全流程的核心战略。

谷歌和微软等公司已经开始调整其策略，谷歌选择利用AI技术提升广告安全审核的效率，打击欺诈内容；微软则发布了负责任AI透明度报告，并推出了AzureAIContentSafety等服务，帮助客户构建更安全的AI应用。这些举措既是应对风险的防御，也是在构建新的竞争优势。

正是“反噬”催生了全新的“安全即服务”市场。随着AI滥用风险的加剧企业对AI安全审计、风险评估、内容过滤、合规咨询等服务的需求将急剧增长。这为专门从事AI安全和伦理治理的科技公司、咨询机构创造了巨大的市场空间。

而科技巨头自身也可以将其内部成熟的安全工具和能力平台化、服务化，开拓新的收入来源。例如，谷歌和微软在内容审核、风险识别方面的技术积累，完全可以转化为对外输出的商业服务。

虽然监管的收紧虽然带来了成本，但也为行业设定了“准入标准”，能够率先满足高标准合规要求的企业将获得更强的市场公信力和竞争优势，从而在未来的市场整合中占据有利地位。这实际上是一种由监管驱动的市场出清和格局优化。

从滥用事件的激增，到资本市场的审慎，再到全球监管的收紧，这股“反噬”之力正在重塑AI产业的发展轨迹。它迫使整个行业从过去对技术力量的无限崇拜，转向对技术责任和社会价值的深刻反思。

麦肯锡预测，到2030年AI将为全球经济创造13万亿美元价值。但价值分配取决于我们如何驾驭这头猛兽。未来的竞争，将不仅仅是模型参数和算力大小的竞争，更是治理能力、责任担当和用户信任的竞争。