近日，美国联邦通信委员会（FCC）对民主党操盘手史蒂夫・克雷默(Steve Kramer)处以600万美元的巨额罚款。

图源备注：图片由AI生成，图片授权服务商Midjourney

这起事件的起因是一系列在新罕布什尔州初选期间发出的电话，电话中使用了 AI 生成的拜登总统声音，内容竟然劝说选民不要去投票，声称可以把票留到11月再投。这一行为不仅引发了公众的广泛关注，还让克雷默面临联邦大陪审团的起诉，涉及候选人冒名顶替、贿赂和恐吓等多项重罪。

克雷默在今年2月已经承认了自己创建这一机器人电话行动。他曾是明尼苏达州国会议员及总统候选人迪恩・菲利普斯（Dean Phillips）的顾问，声称这些电话是为了揭示 AI 在政治活动中的潜在危险。

然而，FCC 对此并不买账，FCC 执法局负责人洛扬・埃加尔（Loyaan Egal）表示，这种滥用生成式 AI 技术和电话伪装的行为，严重干扰了选举，威胁着民主制度的根基。

克雷默委托了一家名为 Voice Broadcasting Corp. 的公司来进行电话传播，而这家公司则通过德克萨斯州的 Life Corp. 来转接这些电话。FCC 指出，这些电话被标记为最高级别的来电显示认证，降低了其他运营商识别这些电话为虚假通信的可能性。

与此同时，FCC 还对 Lingo Telecom 提出了200万美元的罚款，原因是其在电话诈骗中可能未能采取足够的 “了解你的客户” 措施，导致了来电显示数据的真实性受到了质疑。

值得注意的是，虽然传统的垃圾电话和机器人电话通常由人类管理，但现在的 AI 系统已经能够自动化处理这些任务，利用 AI 工具的语音和语音生成能力，带来了新的挑战。