7月22日，重庆网信部门通报2024年上半年查处的网上各类违法违规行为，其中涉及3起违规从事生成式AI服务的案例。

通报介绍，“灵象智问AI”“重庆哨兵拓展迷”等网站未经安全测评备案、违规提供生成式人工智能服务问题，网信部门依法对运营主体开展执法约谈，责令立即停止相关服务；“南川区蓉城网络科技工作室”未经安全评估上线提供ChatGPT生成式AI信息服务，网信部门依法开展执法约谈，责令立即关停相关服务。

“灵象智问AI”的运营主体为重庆灵象智问科技有限公司，2023年5月注册成立。目前，“灵象智问AI”的官网已显示域名过期、无法访问。而“重庆哨兵拓展迷”和“南川区蓉城网络科技工作室”两个主体的官网，未能公开检索到。

南都记者无法与“灵象智问AI”和“重庆哨兵拓展迷”取得联系。“南川区蓉城网络科技工作室”的经营者林萍在电话中表示：“网监部门跟我们说过，国家不允许用国外的ChatGPT，我们就没用了。”

根据去年8月15日生效的《生成式人工智能服务管理暂行办法》（下称《暂行办法》），提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

此后在监管要求上，形成了算法备案制度和生成式人工智能备案（即大模型备案）的“双备案制”。根据今年4月国家网信办发布的生成式人工智能服务已备案信息公告，截至3月底，全国已有117款大模型获得备案。

《暂行办法》还规定，合规上线提供服务后，生成式AI服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。

上述重庆网信部门的通报中，再度提及一起涉及生成式AI服务提供者未尽到内容审核义务而被行政处罚的案例：“开山猴”AI写作网运营主体未尽到内容审核义务，致使网站出现法律、行政法规禁止发布或传输的信息内容。

据5月底“网信重庆”的详细通报，“开山猴”AI写作网站的运营主体重庆初唱科技有限公司，被重庆九龙坡区网信办依法给予行政警告处罚，并被责令限期全面整改，加强信息内容审核，健全信息内容安全管理相关制度，暂停网站信息更新及AI算法生成式写作功能15日。

“开山猴”AI写作网站现已恢复运营。7月23日接受南都记者采访时，该网站负责人表示，公司从2023年下半年开始，就遵循国家相关规定，主动接入国内互联网平台的合规大模型。这位负责人称，今年5月1日，公司发现，有用户多次恶意引导AI生成违规内容，均被平台的安全系统拦截，随后选择将一条未被拦截的“有争议内容”举报给监管部门。

该网站负责人说，根据该用户的注册信息、行为路径以及对AI的专业诱导方式，推测是竞争对手所为。事发后，公司向主管部门提交完整证据并予以澄清。此后，主管部门用一百多道测试题，对“开山猴”AI写作网站进行更严密测试，并没有发现问题。

采写：南都见习记者 杨柳