金融界 2024 年 10 月 24 日消息,国家知识产权局信息显示,新华三技术有限公司申请一项名为“一种模型数据回流方法、电子设备及装置”的专利,公开号 CN 118796507 A,申请日期为 2024 年 6 月。
专利摘要显示,本申请实施例提供了一种模型数据回流方法、电子设备及装置,涉及数据处理技术领域,应用于 Kong 网关,上述方法包括:接收用户端发送的推理请求;将推理请求转发至用于处理推理请求的 AI 模型的推理服务;获得推理服务响应于推理请求生成的推理结果;将推理请求与推理结果记录于缓存队列中;从缓存队列中提取所缓存的数据,基于所提取的数据生成推理日志,以实现模型数据回流。应用本申请实施例提供的方案能够对 AI 模型的推理数据进行数据回流。
来源:金融界