“AI公务员”上岗,人工智能伦理问题要处理好
创始人
2025-02-19 07:17:52
0

来论

DeepSeek火爆之后,多地政务系统接入DeepSeek。2月8日,深圳市龙岗区政务服务和数据管理局在政务外网部署上线DeepSeek-R1全尺寸模型,成为广东首个在政务信创环境下部署上线该模型的政府部门。2月16日,深圳基于政务云向全市各区各部门正式提供DeepSeek模型应用服务,实现了基于DeepSeek的人工智能政务应用一体化赋能升级。

人工智能在政务领域应用广泛,覆盖政务办公、城市治理、民意速办等。深圳市政府政务网全面接入DeepSeek大模型,标志着政务服务智能化迈入新阶段。但新技术往往会带来新问题,AI也不例外,具有一定智能的大模型会带来政务系统中的新的伦理问题。

与以往的IT技术提供的辅助性、程序性、流程性、事实性的帮助不同,AI提供是决策性、判断性的帮助。打个比方,以前一个网页错了,是输入的人出错,而不是计算机生成了错误的事实;一个OA的流程会出错,但是否批准的判断,总是人做出的。

当下的大模型AI仍然存在幻觉。所谓幻觉,是指AI生成看似合理但实际上不准确或虚假的信息。这种现象在新闻、法律和医学等领域尤为突出,可能导致虚假新闻的传播、法律文件的错误引用以及错误的医疗诊断。AI会出错,但却不担责。而且,基于AI的黑箱性质,不可能针对错误进行单次的调整,也就是说,AI第一次出错,下次还是会出错,而且无法预测。

曾经有人开玩笑说,AI永远取代不了审计,因为AI再怎么智能,也无法背锅。这就是真实社会中的问题,很多事情,不仅是干活,还有责任、约束、奖惩,而AI是无法为这些东西负责的。

政务系统,小到生活中过马路的便利,大到公民信息安全,甚至城市运行的公共安全,牵涉民生、城市运行等各个方面。在政务系统中引入AI之后,谁来负责是一个新问题。

在接入AI后,出了问题,政务部门会说:我不知道,我按程序使用IT部门提供的AI,应该IT部门负责;IT部门会说,AI只是辅助,仍然要政务部门做最后审核。政务部门可能会反问:那还要AI来干什么?最终还是要我审核,我工作量不降反增?

实际上,这相当于IT部门不仅用AI来干了一部分政务部门的活,也承担了政务部门的一些责任。但IT部门作为后台支持部门,能承担政务部门的责任吗?该承担政务部门的责任吗?这就需要新的理论、新的伦理来处理这些问题,划分责任。

值得注意的是,在这一点上,福田区已经做出了新尝试。福田区首创政务辅助智能机器人“基本法”,以政府采购、使用的政务辅助智能机器人的全流程管理为主线,构建伦理框架,明确了技术标准、应用范围、安全管理以及监管要求。这就为人工智能在政务领域的合法合规、合乎伦理的运行厘清了边界,避免AI滥用或责任界定不清,为人工智能与人类协同工作做出了一个新的尝试。某种程度上,这比仅仅简单地把DeepSeek接入到工作中更重要。

此外,还需要提醒的是,更多的人工智能的引入,意味着采集更多数据,数据分析的能力更强。这也需严格管理政务数据访问权限,防范模型训练中的隐私泄露风险,尤其是在涉及文字、图片、视频的多模态数据分析场景下。

□刘远举

相关内容

CentOS 5.3至最新...
CentOS 5.3升级指南:安全过渡与系统优化 对于仍在运行Ce...
2025-03-15 06:13:57
DeepSeek引爆国产A...
本周,中证电信主题指数下跌0.6%,中证芯片产业指数下跌2.3%,...
2025-03-14 22:12:46
融合DeepSeek,这款...
2025-03-14 22:12:31
AI造谣难防?新规要求AI...
近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总...
2025-03-14 22:11:45
AI语音助手Maya,完全...
2025-03-14 18:41:15
AI生成合成内容需显著标识
为了促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、...
2025-03-14 17:40:54

热门资讯

原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
支持 AI 扩图,华为 Pur... 2024-07-28 09:05:02作者:姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/... 国漫女神|《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神|《吞噬星空》维妮娜美图...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商... 最近,各家的AI 9笔记本开始陆续登场,其实大家并不一定非选AI 9 HX 370,主要是这颗CPU...
AI智能+高效清洁!萤石RS2... 目前扫拖机器人市场的竞争非常激烈,在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...
2024年度中国银行业发展报告... 21世纪经济报道 记者李愿 北京报道 10月19日,中国银行业协会在2024金融街论坛年会·金融街之...