苹果AI翻车?写作工具难应付脏话,对敏感话题“罢工”
创始人
2024-08-07 06:11:04
0

本文作者:李丹

来源:硬AI

上周苹果的个人智能化系统Apple Intelligence通过iOS 18.1的开发者测试版首次落地iPhone等苹果设备。IPhone人工智能(AI)的首批功能之一——写作工具Writing Tools才亮相一周就引发争议,遭到网友吐槽。

据苹果介绍,Writing Tools让用户能在几乎任何场景下对文本进行改写、校对和摘要,包括邮件(Mail)、备忘录(Notes)、Pages 文稿和各类第三方App。曾有网友展示,该工具可以把对话中语气生硬的话修改得更加委婉。

但有媒体指出,当用户处理某些主题时,该工具会向用户展示,AI 生成的建议内容可能质量不高。

具体来说,当用户需要重新调整文本时,几乎可以在新iOS系统的任何地方调用Apple Intelligence,但如果尝试改写包含脏话的段落或者句子,就会看到一条系统警告,告知用户:“Writing Tools 不是为处理这种类型的内容而设计的。” 系统通过这种文本警告用户,AI重写的内容质量可能会和原文有所不同。

在社交媒体X,有用户发布了以下短视频展示用Apple Intelligence改写短信“Let’s fxxx daddy”这句话,AI生成的结果“不忍直视”,完全是字对字翻译,改成要和老爸性交。

这个帖子下面,有网友热评称AI改写内容“有毒”,有人称很尬,有人讽刺说,苹果这是添加了什么街头AI来嘲讽Siri吗。还有网友称,想象下,你真把改写的这话发出去会怎样。

改写脏话不是唯一会让iOS系统发出警告的情况。如果用户的内容提及毒品、杀人或谋杀也会出现这类警告,比如媒体展示的以下截图警告。

有媒体称,当用户使用未经训练的单词或短语时,Apple Intelligence 也会显示句子建议警告。其提到,有一次在试用AI写作工具时,该媒体的人士将“sh***y”一词用“crappy”替换,想通过这种方法让AI警告消失,但AI 工具返回的建议警告与未替换前完全相同。对此,该媒体已要求苹果提供更多信息,说明协作工具没有接受哪些主题的训练。

媒体认为,苹果可能会通过禁止 AI 在重写句子时处理某些单词、主题和语调来避免任何争议。无论如何,Apple Intelligence 驱动的写作工具并不适用于从头开始生成新内容。苹果希望当 AI 正在查看原文词语时向用户发出警告。

除了被曝引起争议的写作工具,苹果上周还发布了一些AI功能,包括:Siri的新功能,让Siri能在文本和语音间任意切换,能回答如何使用iPhone等苹果设备的数千问题;邮件的新功能,邮件有紧急电邮区、提供邮件全文摘要;照片的新功能,用户可用日常语言查找照片、输入文本后AI可利用照片制作影片,以及语音可转录为文本并生成摘要。

还有不少苹果在今年6月全球开发者大会(WWDC)上介绍的AI功能未上线,苹果称将在明年上线,包括图像创作功能Image Playground、创建应景Genmoji、通知功能Priority Notifications、具有屏幕感知功能的更强大Siri,同时,苹果还未将Chat GPT接入iPhone和iPad的AI。而且,目前的iPhone AI只有注册开发者能体验。明年如果苹果上线更多AI功能,并面向更多用户,可能会有更多吐槽。

相关内容

AI生成合成内容应添标识
本报综合 近日,国家互联网信息办公室、工业和信息化部、公安部、国家...
2025-03-15 07:14:10
CentOS 5.3至最新...
CentOS 5.3升级指南:安全过渡与系统优化 对于仍在运行Ce...
2025-03-15 06:13:57
AI造谣难防?新规要求AI...
近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总...
2025-03-14 22:11:45
AI生成合成内容需显著标识
为了促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、...
2025-03-14 17:40:54
警惕“AI推荐”沦为忽悠消...
杨玉龙 “DeepSeek,请推荐一款今年的中端手机。”“Kimi...
2025-03-14 08:12:16
CentOS上安装或更新O...
CentOS与OpenSSL 1.0:关键技术与安全实践探讨 在服...
2025-03-14 07:40:24

热门资讯

原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
支持 AI 扩图,华为 Pur... 2024-07-28 09:05:02作者:姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/... 国漫女神|《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神|《吞噬星空》维妮娜美图...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商... 最近,各家的AI 9笔记本开始陆续登场,其实大家并不一定非选AI 9 HX 370,主要是这颗CPU...
AI智能+高效清洁!萤石RS2... 目前扫拖机器人市场的竞争非常激烈,在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...
2024年度中国银行业发展报告... 21世纪经济报道 记者李愿 北京报道 10月19日,中国银行业协会在2024金融街论坛年会·金融街之...