谷歌Pixel 9手机的AI图像生成工具“放飞自我”
创始人
2024-08-22 08:43:42
0

IT之家 8 月 22 日消息,谷歌上周发布了 Pixel 9 系列智能手机,其中包含一系列以人工智能为核心的新功能。所有 Pixel 9 手机均支持 Gemini 人工智能,谷歌还加入了基于人工智能的图像生成和编辑工具。然而,评测人员测试了这些新功能后发现,人工智能图像生成很可能会成为谷歌的公关噩梦。

据IT之家了解,谷歌为 Pixel 手机推出了一个名为 Pixel Studio 的人工智能图像生成应用,其能够通过文本提示创建贴纸和图像,功能与苹果计划推出的 Image Playground 非常相似。目前,评测人员能够使用 Pixel Studio 创建出各种令人不安的图像,例如纳粹版本的海绵宝宝和拿着 AK47 的艾摩

来自 Digital Trends 的评测人员毫不费力地让 Pixel Studio 制作了卡通人物从事可疑活动的图像,枪支、毒品和酒精都能够生成,甚至像校园枪击这样的冒犯性场景。Pixel Studio 不会主动生成此类图像,而是需要用户输入相应的描述。然而这正是人们最有可能做的事情,而不是生成可爱猫咪和小兔子的图像。

谷歌表示他们已经采取了“安全检查措施”来防止 Pixel Studio 被“恶意使用”,并且确实起到了一定作用。例如,Pixel Studio 目前无法生成人物图像,并且谷歌正在根据评测反馈调整人工智能模型。经过与谷歌的沟通后,Digital Trends 也无法再用 Pixel Studio 生成吸食可卡因或穿着德国士兵服装的卡通人物图像。

比 Pixel Studio 更令人担忧的是谷歌的“重构”(Reimagine)工具,其可以向用户已经拍摄的照片中添加对象。来自 The Verge 的评测人员用它向图像添加了尸体、炸弹、毒品和灾难场景,并且这些添加物看起来非常逼真,让人难以分辨图片是否经过编辑。谷歌在匹配光线和透视方面做得非常出色,社交媒体上也看不到任何水印或标记。虽然谷歌确实添加了元数据标签,但通过截图很容易将其去除。

The Verge 指出,以前也可以向图像添加尸体或创建持枪的艾摩图片,但这需要一定的 Photoshop 技能和时间。使用 Pixel 手机,只需几秒钟的思考,任何人都可以创建这样的图像,这让人担忧。

在给 The Verge 和 Digital Trends 的声明中,谷歌表示他们设计生成式人工智能工具时,是“为了尊重用户提示的意图”,这可能会导致用户要求生成“令人反感”的内容。但谷歌声称其“服务条款”中规定了不允许生成的内容,并且他们将不断完善相关保障措施。

相关内容

AI帮付款,你慌不慌?
多家支付巨头宣布入局AI智能体。与普通的AI聊天机器人不同,这些A...
2025-07-10 11:42:13
中国电信刘桂清:拥抱AI,...
瑞士时间7月9日,人工智能向善全球峰会(AI for Good S...
2025-07-10 11:12:36
美年健康:借助AI技术赋能...
证券之星消息,美年健康(002044)07月08日在投资者关系平台...
2025-07-09 22:13:52
字节飞书发布并升级多款AI...
从写文案到做翻译,AI大模型如今已经成为许多人必备的“打工搭子”,...
2025-07-09 22:13:22
高德地图上线AR打卡功能,...
“每个角落都有故事”,怀揣着这样的愿景,阿里巴巴集团旗下高德地图正...
2025-07-09 22:13:11
甘肃:AI赋能,城乡课堂有...
走进甘肃省庆阳第五中学,英语教师杨敏正在借助AI工具优化课件,开展...
2025-07-08 23:13:59

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...