硬核观察 #1210 人工智能聊天机器人被用来越狱其它人工智能
#1 人工智能聊天机器人被用来越狱其它人工智能
现代聊天机器人有能力通过伪装特定性格或像虚构人物一样行事来扮演角色。新研究利用了这一能力，要求一个特定的人工智能聊天机器人充当研究助手。然后，研究人员指示这个助手帮助开发可以 “越狱” 其他聊天机器人的提示语。事实证明，研究助理聊天机器人的自动攻击技术在 42.5% 的时间内成功地攻击了 GPT-4，对 Claude 2 的攻击有 61% 的成功率，对开源聊天机器人 Vicuna 的攻击有 35.9% 的成功率。研究人员称，这种助理聊天机器人提升了 25 倍的越狱效率。
（插图：DA/43112e8c-6b66-45f5-b877-a0dd29ae9afa）
老王点评：“黑化”的 AI 果然会影响更多 AI。
#2 几乎所有密码管理器在安卓上会泄露凭证
当安卓应用程序在 WebView 中加载登录页面时，密码管理器被调用来自动填写凭证时，理想情况下，它应该只自动填写已加载的谷歌或 Facebook 等页面。但研究人员发现，自动填写操作可能会意外地将凭证暴露给底层应用程序。这个漏洞的影响非常大，尤其是在应用程序是恶意程序的情况下。几乎所有的密码管理器，包括 1Password、LastPass、Keeper 和 Enpass，在最新的安卓设备上都存在这个名为 “AutoSpill” 的漏洞。甚至，即使禁用了 JavaScript 注入，大多数密码管理器也容易发生凭据泄漏。该团队还在调查该漏洞是否可以在 iOS 上复制。
（插图：DA/d05324b2-2021-40ba-8d03-023261eea4c0）
老王点评：这锅不能是 WebView 一个人背，这些密码管理器也要背。
#3 苹果公司发布了可以发挥苹果芯片特性的机器学习框架
MLX 是一个类似于 NumPy 的阵列框架，旨在苹果处理器上实现高效灵活的机器学习。其目的是为使用苹果硬件的研究人员简化 ML 模型的训练和部署。这不是一个面向消费者的工具；它为开发人员提供了一个构建 ML 模型的强大环境。MLX 增加了对统一内存模型的支持，这意味着数组位于共享内存中，可以在任何支持的设备类型上执行操作，而无需执行数据拷贝。除了 Python API，MLX 还有一个功能齐全的 C++ API。
（插图：DA/c3e61e5a-8725-4938-b44e-075edff5edd1）
老王点评：看来苹果也在 AI 方面做了一些工作。