Discuz! Board

標題: ChatGPT 插件使您的个人信息面临风险 [打印本頁]

作者: pauljoy345 時間: 2024-1-8 16:43
標題: ChatGPT 插件使您的个人信息面临风险
第三方插件增强了 ChatGPT 的功能。但安全研究人员表示，他们增加了一层额外的风险。一系列打开的门，最后发出明亮的光芒。旨在提高 ChatGPT 功能的第三方插件也违反了模型的安全系统。AKINBOSTANCI/GETTY IMAGES 在过去的八个月里，ChatGPT 以其生成真实的能力给数百万人留下了深刻的印象查看文本，编写从故事到代码的所有内容。但 OpenAI 开发的聊天机器人的功能仍然相对有限。大语言模型（LLM）接收来自用户的“提示”并使用它们生成明显相关的文本。这些答案部分是根据截至 2021 年 9 月从互联网提取的数据创建的，并且不会从网络收集新信息。插件增加了功能，但仅适用于那些付费访问 GPT-4（OpenAI 模型的更新版本）的人。 ChatGPT 插件会威胁用户安全吗？自从 OpenAI 三月份发布 ChatGPT 插件以来，开发人员纷纷创建和发布插件，让聊天机器人能够做比现在更多的事情。现有的扩展允许您搜索航班和计划旅行，并使 ChatGPT 更轻松地阅读和分析网页、文档和视频上的文本。其他人则更具体，承诺能够与特斯拉车主手册聊天或搜索英国政治演讲。目前 ChatGPT 商店中列出了 100 多个页面的插件。但随着这些扩展的激增，安全研究人员强调，这些插件的运行存在一些问题，可能会危及用户数据或被恶意黑客利用。

Johann Rehberger 是一名安全研究员，也是 Electronic Arts 红队的主管，该独立小组通过受控攻击来研究其弱点，他在业余时间一直在记录 ChatGPT 插件的问题。调查结果包括它可能被用来窃取某人的聊天记录、获取个人信息以及在他人的计算机上远程执 电报号码数据 行代码。它主要关注与 OAuth 配合使用的插件，OAuth 是一种用于在在线帐户之间共享数据的网络标准。 Rehberger 表示，他已经就自己的 bug 私下联系了 6 名开发人员，并多次联系过 OpenAI。 “ChatGPT 不能依赖插件，”Rehberger 说。 “你不应该相信返回给你的东西，因为它可能是任何东西。” Rehberger 指出，通过使用插件，恶意网站或文档会尝试对 LLM 执行即时注入攻击，或插入有害文件。据研究人员称，它们也会通过插件交叉请求伪造被盗。网站将包含一个提示注入，该注入将导致 ChatGPT 打开另一个扩展并执行其他操作，他通过概念证明证明了这一点。研究人员将此称为“链接”，即一个插件调用另一个插件来运行。 Rehberger 强调，ChatGPT 插件“不存在真正的安全限制”。

“什么是安全和信任，以及每个利益相关方的具体责任是什么，目前还没有很好的定义。”观看次数最多墨西哥在玛雅火车的路径上发现了近几十年来“最伟大的考古宝藏” 墨西哥在玛雅火车的路径上发现了近几十年来“最伟大的考古宝藏” 作者：安娜·拉各斯毛臂鱼：一条“有手的鱼”被认为已经灭绝的毛臂鱼：一种被认为已经灭绝的“长手鱼”在塔斯马尼亚重新出现智能家居的“Matter”标准是什么智能家居的“Matter”标准是什么作者：SIMON HILL OpenAI 将最终开设其 GPT Store，自定义聊天机器人商店：这是您需要了解的 OpenAI 将最终开放其 GPT 商店，这是您需要了解的自定义聊天机器人商店：这是您需要了解的 BY DIEGO BARBERA 自 3 月份推出以来，ChatGPT 插件一直处于测试阶段，基本上是一个测试版早期实验版本。使用时，系统会警告人们在使用前应确定其用途，并且 ChatGPT 可能需要将您的对话和其他信息发送到插件才能工作。 OpenAI 发言人 Niko Felix 表示，该公司正在努力改进 ChatGPT，以防止导致其系统被滥用的“漏洞”；这些脚本利用漏洞在程序或应用程序中导致意外行为。目前，插件在添加到商店之前会经过审查。该公司在 6 月份的一篇博客文章中表示，它发现研究表明“工具结果中的不可靠数据可能会导致模型执行不需要的操作。

歡迎光臨 Discuz! Board (http://20170906.makebbs.com/)