安全研究人员声称已经发现了一种方法来欺骗Slack的AI助手与未经授权的用户共享敏感信息和其他秘密
Slack在全球范围内有超过3500万人使用，在2023年9月推出了自己的人工智能（AI）工具 ，允许用户汇总多个未阅读的消息 ，回答不同的问题，搜索文件等等。
但是，正如我们过去与其他聊天机器人一起观察到的那样 ，通过精心制作的提示（给予人工智能的命令） ，恶意演员可能会迫使该工具从他们＆rsquo中披露敏感数据，而不是其中的一部分 。
你可能喜欢
甚至童话都不是安全的 - 研究人员将就寝时间武器武器化以越狱AI聊天机器人并创建恶意软件
AI代理可以被劫持写和发送网络钓鱼攻击
黑客提供了2000万个OpenAI证书出售 ，但它说没有证据表明违规
“预期行为 ”
安全公司Promptarmor发现了该缺陷并将其报告给Salesforce 。
“我们证明了这种行为将如何允许攻击者驱除开发人员将其放入私人渠道（攻击者无法访问）的API密钥。 ”
攻击围绕着创建公共休闲渠道并输入AI所读的恶意提示。然后 ，它将指示大型语言模型（LLM）通过提供可单击的URL来响应API密钥的查询 。单击URL将将API密钥数据发送到攻击者控制的网站，他们可以在其中拾取它 。
除了API键外 ，Crooks还可以滥用此漏洞 ，也可以将上传到Slack上传到Slack的文件，因为AI也读了这些文件。
你是专业人士吗？订阅我们的新闻通讯
注册techradar Pro新闻通讯 ，以获取您的业务成功所需的所有首选 ，意见，功能和指导！取得成功！请与我联系我们的其他未来品牌的新闻 ，并代表我们值得信赖的合作伙伴或Sponsorsby提交您的信息 ，您同意您同意的条款和隐私政策，并年龄在16岁或超过16岁之间 。
此外，由于AI也读取文件 ，因此黑客甚至不需要成为Slack Workspace的一部分才能窃取秘密 。他们需要做的就是将恶意提示隐藏在文档中 ，并让工作区成员上传（例如，使用社会工程）。
“如果用户下载具有这些恶意说明之一的PDF（例如 ，隐藏在白色文本中） ，然后将其上传到Slack，则可以实现攻击链的下游效果 ，” PromistArmor说 。
拥有懈怠的Salesforce表示 ，它显然已经对该错误进行了修补，公司发言人告诉Techradar Pro：“当我们意识到该报告时 ，我们对所描述的方案进行了调查 ，在非常有限和具体的情况下，在非常有限的情况下 ，具有一个恶意的演员 ，与同一漫长的工作区中的一个恶意演员可以访问某些数据 。向客户数据提供完整的更新。
PromistArmor表示，Salesforce告诉它：“无论是否加入频道，都可以搜索和查看所有工作空间的所有成员的消息并查看公共渠道的消息 。这是预期的行为 。”
通过寄存器
Techradar Pro的更多信息
gatgpt被愚弄生成旧的Windows键 ，说明了Aihere的A列表 ，当今最佳的防火墙软件列表是现在最好的端点安全工具
本文来自作者[猜衡梢]投稿，不代表卓思号立场，如若转载，请注明出处：https://www.nc-sczs.cn/zhishi/202506-3397.html
评论列表（4条）
我是卓思号的签约作者“猜衡梢”！
希望本篇文章《Slack AI可能会被欺骗到泄漏的登录细节等等》能对你有所帮助！
本站[卓思号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 安全研究人员声称已经发现了一种方法来欺骗Slack的AI助手与未经授权的用户共享敏感信息和其他秘密 Slack在全球范围内有超过3500万人使用，在2023年9月...