基于嵌入扰动的大模型白盒越狱攻击

大模型（以下均用LLMs指代）发展迅速，但引发了大家对其潜在滥用的担忧。虽然模型开发者进行了大量安全对齐工作，以防止 LLMs 被用于有害活动，但这些努力可被多种攻击方法破解，典型的就是在社区里多篇文章中一直在强调的越狱攻击。这些攻击方法能找出安全对齐技术的漏洞，促使开发者及时修复，降低 LLMs 带来的安全风险

• 0
• 0
• elwood1916
• 发布于 2025-04-24 09:39:13
• 阅读 ( 1192 )

都2025年了，这十大 LLM 安全工具你该关注了！

在人工智能飞速发展的今天，大型语言模型（LLMs）已经深入到我们生活的方方面面，从智能客服到内容创作，从医疗诊断到金融分析，它们的身影无处不在。然而，随着 LLMs 的广泛应用，其安全性问题也日益凸显。数据泄露、未经授权的访问、模型被恶意操纵……这些风险不仅威胁到企业的正常运营，还可能对用户隐私和社会稳定造成严重影响。今天，就让我们一起走进 LLM 安全的世界，看看那些在 2025年值得关注的安全工具，它们是如何为 LLMs 筑起坚固的安全防线的。

• 3
• 0
• Halo咯咯
• 发布于 2025-04-22 09:44:41
• 阅读 ( 1973 )

【补天白帽黑客城市沙龙-西安站】AIGC安全实践 –– AI Red Teaming

演讲议题：AIGC安全实践 –– AI Red Teaming

• 1
• 0
• 奇安信攻防社区
• 发布于 2025-04-01 15:46:12
• 阅读 ( 1550 )

RAG架构大揭秘：三种方式让AI回答更精准，更懂你！

在人工智能飞速发展的今天，我们已经习惯了与各种智能系统打交道，从聊天机器人到智能搜索引擎，它们似乎无处不在。但你有没有想过，这些系统是如何真正理解我们的需求，并给出准确回答的呢？今天，就让我们一起深入探索一下前沿的RAG（Retrieval-Augmented Generation，检索增强生成）技术，看看它如何让AI变得更“聪明”。

• 0
• 0
• Halo咯咯
• 发布于 2025-04-16 09:47:06
• 阅读 ( 1572 )

浅谈AI部署场景下的web漏洞

总结了一些部署过程中出现可能的漏洞点位，并且分析了对应的攻防思路

• 1
• 0
• 7ech_N3rd
• 发布于 2025-04-09 17:30:36
• 阅读 ( 2618 )