0推荐

238浏览

基于条件干预的大模型推理时防御

之前很多研究工作已经表明，大语言模型（LLMs）的一个显著特点是它们能够通过激活中的丰富表示来处理高级概念。这一特性也使得在去年NeurIPS（人工智能顶会）上出现了很多与激活引导（activation steering）等技术的有关的工作

• 0
• elwood1916 发布于 3天前

1推荐

411浏览

大模型应用提示词重构攻击

前言 用大模型LLM做安全业务的师傅们一定知道，提示词对于大模型在下游任务的表现的影响是很重要的。 因为大模型本质上是条件概率建模器，其输出严格依赖于输入上下文。在无监督预训练之后，这...

• 0
• elwood1916 发布于 5天前

0推荐

516浏览

基于注意力操纵的AIGC版权风险规避技术

扩散模型的背后一个很核心的风险就是未授权数据集使用的问题。当然，这种侵权分为两种，一种是使用文生图模型得到的图像，其版权归属问题，比如之前的新闻提到，北京互联网法院全国首例“AI文生图”著作权侵权案获最高法院“两会”工作报告关注

• 1
• elwood1916 发布于 2025-05-26 09:00

0推荐

1109浏览

langflow: AI产品AST代码解析执行产生的RCE

本文主要是对langflow这一AI产品进行了漏洞分析，同时通过阅读官方文档的方式对漏洞的利用方式进行了进一步的扩展利用，剖析在AST解析执行的过程中因为`decorator`或者参数注入的方式导致的RCE漏洞的姿势，后续也将其添加到codeql规则中，进行AI产品代码的批量检测与漏洞挖掘

• 1
• leeh 发布于 2025-05-22 09:00

0推荐

964浏览

基于概念擦除的AIGC防侵权技术

最近的文生图模型因为卓越的图像质量和看似无限的生成能力而受到关注。最近出圈，可能是因为openai的模型可以将大家的图像转变为吉卜力风格。

• 0
• elwood1916 发布于 2025-05-12 10:14

0推荐

861浏览

基于影子栈的大模型系统防御技术

在传统系统安全中有一个典型的技术—影子栈（shadow stacks），它可以防御内存溢出攻击。那么类似于影子栈创建一个影子内存空间，如果可以正常栈中建立与目标LLM实例（LLMtarget）并行的影子LLM防御实例（LLMdefense），那理论上就是可以实现防御的

• 0
• elwood1916 发布于 2025-05-09 09:40

0推荐

13512浏览

基于微调CLIP的多模态大模型安全防御

大模型在各种任务上都有广泛的应用，但是从其本质来说，扩大模型规模意味着需要增加训练数据的数量和多样性，这就需要从网络上抓取数十亿条数据，这个过程是无需人工监督的。 那么这也就会带来隐患，因为其中可能会有很多不适当的、有害的内容。 尽管现在模型的开发者普遍采用了过滤器和自动检查，但这种做法仍然会引入一些不适当的内容，最终导致模型产生不安全、有偏见或有毒的行为。

• 0
• elwood1916 发布于 2025-04-29 09:00

0推荐

1253浏览

vulnhuntr: LLM与SAST结合的AI产品漏洞自动化挖掘

通过结合静态代码分析和大语言模型（LLM）的方式来批量检测AI产品中的潜在漏洞

• 1
• leeh 发布于 2025-04-27 09:43

0推荐

1037浏览

基于嵌入扰动的大模型白盒越狱攻击

大模型（以下均用LLMs指代）发展迅速，但引发了大家对其潜在滥用的担忧。虽然模型开发者进行了大量安全对齐工作，以防止 LLMs 被用于有害活动，但这些努力可被多种攻击方法破解，典型的就是在社区里多篇文章中一直在强调的越狱攻击。这些攻击方法能找出安全对齐技术的漏洞，促使开发者及时修复，降低 LLMs 带来的安全风险

• 0
• elwood1916 发布于 2025-04-24 09:39

0推荐

2434浏览

浅谈AI部署场景下的web漏洞

总结了一些部署过程中出现可能的漏洞点位，并且分析了对应的攻防思路

• 1
• 7ech_N3rd 发布于 2025-04-09 17:30

0推荐

21804浏览

面向大模型的生成-利用式越狱攻击

目前做安全大模型或者说做大模型安全，基本都会有必要的两步，分别是对齐以及红队。 因为随着大模型在各种应用场景中的广泛使用，越来越多的人开始担忧这些模型可能被滥用，尤其是在传播有害或不道德内容方面。由于这些模型的开放性和广泛的使用群体，它们的潜在风险也变得更加显著。开放源码的语言模型尤其令人担忧，因为其代码和训练数据是公开的，任何人都可以访问、修改甚至恶意利用

• 0
• elwood1916 发布于 2025-04-07 10:00

0推荐

1717浏览

Pydash set方法原型链污染漏洞分析：以Bottle框架环境变量泄露为例

NCTF遇到了一道pydash题目，似乎与SUCTF2025出的一道SU_blog都是这个知识点，遂想基于这道题分析一下链子。其实还可以结合idekctf那道题

• 0
• 梦洛 发布于 2025-04-02 09:46

1推荐

25855浏览

CVE-2024-25600 WordPress Bricks Builder远程代码执行漏洞分析

前言 朋友圈看到有人转发了一篇“CVE-2024-25600：WordPress Bricks Builder RCE”，感觉挺有意思，点进去看了下，可是从头到尾看得我有点迷糊，本着打破砂锅问到底的原则，本文试图以漏洞挖掘者...

• 0
• ybdt 发布于 2025-03-26 09:35

2推荐

28397浏览

【病毒分析】“美杜莎”勒索家族：从入侵到结束的全流程深度解析

1.背景 1.1 家族介绍 Medusa家族是一种主要针对基于Windows环境的勒索软件即服务（RaaS），自2021年6月起活跃。该勒索软件在2023年初因其活动升级而广为人知，特别是与其专用泄露网站Medusa Blo...

• 0
• solar专业应急响应团队 发布于 2025-03-19 09:30

13推荐

29587浏览

一次奇妙的降价支付逻辑漏洞挖掘之旅

字字经典，本文以上帝视角，带你洞察整个主流支付功能背后的逻辑，之后再轻挥衣袖，实现降价支付！

• 6
• 新人小安 发布于 2025-03-17 09:00