全部 - 文章 - 奇安信攻防社区

同态加密来袭！Javelin为AI嵌入向量穿上“安全铠甲”

在数字化时代，人工智能（AI）和机器学习（ML）正深刻改变着我们的生活和工作方式。其中，向量嵌入（vector embeddings）作为现代算法的核心概念，正扮演着至关重要的角色。它将抽象数据（如文本、图像或分类标签）转化为数值向量，让机器学习模型能够处理和理解复杂的数据。然而，随着AI的广泛应用，数据安全和隐私保护问题也日益凸显。今天，我们就来聊聊如何用同态加密（Homomorphic Encryption, HE）技术来守护AI嵌入的安全。

0
0
Halo咯咯
发布于 2025-04-18 09:41:05
阅读 ( 1194 )

泛解析字符探索：公网未授权服务的多轮加固绕过实践

面向公网资产多轮加固的业务、异常的业务，通过泛解析字符让服务抛出异常信息回显，定位到无需认证的位置，缩短未授权业务测试的日常时间成本。

6
4
echoa
发布于 2025-04-17 09:40:05
阅读 ( 574 )

RAG架构大揭秘：三种方式让AI回答更精准，更懂你！

在人工智能飞速发展的今天，我们已经习惯了与各种智能系统打交道，从聊天机器人到智能搜索引擎，它们似乎无处不在。但你有没有想过，这些系统是如何真正理解我们的需求，并给出准确回答的呢？今天，就让我们一起深入探索一下前沿的RAG（Retrieval-Augmented Generation，检索增强生成）技术，看看它如何让AI变得更“聪明”。

0
0
Halo咯咯
发布于 2025-04-16 09:47:06
阅读 ( 490 )

我用NodeJS+electron自研了个C2和木马并绕过了360+火绒内存扫描(附源码)

NodeJs可以写后端、electron又可以打包成exe，还可以通过主进程命令执行，那么不就可以自研一个C2了吗？

1
0
小小小小白白
发布于 2025-04-15 09:35:44
阅读 ( 618 )

拆解大模型“越狱”攻击：对抗样本如何撕开AI安全护栏？

本文系统拆解大模型面临的越狱攻击技术，揭示攻击者如何通过巧妙设计突破AI安全限制

2
1
Werqy3
发布于 2025-04-14 10:08:47
阅读 ( 721 )

MCP Server 攻击面初探与思考

从安全角度来看，MCP 增加了更多 AI 安全实践机会，AI 安全再也不是议题中的 ”AI 赋能“，也不再是实验室层面才能进行的理论研究，未来也可能会像 SRC 挖掘那样百花齐放，鉴于 MCP 技术较新且笔者水平有限，有不足和错误之处请师傅们批评斧正

2
3
385
发布于 2025-04-10 10:38:27
阅读 ( 5023 )

浅谈AI部署场景下的web漏洞

总结了一些部署过程中出现可能的漏洞点位，并且分析了对应的攻防思路

1
0
7ech_N3rd
发布于 2025-04-09 17:30:36
阅读 ( 1381 )

面向大模型的生成-利用式越狱攻击

目前做安全大模型或者说做大模型安全，基本都会有必要的两步，分别是对齐以及红队。因为随着大模型在各种应用场景中的广泛使用，越来越多的人开始担忧这些模型可能被滥用，尤其是在传播有害或不道德内容方面。由于这些模型的开放性和广泛的使用群体，它们的潜在风险也变得更加显著。开放源码的语言模型尤其令人担忧，因为其代码和训练数据是公开的，任何人都可以访问、修改甚至恶意利用