全部 - 推荐的文章 - 第55页 - 奇安信攻防社区

大模型安全：平滑方法防御越狱攻击

我们在本次文章中学习一种平滑防御方法。这个方法基于一个直觉，即，对抗性生成的提示对字符级变化非常敏感，所以在防御时可以首先随机扰动给定输入提示的多个副本，然后聚合相应的预测以检测对抗性输入。

0
0
elwood1916
发布于 2024-07-10 10:15:38
阅读 ( 2126 )

UI for Apache Kafka 两个远程代码执行漏洞分析

UI for Apache Kafka 是 Provectus 开源的针对 Apache Kafka 的一款管理界面。kafka-ui 0.4.0版本至0.7.1版本存在安全漏洞，第一个漏洞可执行任意的 Groovy 脚本，第二个漏洞可通过滥用 Kafka UI 连接到恶意 JMX 服务器来利用，从而通过不安全的反序列化导致 RCE。UI for Apache Kafka 默认情况下没有开启认证授权。

0
0
Stree
发布于 2024-07-02 10:09:14
阅读 ( 32618 )

CVE-2024-25065 分析：Apache OFBiz 身份验证绕过

CVE-2024-25065 是一个存在于 Apache OFBiz 在版本 18.12.12 之前的漏洞。这是一种路径遍历漏洞，允许通过 hasBasePermission()方法中的 contextPath 变量进行身份验证绕过。

0
0
csallin
发布于 2024-07-09 10:00:01
阅读 ( 32897 )

新的 Diamorphine rootkit 变体在野外被发现

恶意软件中的代码重用现象非常普遍，尤其是对于那些开发难度大或难以用完全不同的代码实现的恶意软件组件。通过监控源代码和编译后的代码，我们能够有效地发现新型恶意软件并追踪野外环境中现存恶意软件的演变情况。

1
0
csallin
发布于 2024-07-05 09:00:02
阅读 ( 2032 )

SCRIPTBLOCK Smuggling：伪装 PowerShell 安全日志并绕过 AMSI 防护，无需使用REFLECTION和PATCHING

近年来，PowerShell在安全渗透测试者、攻击模拟团队以及一定程度的网络高级持续性威胁行为者中的使用率有所下降。这背后有多种原因，但主要是由于PowerShell v5版本和AMSI（反恶意软件扫描接口）引入了PowerShell的安全日志功能。

0
0
csallin
发布于 2024-07-04 09:37:28
阅读 ( 1936 )

AI风控之生成图像鉴伪实战

本文将会分享如何对AI生成的图像进行有效的方法。这种场景在宏大的场合，也被称之为AI鉴伪，即判断多媒体内容如何是否是由AI生成的虚假图像。

1
0
elwood1916
发布于 2024-07-08 09:48:33
阅读 ( 2120 )

漏洞挖掘之再探某园区系统

上次提到还有一处可能存在任意用户登录的点，最近没什么研究就写一下，顺便看看还有其他漏洞不

0
0
中铁13层打工人
发布于 2024-06-28 10:50:20
阅读 ( 34474 )

排版图像越狱多模态大模型

OpenAI几年前的研究发现了“文字排版攻击”。通过利用模型对文本的鲁棒阅读能力，我们会发现即使是手写文本的照片也经常能欺骗模型。那么我们是否可以用这种技术去攻击如今的多模态大模型呢？

1
0
elwood1916
发布于 2024-07-19 09:00:01
阅读 ( 2178 )

基于安全解码防御越狱攻击

在这篇文章中，我们现在来分析并复现发表在2024年AI顶会ACL上的工作，其通过设计一种针对大型语言模型（LLMs）的安全意识解码策略，防御针对LLMs的越狱攻击。

0
0
elwood1916
发布于 2024-06-14 10:00:01
阅读 ( 2160 )

利用few-shot方法越狱大模型

之前在社区发的几篇稿子都是利用一些优化方法来越狱大模型，今天我们来看看如何利用简单的few-shot示例来越狱大模型。

0
0
elwood1916
发布于 2024-06-24 10:00:00
阅读 ( 2368 )

恶意人工智能模型的风险：Wiz Research 发现人工智能即服务提供商 Replicate 存在严重漏洞

Wiz Research 发现了可能导致数百万个私人人工智能模型和应用程序泄露的关键漏洞。

0
0
csallin
发布于 2024-06-13 10:00:00
阅读 ( 28245 )

代码艺术：浅析GDB注入魔法

概述 GNU调试器（GDB，GNU Debugger）是一个开源的、强大的调试工具，被广泛应用于类Unix的操作系统。GDB的主要功能之一是允许开发者在程序运行时观察和控制程序的执行流程。通过GDB，开发者可...

0
0
十一
发布于 2024-06-11 09:46:31
阅读 ( 2085 )

利用memfd_create实现无文件攻击

当下无文件（fileless）攻击已经越来越流行，由于其无文件执行比较隐蔽和难检测，广受攻击者的喜欢，该植入后门的过程不涉及新文件写入磁盘，也没有修改已有文件，因此可以绕过绝大部分安全软件。另外许多Linux系统会自带各种调试工具、解释程序、编译器和程序库，这些都可以帮助攻击者实现无文件技术隐蔽执行。然而，无文件执行也有一些缺点，就是重启后自动消失，因此需要考虑其他持久化的方式。本文介绍一种利用memfd_create实现无文件攻击的思路。