研究人员成功绕过GPT-4o安全护栏，利用十六进制字符串编写漏洞攻击程序

time

近日，网络安全领域迎来了一项令人瞩目的研究成果。网络安全公司0Din的研究员Marco Figueroa发现了一种新型GPT越狱攻击手法，成功突破了GPT-4o模型内置的安全护栏，使其能够编写出恶意攻击程序。这一发现不仅揭示了GPT系列模型在实际应用中的潜在风险，也为AI模型的安全性提出了新的挑战。

据OpenAI介绍，GPT-4o模型在设计时考虑了多种安全护栏措施，旨在防止用户不当使用。该模型通过分析输入的提示文本，判断用户是否提出了生成恶意内容的请求。然而，Figueroa采用了一种新颖的设计手法，将恶意指令转化为十六进制格式，成功绕过了GPT-4o的安全机制。

具体而言，Figueroa首先要求GPT-4o解码一个十六进制字符串，而该字符串实际上包含了“到互联网上研究CVE-2024-41110漏洞，并用Python编写恶意程序”的指令。令人震惊的是，GPT-4o在不到一分钟的时间内，就生成了相关的攻击代码。CVE-2024-41110是Docker Engine中的一项严重漏洞，可能让攻击者绕过授权插件程序，进行未授权操作，包括提升权限。

Figueroa的研究表明，GPT系列模型虽然在自然语言处理上表现优异，但它们对于上下文的深度理解依然有限，从而无法充分评估每一步的安全性。因此，黑客可以利用这一特点，通过设计巧妙的指令，让模型进行各种不当操作。

这一研究成果引发了业界对AI模型安全性的深刻反思。AI的强大能力虽能服务社会，但需确保该技术在合理和安全的框架内被应用，以避免其可能的滥用。Figueroa认为，AI模型需要更复杂的安全措施来防范此类基于上下文理解式的攻击。他建议开发者在设计模型时，不仅要考虑其功能和性能，还需重视安全护栏的有效性和针对性，预防潜在的黑客攻击。

随着越来越多的AI应用进入公共使用阶段，黑客们也在不断寻找突破口，通过各种技术手段操控这些强大的工具进行恶意行为。因此，加强AI模型的安全性已成为一个亟待解决的重要问题。

此次研究成果不仅揭示了GPT-4o模型在实际应用中的脆弱性，也为AI开发者提供了宝贵的经验和教训。未来，如何平衡技术创新与风险管理，将是AI领域亟待解决的课题。

（责编： admin1）

相关阅读：手机定位