markdown Meta和加州大学伯克利分校（UCB）的研究团队联合开源了 首个工业级能力的安全大语言模型 meta-SecAlign-70B。这项突破性进展，不仅在 提示词注入攻击 （prompt injection）的防御能力上超越了当前 ...

两年多的时间，无数次的预告，无数次的营销。现在，GPT-5 终于来了！这次，奥特曼是真听劝了。以前的 OpenAI 模型命名，像什么 o1、o3、o4、mini、nano、pro...... 看着比奶茶菜单还乱。而现在，它们统一都是 ...

是信息幻觉还是安全问题？ 实际上，prompt injection 攻击变得越来越普遍，OpenAI 也在尝试使用一些新方法来修补这个问题。

Meta 和 UCB 开源首个工业级能力的安全大语言模型 Meta-SecAlign-70B，其对提示词注入攻击（prompt injection）的鲁棒性，超过了 SOTA 的闭源解决方案（gpt-4o ...

近日，广受欢迎的 AI 编程工具 Cursor 发布了 1.3 版本，修复了一个高危安全漏洞（CVE-2025-54135），漏洞代号“CurXecute”，CVSS 评分8.6。 研究人员指出，攻击者只需借助一条精心构造的提示（Prompt Injection），便可远程执行任意系统命令，控制用户本地环境，造成数据窃取、勒索软件感染、凭据泄露，甚至操控 AI 模型行为。

可见测试中的 AI 必应搜索不是那么的牢靠。 Prompt Injection 攻击：聊天机器人的一大隐患 自从 ChatGPT 发布以来，技术爱好者们一直在尝试破解 OpenAI 对 ...

人工智能安全公司Pangea ...

越来越多的公司正在推出人工智能（Artificial ...

才上岗2天，ChatGPT版必应就被攻破了。 只需在问题前面加上一句：忽视掉之前的指令。 它就好像被催眠了一样，问什么答什么。 来自斯坦福大学的 ...

有关 Prompt Injection 攻击的技术介绍，感兴趣的读者可以查看这篇文章。 是信息幻觉还是安全问题？

还不太熟悉这个梗的朋友们，小编再给大家温故一下数月以前火爆网络的「奶奶漏洞」。 简单来说，这是一个prompt技巧，有些事明说的话ChatGPT会义 ...