两年多的时间，无数次的预告，无数次的营销。现在，GPT-5 终于来了！这次，奥特曼是真听劝了。以前的 OpenAI 模型命名，像什么 o1、o3、o4、mini、nano、pro...... 看着比奶茶菜单还乱。而现在，它们统一都是 ...

markdown Meta和加州大学伯克利分校（UCB）的研究团队联合开源了 首个工业级能力的安全大语言模型 meta-SecAlign-70B。这项突破性进展，不仅在 提示词注入攻击 （prompt injection）的防御能力上超越了当前 ...

是信息幻觉还是安全问题？ 实际上，prompt injection 攻击变得越来越普遍，OpenAI 也在尝试使用一些新方法来修补这个问题。

Meta 和 UCB 开源首个工业级能力的安全大语言模型 Meta-SecAlign-70B，其对提示词注入攻击（prompt injection）的鲁棒性，超过了 SOTA 的闭源解决方案（gpt-4o ...

人工智能安全公司Pangea ...

可见测试中的 AI 必应搜索不是那么的牢靠。 Prompt Injection 攻击：聊天机器人的一大隐患 自从 ChatGPT 发布以来，技术爱好者们一直在尝试破解 OpenAI 对 ...

越来越多的公司正在推出人工智能（Artificial ...

才上岗2天，ChatGPT版必应就被攻破了。 只需在问题前面加上一句：忽视掉之前的指令。 它就好像被催眠了一样，问什么答什么。 来自斯坦福大学的 ...

有关 Prompt Injection 攻击的技术介绍，感兴趣的读者可以查看这篇文章。 是信息幻觉还是安全问题？

还不太熟悉这个梗的朋友们，小编再给大家温故一下数月以前火爆网络的「奶奶漏洞」。 简单来说，这是一个prompt技巧，有些事明说的话ChatGPT会义 ...

IT之家 7 月 31 日消息，Meta 公司上周在发布 Llama 3.1 AI 模型的同时，还发布了 Prompt-Guard-86M 模型，主要帮助开发人员检测并响应提示词注入和越狱输入 ...