OpenAI 官宣收编 Promptfoo，誓要补上最后一块短板
在 AI 飞速进化的2026年，如何防止大模型“胡言乱语”或被恶意引导，已成为大厂们的头等大事。当地时间3月9日，OpenAI正式对外宣布，将收购顶尖的人工智能安全平台Promptfoo。这笔交易释放...
排序
瞄准龙虾安全问题，OpenAI收购AI安全初创公司Promptfoo
在人工智能领域，OpenAI 又一次出手了，这次它的目光锁定了一家名为 Promptfoo 的初创公司。Promptfoo 成立于2024年，拥有一个仅23人的团队，但在短短两年内，其估值已经飙升至8...
未雨绸缪：Anthropic 成立官方智库，应对 AGI 时代的社会冲击
随着人工智能进化速度远超行业预期，AI 安全领域的先驱于美国当地时间 11 日正式宣布成立 Anthropic Institute 智库。这一组织的使命并非研发更强大的模型，而是专门研究并应对“强大 ...
马斯克出庭狠批OpenAI：ChatGPT或导致用户自杀，xAI更注重安全！
在近日对 OpenAI 的一起诉讼中，埃隆・马斯克在法庭上发表了强烈的意见，毫不留情地指责 OpenAI 在安全方面的失误。他声称自己创办的 xAI 在 AI 安全性方面做得更好，并表示：“没有人因为...
马斯克出庭猛烈抨击 OpenAI：称“没人因为 Grok 自杀”
在针对 OpenAI 的一起诉讼中，埃隆·马斯克在最新公开的庭审证词中对 OpenAI 的安全记录进行了严厉批评。他宣称自己旗下的 xAI 公司在安全性方面更为重视，并放出狠话：“没有人因为 Grok...
营收三年翻三倍：AI 社交平台 CHAI 估值突破 14 亿美元，加码自杀干预安全系统
在生成式 AI 社交赛道，初创公司 CHAI 正在交出一份惊人的成绩单。该公司在过去三年中保持了每年 3 倍的爆发式增长，目前年度经常性收入（ARR）已攀升至 6800 万美元，公司估值正式突破 14...
OpenAI 删除 AI 安全造福人类核心承诺
OpenAI 被曝出删除其使命宣言中 “AI 安全造福人类、不受营利需求约束” 的核心承诺，复刻了谷歌 “不作恶” 承诺被删的形象崩塌，与其创立之初研发非营利性、造福人类的通用人工智能（AGI）的初衷...
封堵提示注入漏洞！OpenAI 为 ChatGPT 新增两大高级安全防护措施
OpenAI 发布公告为 ChatGPT 新增两项高级安全防护措施，用以应对 AI 系统在对接网页、外部应用场景中日益凸显的提示注入攻击风险，该类攻击会被第三方利用诱导 AI 执行恶意指令或泄露敏感信...
红帽收购 AI 公司 Chatterbox Labs 强化企业级 AI 安全能力
红帽（Red Hat）近期宣布收购了一家名为 Chatterbox Labs 的人工智能公司，此次收购是为了进一步增强其在企业级 AI 领域的布局。Chatterbox Labs 成立于2011年，专...
谷歌 DeepMind 发布 Gemma Scope 2：为 Gemma 3 模型提供全栈可解释性工具
谷歌 DeepMind 的研究团队近日推出了 Gemma Scope2，这是一个开放的可解释性工具套件，旨在深入了解 Gemma3语言模型在各层次上的信息处理和表现，涵盖从2.7亿到270亿参数的模型...