跳到正文

技术方向

安全对齐 最新动态

让 AI 可控、可信、不被滥用:越狱与防御、模型行为研究、安全评测与治理框架。

6 条精选近 30 天 6 条共收录 27 条

更新

安全对齐的精选

10月20日周二第 1–6 条
10月14日周三
  1. Google DeepMind

    Google DeepMind 开始广泛开放 Gemini 4 Argon 并公布安全防护方案

    Google DeepMind 开始广泛开放 Gemini 4 Argon,并同步扩大 Fairwind Program 的可信网络安全防御者范围。此前在受限访问期间,Wiz 用 Argon 发现医院软件中前代模型遗漏的关键漏洞;在模拟网络攻击场景中 Argon 完成全部 12 个,前代为 5 个。

    推荐理由:原文公开了 Argon 在网络安全与生物风险上的防护分层和误用监测数据,可用于判断前沿模型的部署门槛。

  2. Google DeepMind

    Google DeepMind 发布 Gemini 4 Argon 模型

    Google DeepMind 发布 Gemini 4 Argon,面向开发者、企业和科研人员开放,API 定价为每百万输入 token 2 美元、每百万输出 token 10 美元,缓存输入 token 享 95% 折扣。

    推荐理由:官方给出定价、渠道与多领域落地案例,可据此判断这一前沿模型在编码和专业工作流中的实际位置。

10月8日周四
  1. GitHub Blog · AI & ML

    GitHub 将 ModernBERT 分类器引入推送保护,拦截非结构化密钥

    GitHub 宣布用与 Microsoft Applied Sciences 共建的 ModernBERT 微调分类器扩展推送保护,可识别数据库密码等非结构化密钥,候选批量评估耗时不到 2 毫秒。

    推荐理由:GitHub 用九个季度的数据说明泄露风险随代码量上升,并给出把密钥拦截从事后补救前移到推送环节的思路。

10月1日周四
  1. Google DeepMind

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,之后再逐步扩展到开发者、企业和消费者。

    推荐理由:官方公布了 Argon 的输出上限、定价和多项基准成绩,可据此判断其长任务能力与成本位置。

9月30日周三