跳到正文
只看一手#安全/对齐
10月15日周四
10月14日周三
  1. AWS Machine Learning Blog22

    Tamnoon 如何用 Amazon Bedrock 构建 AI 云安全修复平台 Tami

    Tamnoon 基于 Amazon Bedrock 构建了智能体式云修复编排器 Tami，可自主调查 CNAPP 等来源的安全发现并评估修复安全性，再生成带护栏和回滚指引的修复方案。该方案在 90 天内将关键云暴露减少超过 90%，且未出现生产事故。Tami 由调查、安全评分、修复、代码生成四个专用智能体组成，通过单一 API 按任务调用不同基础模型。

  3. Google DeepMind78

    Google DeepMind 发布 Gemini 4 Argon 并公布安全与防护报告

    Google DeepMind 开始广泛推送 Gemini 4 Argon，并同步发布安全与安全报告及模型卡。该模型在网络安全测试中解决了全部 12 个端到端模拟攻击场景，上一代为 5 个；在 Gray Swan 的间接提示注入基准上，15 次自适应攻击的成功率降至 0.7%。防护上采用输入筛查、激活探针内部监测和持续监控三层实时保护，并部署自动失准监控读取智能体动作与思维链。

    推荐理由：官方披露 Gemini 4 Argon 在网络安全与生物风险上的防护设计，可了解前沿模型安全护栏的具体做法。

10月8日周四
  1. GitHub Blog · AI & ML62

    GitHub 推出基于 ModernBERT 的通用密钥检测模型

    GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器，用代码上下文识别无固定格式的密钥，可在 2 毫秒内评估一批候选密钥，据称能把可拦截的密钥数量提升一倍以上。

    推荐理由：原文给出九季度泄露数据与推送前拦截的延迟、成本约束，可据此判断密钥防护为何要交给平台而非开发者。

10月6日周二
10月2日周五
  1. Google Research60

    Google 发布基于 TEE 的联邦学习系统，Gboard 已采用

    Google 宣布下一代联邦学习系统，利用可信执行环境（TEE）为数据匿名化提供可验证、可审计的保证，Gboard 已采用该系统并上线英语和日语下一词预测模型。

    推荐理由：Google 公布基于 TEE 的新一代联邦学习系统设计，并给出 Gboard 已上线的实际效果，可了解隐私可验证训练的一种工程路径。

9月30日周三
  1. Google DeepMind66

    Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入可验证水印

    Google DeepMind 发布 SynthID Bio，将水印技术引入合成生物学，把不可感知的签名直接嵌入生物代码，在数字模型和合成出的实体蛋白质上均可验证，同时保持其生物功能。

    推荐理由：原文给出了水印嵌入方式与湿实验验证结果，读者可据此判断生物设计溯源这一新方向的技术路径。

9月25日周五
  1. GitHub Blog · AI & ML66

    GitHub Security Lab 发布 Fuzzing Taskflow 智能体，自动为 C/C++ 项目生成模糊测试

    GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告、改进 harness、对崩溃去重并生成漏洞报告。

    推荐理由：原文完整披露了自主模糊测试流水线的分层架构与覆盖反馈循环，可据此评估把重复安全测试交给 LLM 智能体的边界。