跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

4 条精选近 30 天 3 条共收录 26 条

更新

部署工程的精选

今天10月29日周四第 1–4 条
  1. The Decoder78

    Google 在 Android Dev Summit 开放 Android Studio 第三方 AI 智能体接入并发布新 Gemini API

    Google 在 Android Dev Summit 上发布 Android Studio Rabbit 2,通过开源 Agent Client Protocol 支持在 IDE 内运行 40 多个编码智能体,包括 Claude、Codex 和 Google Antigravity。

    推荐理由:Android Studio 开放第三方智能体接入,并给出终端工具与 MCP 接口的具体做法,可观察移动开发工作流的变化。

10月16日周五
  1. Microsoft Research62

    微软研究院推出基于证明的通用计算系统 Magnetar

    微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序执行过程,并返回可在约 12 毫秒内验证的简短证明。在 15 个基准程序上,它比同机最快的现有 zkVM 平均快 10 到 39 倍,在笔记本上每秒可证明 7.2 至 8.7 百万条 RISC-V 指令。

    推荐理由:微软研究院把十余年零知识证明研究整合为 Magnetar,读者可了解通用程序证明在速度与密码学假设上的取舍。

10月8日周四
  1. Microsoft Research75

    微软研究院开源 Agent Lightning v1.0:约 3500 行的轻量智能体 RL 框架

    微软研究院开源 Agent Lightning v1.0,这是一个约 3500 行代码的轻量智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与训练,无需在训练框架内重写智能体。

    推荐理由:微软研究院开源约 3500 行的智能体强化学习框架,让部署时的 harness 直接参与训练,并给出可复现的编码智能体训练结果。

7月29日周三
  1. Berkeley AI Research62

    从 CUDA 到 MLX:K-Search 如何把内核优化经验迁移到 Apple Silicon

    Berkeley Sky Lab 与 IBM Research 将 K-Search 内核搜索框架扩展到 MLX 后端,并加入结构化 CUDA-to-MLX 翻译层,让已有 CUDA 内核作为知识库迁移到 Apple Silicon。

    推荐理由:原文给出注意力与 Mamba 两个内核的实测数字,并拆出翻译层带来的增益,可据此判断跨平台内核迁移的可行边界。