开源模型与推理效率成今日焦点

2026年8月19日 · LLM 整理

开源模型与推理效率成今日焦点

今日资讯聚焦开源模型生态、推理效率与智能体工程。Hugging Face 发布多向量嵌入、开源模型观察及 ICML 复现研究；多篇论文探讨语言模型推理、编码智能体与高效训练；Google 展示医疗 AI 与表格智能新进展。

1. 模型 · Hugging Face

   Hugging Face 推出多向量嵌入模型支持

   本文介绍 Sentence Transformers v6.0 新增的 MultiVectorEncoder 模型类型，支持 ColBERT 风…

   站内阅读

2. 模型 · arXiv cs.CL

   BCMT：块状因果记忆 Transformer

   本文提出 BCMT（块状因果记忆 Transformer）架构，用于长上下文语言建模。

   站内阅读

3. 研究 · arXiv cs.LG

   无需跨层反向传播的前向域适应

   本文提出仅前向传播的域适应方法FPO，无需跨层反向传播即可适配大语言模型。

   站内阅读

4. 工程 · arXiv cs.LG

   DumpsterCluster：用 60 美元 GPU 服务 LLaMA-70B

   本文介绍用二手GPU搭建的128卡DumpsterCluster，以2.2万美元成本运行LLaMA-70B推理一年。

   站内阅读