多向量模型与量化推理成今日焦点

2026年9月1日 · LLM 整理

多向量模型与量化推理成今日焦点

今日资讯覆盖模型训练、量化压缩、推理加速与智能体研究。Hugging Face 发布多向量嵌入模型训练指南及 Granite 4.2 构建解析，量化感知修复实现 4-bit 模型超越全精度原版。arXiv 论文聚焦 LLM 评估、量化后门、推理加速与科学发现智能体，Google 则展示多项搜索与 Gemini 产品更新。

1. 研究 · arXiv cs.LG

   研究揭示量化触发语言模型后门及跨量化器迁移性

   这是一篇关于语言模型量化触发后门攻击的研究论文。

   站内阅读

2. 研究 · arXiv cs.CL

   基于向量索引的输出嵌入加速 LLM 推理

   这是一篇提出用向量索引替代稠密输出投影以加速大语言模型推理的研究。

   站内阅读

3. 研究 · arXiv cs.AI

   科学智能体用于未知空间系数场 PDE 发现

   这是一篇提出科学智能体框架HER-PDE用于异质介质偏微分方程发现的研究。

   站内阅读

4. 研究 · arXiv cs.AI

   用 Rasch 测量理论评估 LLM 评分可靠性

   这是一篇将Rasch测量理论应用于大语言模型评估的研究。

   站内阅读

5. 研究 · arXiv cs.LG

   DAMP：衰减感知混合精度循环状态量化

   这是一篇提出DAMP混合精度量化方法用于循环状态压缩的研究。

   站内阅读