跳到正文
原文
HuggingFace Daily Papers(社区热门论文)·· 2026-09-02AI 评分45

Declarative Attention 论文提出语言模型可自主控制自身注意力

Language Models Can Control Their Own Attention

AI 导读

论文提出 Declarative Attention(DA)协议,让模型在链式思考中声明需要关注哪些上下文区域,推理引擎据此解析声明并跳过大部分 KV cache 读取,避免每步 O(N) 的外部打分开销。

整理与数据来源:AIHOT

来源:HuggingFace Daily Papers(社区热门论文) · arxiv.org