CoT压缩

多模态大模型在依靠CoT推理时，文本冗长极易增加硬件解码延迟。为此，浙大等提出Heima推理框架，将复杂的显式步骤压缩成少数隐式思考Token。实测表明，该方案成功在隐空间实现极速探索，不仅免去了海量...