LOUIS' BLOG

本篇博文主要展示每日从Arxiv论文网站获取的最新论文列表，以自然语言处理、信息检索、计算机视觉等类目进行划分。 统计 今日共更新641篇论文，其中： 自然语言处理89篇 信息检索10篇 计算机视觉150篇 自然语言处理 1. 【2604.02324】Grounded Token Initialization for New Vocabulary in LMs for Generative Recommendation 链接：https://arxiv.org/abs/2604.02324 作者：Daiwei Chen,Zhoutong Fu,Chengming Jiang,Haichao Zhang,Ran Zhou,Tan Wang,Chunnan Yao,Guoyao Li,Rui Cai,Yihan Cao,Ruijie Jiang,Fedor Borisyuk,Jianqiang Shen,Jingwei Wu,Ramya Korlakai Vinayak 类目：Computation and Language (cs.CL); Artificial I ...

TL;DR 代码能精确记录 “发生了什么”，却无法保留 “为什么这么做”。缺乏结构化上下文的项目会陷入"慢性失忆"，导致协作成本攀升、AI 输出不可靠。 Docs-First（以文档为中心） 范式通过将目标、约束、决策与状态沉淀为单一事实源，并建立「背景 → 分析 → 决策 → 实施 → 回写」的自更新闭环，让项目拥有可追溯、可演进的"记忆"。这不仅是工程习惯的升级，更是 AI 从"被动辅助"进化为可靠 Agent 的必要基础设施。最终，研发范式将从依赖个体记忆，彻底转向依赖系统状态。 在很长一段时间里，软件工程几乎默认了一个前提，代码是项目最核心的资产。我们通过代码来理解系统、评估复杂度、讨论架构，甚至潜意识里认为——只要读懂代码，就等于读懂了项目。但越来越多的实践表明，即使模型能力已经足够强，如果项目本身缺乏清晰、稳定、可追溯的上下文，AI 的表现依然不可靠。随着项目复杂度上升，这种不可靠甚至会被放大。问题不在于 AI 不够聪明，而在于它缺少一个可以持续依赖的 “项目记忆”。这正是"Docs-First（以文 ...

目录 2026-04-01 2026-04-01 概览 本期报告共整合 3 个数据源的热点分析： 数据源 分析项目数 分析时间 GitHub 开源热点 20 2026-04-01 02:56 HackerNews 技术热点 20 2026-04-01 02:57 HuggingFace 论文热点 20 2026-04-01 02:55 GitHub 开源热点 1. 开源趋势洞察 2026年第一季度末的GitHub热度数据揭示出一个清晰且深刻的结构性转变：“Claude Code”已不再仅是一个模型或产品名称，而演变为一种新型AI开发范式的代名词。多个高增长项目（如 claude-code、everything-claude-code、gstack、claude-howto）围绕其构建工具链、技能框架与工程方法论，形成类似“React 生态”级别的开发者共识。 更值得关注的是，“智能体即基础设施”（Agent-as-Infrastructure）正在成为主流实践。无论是 superpowers 提出的“agentic skills framework”， ...

TL;DR Agent Harness 是围绕大模型构建的运行时基础设施，负责管理 Agent 的生命周期、上下文状态、工具调用链路与执行安全。本文以 Claude Code 为范本，拆解其七个核心工程机制：执行循环（感知—推理—行动—观测的 while 闭环）、原子化工具集（bash/文件操作按需组合）、动态技能加载（目录常驻+内容按需注入）、三层上下文压缩（微观清理→阈值重置→模型主动压缩）、Human-in-the-loop 审批（高风险操作前插入人工确认节点）、任务编排（会话内 todo 列表 + 跨会话带依赖图的持久化任务系统），以及多智能体协作（一次性 Subagent 上下文隔离 + 持久化 Agent Teams 邮箱通信）。这些机制共同解决了 Agent 工程化落地中最核心的几个问题：任务不丢失、上下文不爆炸、执行可审计、复杂任务可拆解、多 Agent 可协同。 本文所涉及的代码示例全部来自 shareAI-lab/learn-claude-code 仓库，一个按难度递进展示 Agent Harness 核心机制的教学项目。 从工作流到 Harness Engin ...

引言 大型语言模型（LLM）的强化学习训练流程往往涉及复杂的分布式采样、大规模策略网络和高维奖励建模，初学者很容易迷失在工程细节中。为了剥离这些干扰，本文借助 OpenAI Gym 中经典的 Frozen Lake（冰湖） 环境，结合一份精简但功能完整的代码实现，深入剖析两种主流策略优化算法：PPO（Proximal Policy Optimization） 和 GRPO（Group Relative Policy Optimization）。我们将聚焦于它们的核心——优势函数（Advantage Estimation） 的构建逻辑，并解释其背后的动机与数学形式。 Frozen Lake 环境简介 Frozen Lake 是一个网格世界（Grid World）任务： 状态空间：智能体位于 N times N 网格中的某个格子，用整数索引表示（如 0 到 N^2 - 1）。 动作空间：上下左右四个方向移动（离散动作，共 4 个）。 地图元素： S：起点（Start） F：安全冰面（Frozen） H：冰窟（Hole），掉入即失败，奖励为 0 G：目标（Goal），到达即成功，奖励为 ...

TL;DR 多臂老虎机问题是在有限尝试次数下，通过平衡探索（尝试未知选项）与利用（选择当前最优选项），最大化总奖励的经典决策问题。 UCB1（Upper Confidence Bound 1） 基于置信上界，对每个臂的估计奖励加上一个“不确定性”项，偏向乐观选择；理论保证强，但探索略显保守。 汤普森采样（Thompson Sampling）采用贝叶斯方法，从每个臂的后验分布中采样并选择最大者，实现“按需探索”，自适应性强。 在实验中（4臂、5000步、最优臂 p=0.637）： 汤普森采样的总悔憾仅15.6，远低于UCB1的59.8； 更快锁定最优臂（<500步 vs. ~1000步）； 非最优臂尝试次数更少（32次 vs. 123次）。 汤普森采样在实际应用中通常更高效、更智能，是工业界首选；UCB1则胜在理论清晰，适合分析场景。 什么是多臂老虎机问题？ 有一排老虎机，每一台机器（称为一个“臂”）拉一次会以某个未知概率吐出硬币（奖励为 1），否则什么也没有（奖励为 0）。你的目标是在有限次数（比如 5000 次）内，尽可能多地获得硬币。 多臂老虎机问题 有 KKK ...

TODO: 结合RL原理、图示、代码，对PPO计算流程加以说明 ϕ=arg max⁡ϕEs∼p(s;ϕ)12min⁡(∣∣rt+γVπ(st+1)−V~π(st)∣∣22‾,∣∣rt+γVπ(st+1)−clip(V~π(st),Vminπ,Vmaxπ)∣∣22‾)\phi = \argmax_{\phi} E_{s \sim p(s;\phi)} \frac{1}{2} \min \left( \underline{ || r_t + \gamma V^{\pi}(s_{t+1}) - \tilde{V}^{\pi}(s_t) ||_2^2 }, \underline{ || r_t + \gamma V^{\pi}(s_{t+1}) - \text{clip}( \tilde{V}^{\pi}(s_t), V^{\pi}_{min}, V^{\pi}_{max} ) ||_2^2 } \right) ϕ=ϕargmax​Es∼p(s;ϕ)​21​min(∣∣rt​+γVπ(st+1​)−V~π(st​) ...

封面图来自 Stable Diffusion with 🧨 Diffusers

TL;DR Transformer模型为了处理序列的位置信息，引入了位置编码(Position Embedding, PE)。常见的位置编码方案有绝对位置编码(Absolute Position Embedding)、相对位置编码(Relative Position Embedding)和旋转位置编码(Rotary Position Embedding, RoPE)。 绝对位置编码：使用三角函数式位置编码，如Sinusoidal APE，将位置信息累加到输入序列的元素向量中，有助于模型感知输入的顺序。 相对位置编码：不为每个元素引入特定的位置表征，而是关注元素之间的相对位置关系。在NeZha、DeBERTa等模型中使用，有更强的长距离依赖建模能力。 旋转位置编码：是在绝对位置编码的基础上引入的一种改进，采用了“绝对位置编码方式实现的相对位置编码”，在实验中表现出更好的性能。 针对模型处理长文本的问题，提出了几种长度外推方法： 线性内插（Linear Interpolation）：通过减小位置精度，使得可表示范围内容纳更多位置，但可能需要进一步预训练适配。 NTK-Scaling ...

TL;DR GPT和PaLM等大型语言模型（LLM）能准确地理解自然语言指令并生成准确、富有创意的文本响应，可以作为编程助手、通用聊天机器人等新型应用的强力底座。但这些强大的模型依赖庞大的计算和高昂的运行成本，实际部署时对请求并发量和资源利用效率提出了关键性的挑战。伯克利大学研究人员受虚拟内存系统中分页（paging）技术启发，设计了PagedAttention，通过对显存的分块管理，实现了自注意力机制（self attention mechanism）中KV缓存的几乎零显存浪费和灵活的资源共享（如下图），并结合张量并行（tensor parallel）技术提高显卡设备计算核心的利用率，极大地加速了模型推理速度。与其他SOTA部署方案相比，提高了2~4x的吞吐量^1。 上效果图感受一下vLLM的加速效果，图中曲线颜色表示不同框架，蓝线是vLLM，横轴表示每秒请求数量（req/s），纵轴是延迟量化指标，即平均每个token生成时长（s/token）。可以看到vLLM可以在更高的并发请求量下保持推理速度，表示用户可以在更短的时间内获得他们的请求响应，从而提高了用户体验。 首页：htt ...