蚂蚁 AI 应用暑期一面:工具超时与 RAG Top-K
本场面试题
- 工具响应很慢时怎样处理?
- RAG 的 Top-K 怎样确定,Top-3 与 Top-5 怎么比较?
面经与参考答法
蚂蚁 AI 应用暑期一面:工具超时与 RAG Top-K
公司为蚂蚁,标题注明 AI 应用暑期一面。原文围绕个人 Agent 项目的节点、日志查询、RAG 参数与训练经历连续追问;具体岗位全名、部门、日期、时长和现场答案未给出。按有边界的面试自述使用,不认证其实际项目或训练成果。
根据公开面试自述选录,经历未经外部认证。短答和例子均为编辑教学补充,不代表候选人现场回答、原项目已实现能力或企业标准答案。
选录工具响应慢、RAG Top-K 选择两组。框架、日志范围、混合检索、评估、语料、训练、奖励模型、PPO/GRPO、GQA/KV Cache 和最短子数组题均保留完整库存,本页未选;原算法题未给数组取值限制,不补成某种特定解法。
(1)工具响应很慢时怎样处理?
在总Deadline内给工具分配单次时限,区分慢、超时、限流、权限拒绝和结果未知。仅对安全且有收益的情况有限重试,并传播取消、限制并发;写操作超时先核对是否已执行,不能直接重发。返回明确的部分结果、失败或待确认状态,不把客户端停止等待当远端已经停止。 教学例子:只读查询超时可在剩余预算内重试;创建记录请求超时则先按操作标识查询实际状态。原文没有具体工具或超时值,不给统一秒数。
(2)RAG 的 Top-K 怎样确定,Top-3 与 Top-5 怎么比较?
先区分初始召回数量、重排候选和最终进入上下文的片段数,它们解决不同问题。固定查询、相关证据、模型和Token预算,比较正确证据覆盖、上下文噪声、最终答案质量、延迟和成本。更多块可能补证据,也可能引入干扰;K应由真实任务和切片评估决定,没有普遍最优的3或5。 教学例子:需要两段证据的查询,Top-3已经覆盖时多加两块未必有益;若漏掉关键段落,则沿召回和排序定位,不能只凭最终回答长短决定K。