年份与会议
2023 · TACL
Lost in the Middle
研究长上下文模型在不同位置的信息检索能力，发现中间位置的信息利用显著下降。
作者
Nelson F. Liu、Kevin Lin、John Hewitt
主题
Long Context
收录时间
2023/07/06
标签
原文链接
核心发现
在长上下文输入中，模型更偏好开头和结尾信息，对中段信息利用不足。
实践启发
检索与提示工程需要优化信息摆放策略。
研究长上下文模型在不同位置的信息检索能力，发现中间位置的信息利用显著下降。
年份与会议
2023 · TACL
作者
Nelson F. Liu、Kevin Lin、John Hewitt
主题
Long Context
收录时间
2023/07/06
在长上下文输入中，模型更偏好开头和结尾信息，对中段信息利用不足。
检索与提示工程需要优化信息摆放策略。