게시판

                                                                   중간에 길 잃기(Lost in the Middle) 현상

인공지능 시스템에 주어지는 입력 또는 지시사항, 즉 프롬프트는 AI가 수행해야 할 작업이나 생성해야 할 콘텐츠의 방향을 결정하는 중요한 요소이다. 프롬프트는 단순한 질문이 될 수도 있고 복잡한 지시사항이 될 수도 있다.

챗봇을 사용하면서 긴 참고자료에 대한 요약을 요청할 때 정보가 생략된 것 같은 경험을 해본 적이 있을 것이다. AI가 사실이 아닌 것을 사실처럼 이야기하는 현상인 할루시네이션(Hallucination) 현상과 더불어 사용자 경험에 큰 영향을 미치는 문제 중 하나이다. 이렇게 프롬프트 안의 정보를 충분히 활용하지 못하는 현상을 가리켜 중간에 길 잃기(Lost in the Middle) 현상이라고 부른다.

2023년의 연구에 따르면 프롬프트를 너무 길게 작성하면 중간에 있는 내용은 잘 반영이 안 되는 경우가 있다고 한다. 이것이 중간에 길 잃기(Lost in the Middle) 현상이다. 긴 입력 프롬프트의 중간 부분에 있는 정보를 모델이 효과적으로 활용하지 못하는 현상이다. 따라서 중요한 정보나 단락은 프롬프트의 시작이나 끝 부분에 배치하는 것이 좋다. 만약 프롬프트에서 지시문이 중요하면 앞에 배치하고(primacy bias), 예시가 좀더 중요하다면 뒷부분에 배치하는(recency bias) 등 적절하게 짜임새 있는 구조를 만들어야 한다.