글 1개
지식iN 질문에서 키워드 조각을 캐내 LLM 두 번으로 정제하던 경로를 구글·네이버 자동완성 호출로 바꿨습니다. 버튼을 누르고 목록이 뜨기까지 25.1초 걸리던 게 0.2초가 됐고 LLM 호출은 사라졌습니다. 구글이 2015년에 쓰지 말라고 공지한 엔드포인트라, 성능보다 먼저 확인할 게 있었습니다.
