[PDF 기반 퀴즈 생성기] 개선하기 (시간 단축)

 

[PDF 기반 퀴즈 생성기] 구현하기 (feat. Streamlit, RAG)

 

embedding 모델 배치 활용

• 현재 분할한 문장을 한 문장씩 embedding 모델에 넣어 결과를 가져오고 있음
• 이를 100문장 단위로 embedding 모델 호출
• 임베딩 후 퀴즈 생성까지 약 40s → 9s 로 단축

# 한문장씩
for text in texts:
    try:
        emb = self.embed_text(text)
        embeddings.append(emb)
    except Exception as e:
        print(f"[오류] '{text[:30]}...': {e}")
        embeddings.append(np.zeros(1536, dtype=np.float32))
return np.array(embeddings, dtype=np.float32)

# 100문장 단위
for i in range(0, len(texts)//100+1, 100):
    emb = self.client.embeddings.create(input=texts[i:i+100], model=self.model)
    embeddings.append(np.array(emb.data[0].embedding, dtype=np.float32))
return np.array(embeddings, dtype=np.float32)

 

---

pdf 문서에서 입력한 주제로 검색한 자료 활용

• 입력한 주제와 연관이 있는 pdf 문서를 기존에는 퀴즈 생성 프롬프트에만 활용
• ‘참고자료’ 버튼을 추가하고, st.session_state에 저장해둔 context를 확인할 수 있도록 구성

@st.dialog("참고자료", width="large")
def get_references(reference):
    st.write(reference)

references = st.button(label="참고자료")
if references:
    get_references(st.session_state['context'])