카테고리 없음

패스트캠퍼스 환급챌린지 14일차 미션(2월14일):프롬프트 엔지니어링으로 시작하는 AI/LLM 서비스 개발 강의후기

foruheon 2025. 2. 14. 23:30

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

 

이번 강의를 통해 RAG(Retrieval-Augmented Generation)에 대한 개념을 제대로 정리할 수 있었다. 단순히 개념을 설명하는 강의가 아니라, 직접 구현하면서 원리를 이해하도록 구성된 점이 특히 좋았다. 외부 라이브러리에 의존하지 않고 핵심 요소들을 하나씩 구현해보는 과정에서, "RAG가 정확히 어떤 원리로 동작하는가?"에 대한 감이 확실히 잡혔다.

🔹 RAG 개념을 체득하는 과정

강의 초반에는 Retrieval과 Embedding 개념을 다루면서, OpenAI Embeddings API를 활용하는 방법을 익혔다. 개념적으로는 이해하고 있던 부분이지만, 직접 구현해보면서 벡터 임베딩이 실제로 어떻게 활용되는지를 몸으로 익힐 수 있었다.

🔹 데이터 확보와 전처리의 중요성

RAG를 제대로 구현하려면 적절한 데이터를 확보하는 게 핵심이다. Hugging Face에서 데이터를 가져와 활용하는 과정을 실습하면서, 어떤 데이터를 어떻게 준비해야 하는지가 중요하다는 걸 다시 한번 깨달았다. 생각보다 데이터의 전처리 과정이 까다로웠지만, 이 부분을 직접 다뤄보면서 실무에서도 유용하게 적용할 수 있을 것 같았다.

🔹 RAG 평가를 직접 해보면서 얻은 인사이트

RAG 모델을 평가하는 방법도 흥미로웠다. 단순히 LLM의 최종 답변만 평가하는 게 아니라, RAG 로직 자체를 평가하는 과정End-to-End 평가 방식을 비교하면서 각각의 한계점을 살펴볼 수 있었다. 특히, "좋은 Retrieval이 곧 좋은 생성 결과로 이어진다"는 점을 실험을 통해 확인할 수 있었던 점이 유익했다.

🔹 실전에서 적용할 수 있는 RAG 파이프라인

강의 마지막 실습에서는 LLM과 RAG를 결합하여 추론 파이프라인을 만들어보는 과정이 진행됐다. 개념적으로는 알고 있던 내용이었지만, 직접 만들어보면서 예상치 못한 오류를 해결해 가는 과정에서 더 깊이 이해할 수 있었다. 실무에서도 이 과정 그대로 적용할 수 있을 것 같다.

 

① 오늘자 날짜, 공부 시작 시각

 

② 오늘자날짜, 공부 종료 시각

 

③ 클립 1번 수강 인증 사진

④ 클립 2번 수강 인증 사진

⑤ 학습 인증샷 1장 이상 (ex. 필기 촬영, 작업물, 등)

 

 

 

https://bit.ly/4gL1f1o