패스트캠퍼스 환급챌린지 7일차 미션(2월7일):프롬프트 엔지니어링으로 시작하는 AI/LLM 서비스 개발 강의후기

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

 

이번 강의는 카카오톡 대화 요약 프로젝트를 중심으로 AI 서비스 개발과 모델링 파이프라인을 다루었습니다. 이전 프로젝트와 연속성을 갖추면서도, 실무에 적용할 수 있는 세부적인 요소들을 추가 학습할 수 있는 좋은 기회였습니다.

🚀 배운 점 & 인사이트

1️⃣ 후기 요약 vs. 대화 요약

• 후기 요약은 주어진 텍스트를 요약하는 상대적으로 정적인 작업이라면, 대화 요약은 실시간성과 비용 측면에서 추가적인 고려가 필요함을 알게 되었습니다.
• 특히, 실시간 대화 요약은 다양한 화자의 문맥을 유지하는 것이 중요하며, 모델링 과정에서 이를 어떻게 해결할지 고민해야 했습니다.

2️⃣ 데이터 확보 방법론

• 데이터 크롤링을 통한 기존 방식과 달리, 데이터 허브나 생성형 데이터를 활용하는 방법도 실무적으로 유용하다는 점이 인상적이었습니다.
• 특히, 데이터 허브는 이미 정제된 데이터셋을 활용할 수 있어, 크롤링 대비 비용 효율성이 높았습니다.

3️⃣ 비용 vs. 성능 고려한 LLM 선정

• OpenAI, Anthropic, Google 등 다양한 LLM(Large Language Model) 옵션을 비교하면서, 실제 서비스 적용 시 고려해야 할 주요 요소를 배웠습니다.
• 단순히 성능이 좋은 모델을 선택하는 것이 아니라, 비용 대비 효과적인 모델을 선정하는 것이 중요하다는 점을 다시 한번 체감했습니다.

4️⃣ LLM Guardrail – 위험한 내용 방지

• AI 서비스에서 반드시 필요한 Guardrail 개념을 배웠습니다.
• 사용자에게 적절하지 않은 내용을 필터링하고, 안전성을 높이는 방안을 고민하는 과정이 흥미로웠습니다.

 

① 오늘자 날짜, 공부 시작 시각

② 오늘자 날짜, 공부 종료 시각

③ 클립 1번 수강 인증 사진

④ 클립 2번 수강 인증 사진

⑤ 학습 인증샷 1장 이상 (ex. 필기 촬영, 작업물, 등)

 

AI 허브라는 곳에서 원천데이터를 다운 받을수 있다. 

 

 

https://bit.ly/4gL1f1o