카테고리 없음

패스트캠퍼스 환급챌린지 10일차 미션(2월10일):프롬프트 엔지니어링으로 시작하는 AI/LLM 서비스 개발 강의후기

foruheon 2025. 2. 10. 23:30

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

 

 

이번 강의에서는 OpenAI의 GPT 모델을 활용하여 리뷰의 긍정/부정을 판단하는 API와 데모를 구축하는 방법을 배웠습니다. 단순한 텍스트 분석을 넘어 JSON 응답 처리, FastAPI 기반 API 개발, Streamlit을 활용한 데모 제작까지 다뤄 실제 서비스 개발에 적용할 수 있는 유용한 기술들을 익힐 수 있었습니다.

1. 핵심 배운 점

🔹 OpenAI API 사용법

  • openai 패키지를 활용하여 GPT 모델을 호출하는 기본 방법을 학습
  • JSON 형식으로 응답을 받기 위해 response_format={"type": "json_object"} 옵션 사용
  • API 호출 시 비용 계산 방법 이해

🔹 프롬프트 엔지니어링

  • 프롬프트 템플릿을 활용하여 동적으로 텍스트 입력 처리
  • 다양한 출력 형식을 방지하고 일정한 응답을 얻기 위한 JSON 기반 프롬프트 작성

🔹 FastAPI를 활용한 API 개발

  • FastAPI를 활용하여 간결한 코드로 API 서버 구축
  • Pydantic을 활용한 데이터 검증
  • /docs 엔드포인트를 통해 자동으로 Swagger 문서 생성

🔹 Streamlit을 활용한 데모 제작

  • streamlit을 사용하여 간단한 웹 UI 구성
  • 사용자 입력을 받아 실시간으로 GPT 모델과 연동하여 리뷰 긍부정 평가
  • Pandas와 함께 데이터셋을 활용한 샘플 리뷰 선택 기능 구현

2. 실용적인 인사이트

AI 기반 리뷰 분석을 실서비스에 적용 가능

  • 사용자 리뷰 데이터를 자동으로 분석하여 유의미한 통계를 추출할 수 있음
  • e커머스, 영화 리뷰 사이트, SNS 분석 등에 활용 가능

프롬프트 설계의 중요성 재확인

  • 같은 질문이라도 프롬프트 작성 방식에 따라 응답이 달라짐
  • 일관된 결과를 위해서는 JSON 응답 형식을 포함하는 것이 필수

빠르게 프로토타입을 만들 수 있는 기술 스택

  • FastAPI와 Streamlit을 활용하면 최소한의 코드로 서비스 구축 가능
  • 특히, LLM 기반 서비스는 직관적인 UI 제공이 중요하기 때문에 Streamlit을 활용하면 빠르게 MVP를 만들 수 있음

3. 아쉬운 점 & 개선 가능성

비용 최적화 필요

  • OpenAI API는 사용량에 따라 비용이 발생하므로, 짧은 프롬프트와 적절한 모델 선택이 필요
  • GPT-4보다 비용이 저렴한 GPT-3.5-turbo 모델을 사용하면 경제적인 API 운영 가능

Streamlit의 성능 한계

  • 빠르게 데모를 만들 수 있지만, 배포 환경에서는 속도가 느려질 가능성이 있음
  • 실서비스에서는 FastAPI + React/Vue와 같은 조합이 더 적합할 수도 있음

 

 

 

① 오늘자 날짜, 공부 시작 시각

 

② 오늘자 날짜, 공부 종료 시각

③ 클립 1번 수강 인증 사진

④ 클립 2번 수강 인증 사진

⑤ 학습 인증샷 1장 이상 (ex. 필기 촬영, 작업물, 등)

 

 

https://bit.ly/4gL1f1o