Docker와 생성 AI를 사용하여 PDF 문서를 구문 분석하고 응답을 생성하는 PDF 봇을 만드는 방법

생성 AI(GenAI) 가이드에서는 Docker를 사용하여 기존 GenAI 애플리케이션을 컨테이너화하는 방법을 알려줍니다. 이 가이드에서는 다음 방법을 알아봅니다.

Python 기반 GenAI 애플리케이션을 컨테이너화하고 실행합니다.

개발을 위해 전체 GenAI 스택을 로컬에서 실행하기 위한 로컬 환경을 설정합니다.

기존 GenAI 애플리케이션을 컨테이너화하는 것으로 시작합니다.

앱을 컨테이너화하세요

생성 AI(GenAI) 애플리케이션을 컨테이너화하는 방법

앱 개발

생성형 AI 애플리케이션을 컨테이너화하세요

필수 조건

<aside> 💡

GenAI 애플리케이션은 종종 GPU 가속의 이점을 얻을 수 있습니다. 현재 Docker Desktop은 WSL2 백엔드가 있는 Windows에서만 GPU 가속을 지원합니다. Linux 사용자는 Docker Engine의 기본 설치를 사용하여 GPU 가속에 액세스할 수도 있습니다 .

</aside>

최신 버전의 Docker Desktop을 설치하거나, Linux 사용자이고 GPU 가속을 사용할 계획이라면 Docker Engine을설치 합니다. Docker는 정기적으로 새로운 기능을 추가하며 이 가이드의 일부는 최신 버전의 Docker Desktop에서만 작동할 수 있습니다.
git 클라이언트가 있습니다 . 이 섹션의 예제에서는 명령줄 기반 git 클라이언트를 사용하지만, 어떤 클라이언트든 사용할 수 있습니다.

개요

이 섹션에서는 Docker Desktop을 사용하여 생성 AI(GenAI) 애플리케이션을 컨테이너화하는 방법을 안내합니다.

<aside> 💡

GenAI Stack 데모 애플리케이션 에서 컨테이너화된 GenAI 애플리케이션의 더 많은 샘플을 볼 수 있습니다 .

</aside>

샘플 애플리케이션을 받으세요

이 가이드에서 사용된 샘플 애플리케이션은 GenAI Stack 데모 애플리케이션 의 PDF Reader 애플리케이션의 수정된 버전입니다 . 이 애플리케이션은 PDF 파일에 대한 질문을 할 수 있는 풀 스택 Python 애플리케이션입니다.

이 애플리케이션은 오케스트레이션에 LangChain을 , UI에 Streamlit을 , LLM을 실행하기 위해 Ollama를 , 벡터를 저장하기 위해 Neo4j를 사용합니다 .

샘플 애플리케이션을 복사합니다. 터미널을 열고 작업하려는 디렉토리로 디렉토리를 변경하고 다음 명령을 실행하여 리포지토리를 복사합니다.