Dify

Dify는 139,000개 이상의 GitHub 스타를 보유한 세계 최고의 오픈소스 LLM 애플리케이션 개발 플랫폼으로, 모든 사람이 프로덕션 수준의 AI 애플리케이션을 쉽게 구축할 수 있도록 설계되었습니다. LangGenius가 개발한 Dify는 AI 워크플로우 오케스트레이션, RAG 파이프라인 관리, 에이전트 기능, 모델 관리 및 관찰 가능성 기능을 단일의 직관적인 인터페이스로 결합한 포괄적인 시각적 플랫폼을 제공합니다. 이 플랫폼은 첫 AI 제품을 구축하는 스타트업부터 복잡한 다중 모델 워크플로우를 대규모로 배포하는 기업에 이르기까지 전 세계 수천 개의 조직에서 채택되었습니다.

일반적인 사용 사례

제품 팀은 Dify를 사용하여 사용자 지정 임베딩 및 검색 전략을 갖춘 RAG 파이프라인을 통해 회사 문서, 제품 설명서 및 지식 기반의 질문에 답변하는 고객 대면 AI 챗봇을 구축합니다. 개발 팀은 복잡한 오케스트레이션 코드를 작성할 필요 없이 여러 LLM 호출, API 통합 및 조건부 로직을 연결하는 시각적 워크플로우를 통해 AI 기반 내부 도구를 만듭니다. 콘텐츠 팀은 사용자 지정 프롬프트 및 모델 구성을 사용하여 워크플로우 편집기로 AI 글쓰기 도우미, 번역 도구 및 요약 파이프라인을 구축합니다. 기업은 Dify를 중앙 집중식 AI 플랫폼으로 배포하여 다양한 팀이 모델을 실험하고, 워크플로우를 공유하고, AI 애플리케이션을 배포하는 동시에 API 키, 비용 및 데이터 액세스에 대한 거버넌스를 유지할 수 있습니다.

주요 기능

• 드래그 앤 드롭으로 복잡한 AI 파이프라인을 구축하는 시각적 워크플로우 편집기
• 문서 수집, 청킹, 임베딩 및 검색을 포함한 RAG 파이프라인
• 웹 검색, 코드 실행 및 API를 위한 도구 호출 기능을 갖춘 AI 에이전트 프레임워크
• OpenAI, Anthropic, Google, Ollama를 포함한 100개 이상의 LLM 공급자 지원
• 의미 검색 및 지식 검색을 위한 내장 Weaviate 벡터 데이터베이스
• 안전한 Python 및 JavaScript 실행을 위한 샌드박스 코드 실행 환경
• 기능 확장을 위한 마켓플레이스를 갖춘 플러그인 시스템
• 로드 밸런싱, 폴백 및 비용 추적 기능을 갖춘 모델 관리
• AI 애플리케이션 배포 및 외부 시스템 통합을 위한 REST API
• 버전 관리 및 A/B 테스트 기능을 갖춘 프롬프트 엔지니어링 스튜디오
• 로깅, 추적 및 주석 도구를 갖춘 관찰 가능성 대시보드

호스팅어 VPS에 Dify를 배포해야 하는 이유

호스팅어 VPS에 Dify를 배포하면 모든 문서, 임베딩, 대화 및 API 키가 완벽하게 제어되는 개인 AI 개발 플랫폼을 가질 수 있습니다. 자체 호스팅은 관리형 AI 플랫폼의 사용자당 가격 책정 및 사용량 제한을 없애는 동시에, 동일한 VPS에서 실행되는 Ollama를 통한 로컬 모델을 포함하여 모든 LLM 공급자를 연결할 수 있는 유연성을 제공합니다. 안정적인 애플리케이션 데이터를 위한 PostgreSQL, 벡터 검색을 위한 Weaviate, 캐싱 및 작업 대기열을 위한 Redis를 통해 호스팅어 VPS의 Dify는 AI 애플리케이션 구축 및 배포를 위한 엔터프라이즈급 인프라를 제공합니다. 샌드박스 코드 실행 및 SSRF 보호는 사용자 제공 코드를 실행하고 외부 API 호출을 할 때 보안을 보장합니다.