AnythingLLM: 여러분이 찾던 모든 것을 아우르는 AI 앱입니다.

제품 개요

AnythingLLM은 기성 상용 빅언어 모델 또는 인기 있는 오픈소스 빅언어 모델과 벡터 데이터베이스 솔루션을 결합하여 더 이상 제약 없이 로컬에서 실행하거나 원격으로 호스팅하여 제공하는 모든 문서와 지능적인 채팅을 할 수 있는 풀스택 애플리케이션입니다.

AnythingLLM은 문서를 다음과 같은 그룹으로 나눕니다.작업 공간 (워크스페이스) 개체를 사용할 수 있습니다. 작업 공간은 문서의 컨테이너화가 추가된 스레드처럼 작동합니다. 작업 공간은 문서를 공유할 수 있지만 작업 공간의 콘텐츠가 서로 간섭하거나 오염시키지 않으므로 각 작업 공간의 컨텍스트를 명확하게 유지할 수 있습니다.

AnythingLLM의 멋진 기능 중 일부는 다음과 같습니다.

• 🆕 사용자 지정 AI 에이전트
• 🆕 노코드 AI 에이전트 빌더
• 🖼️ 다중 사용자 인스턴스 지원 및 권한 관리(클로즈드 소스 및 오픈 소스 LLM 지원!)
• 👤 다중 사용자 인스턴스 지원 및 권한 관리 도커 버전만 해당
• 🦾 작업 공간의 지능형 에이전트(웹 검색, 코드 실행 등)
• 💬 웹사이트에 맞춤 제작된 임베드 가능한 채팅 창
• 📖 여러 문서 유형(PDF, TXT, DOCX 등) 지원
• 간단한 사용자 인터페이스를 통해 벡터 데이터베이스의 문서를 관리하세요.
• 두 가지 대화 모드:채팅노래로 응답상담(문서 등). 채팅 모드는 이전 대화를 기록합니다. 쿼리 모드는 문서에 대한 간단한 질문과 답변을 수행합니다.
• 참조한 문서의 내용이 채팅에서 제공됩니다!
• 100% 클라우드 배포 준비 완료.
• "나만의 LLM 모델 배포하기".
• 대용량 문서를 높은 효율성과 낮은 소비량으로 관리하세요. 대용량 문서나 녹취록을 한 번만 임베드하면 됩니다. 다른 문서 챗봇 솔루션보다 90%를 절약하세요.
• 사용자 지정 통합을 위한 전체 개발자 API!

지원되는 LLM, 임베딩 모델, 전사 모델 및 벡터 데이터베이스

LLM에서 지원합니다:

• llama.cpp와 호환되는 모든 오픈소스 모델
• OpenAI
• OpenAI (일반)
• Azure OpenAI
• 인류학
• Google Gemini Pro
• Hugging Face (대화 모델)
• Ollama (채팅 모델)
• LM Studio (모든 모델)
• LocalAi (모든 모델)
• Together AI (챗봇 모델)
• Fireworks AI (챗 모델)
• Perplexity (대화 모델)
• OpenRouter (대화 모델)
• Novita AI (챗봇 모델)
• 미스트랄
• Groq
• Cohere
• 코볼드CPP
• PPIO (대화 모델)

지원되는 임베딩 모델:

• AnythingLLM 네이티브 임베더(기본값)
• OpenAI
• Azure OpenAI
• LocalAi (전체)
• 올라마 (전체)
• LM Studio (전체)
• Cohere

지원되는 전사 모델:

• AnythingLLM 내장 (기본값)
• OpenAI

TTS(텍스트 음성 변환) 지원:

• 브라우저 내장(기본값)
• PiperTTSLocal – 브라우저에서 실행
• OpenAI TTS
• 일레븐랩스
• 모든 OpenAI 호환 TTS 서비스

STT(음성 텍스트 변환) 지원:

• 브라우저 내장(기본값)

지원되는 벡터 데이터베이스:

• LanceDB (기본값)
• Astra DB
• 솔방울
• 크로마
• 위비에이트
• QDrant
• 밀버스
• 질리즈

기술 개요

이 단일 라이브러리는 크게 세 부분으로 구성됩니다:

• 프론트엔드LLM에서 사용할 수 있는 모든 콘텐츠를 쉽게 만들고 관리하기 위해 실행할 수 있는 viteJS + React 프런트엔드입니다.
• server모든 상호작용을 처리하고 모든 벡터 데이터베이스 관리 및 LLM 상호작용을 수행하는 NodeJS 익스프레스 서버입니다.
• 도커Docker 명령어 및 빌드 프로세스 + 소스에서 빌드하는 방법에 대한 정보.
• 수집기: UI에서 문서를 처리하고 구문 분석하기 위한 NodeJS express 서버입니다.