ChatGPT, LocalAI 등을 하나로 통합하기 big-AGI
안녕하세요. 달소입니다.
이번에 소개해드릴 오픈소스 프로젝트트 nicknickk 님께서 소개해주신 big-AGI 입니다!
앞서 나만의 GPT를 만들어보기라는걸로 소개해드렸던 LocalAI를 좀더 효과적으로 사용할 수 있게 도와주고 뿐만아니라 OpenAI의 실제 GPT나 Gemini 등 여러가지 생성형 AI들의 API를 한곳에서 사용할 수 있게 도와주는 엄청난 오픈소스입니다!
아래 영상하나로 설명가능한 ㅎㅎ
BIG-AGI 🧠✨
기능, 형태, 단순성 및 속도가 필요한 전문가를 위한 AI 제품군인 big-AGI에 오신 것을 환영합니다. 12개 공급업체의 최신 모델과 오픈 소스 서버를 기반으로 AI 페르소나, 시각화, 코딩, 그리기, 병렬 채팅 등을 포함한 동급 big-AGI
최고의 채팅, Beams 및 통화 기능을 모두 제공합니다. 세련된 UX.
Big-AGI로 앞서 나가세요. 🚀 전문가와 개발자는 큰 AGI를 좋아합니다. 🤖
채팅 통화 빔 그리기 , ... |
로컬 및 클라우드 개방형 및 폐쇄형 저렴하고 무거운 Google, Mistral, ... |
첨부 파일 다이어그램 다중 채팅 모바일 우선 UI |
로컬에 저장됨 손쉬운 자체 호스트 로컬 작업 데이터 = 골드 |
AI 페르소나 음성 모드 화면 캡처 카메라 + OCR |
big-AGI에서는 수백 개의 AI 모델을 쉽게 구성할 수 있습니다.
AI 모델 | 지원되는 공급업체 |
---|---|
오픈소스 서버 | LocalAI (멀티모달) · Ollama · Oobabooga |
로컬 서버 | LM스튜디오 |
다중 모드 서비스 | Azure · Google Gemini · OpenAI |
언어 서비스 | Anthropic · Groq · Mistral · OpenRouter · Perplexity · Together AI |
이미지 서비스 | 프로디아 (SDXL) |
음성 서비스 | ElevenLabs (음성합성/복제) |
다음 통합으로 추가 기능을 추가하세요.
더 | 통합 |
---|---|
웹 검색 | 브라우저리스 · Puppeteer 기반 |
웹 서핑 | 구글 CSE |
코드 편집기 | CodePen · StackBlitz · JSFiddle |
나누는 | Paste.gg (채팅 붙여넣기) |
추적 | Helicone (LLM 관찰 가능성) |
🚀 설치
big-AGI를 시작하려면 포괄적인 설치 가이드를 따르세요 . 이 가이드에서는 로컬 컴퓨터에서 실행하거나 Vercel, Cloudflare에 배포하거나 Docker를 통해 롤아웃하는 등 다양한 설치 옵션을 다룹니다.개발자, 시스템 통합자, 기업 사용자 모두 Big-AGI를 빠르고 쉽게 설정하기 위한 단계별 지침을 찾을 수 있습니다.
또는 API 키를 가져와 big-AGI.com 의 무료 인스턴스로 바로 이동하세요 .
설치도 간단한편입니다.
- 빅 AGI 복제
git clone https://github.com/enricoros/big-agi.git cd big-agi
- Docker 이미지 빌드 : 제공된 Dockerfile에서 로컬 Docker 이미지를 빌드합니다.
docker build -t big-agi .
- Docker 컨테이너 실행 : 새로 빌드된 이미지에서 Docker 컨테이너를 시작하고 다음을
localhost:3000
사용하여 http 포트 3000을 노출합니다.docker run -d -p 3000:3000 big-agi
- http://localhost:3000 으로 이동합니다 .
오 간단하고 편하네요
문제는 로컬AI로 돌려보니 n100 cpu가 살려달라고 소리칩니다...
로컬AI를 연결 했는데 한국어가 좀 어색하고 하드웨어 스펙 때문이겠지만 느리네요
챗GPT나 기타 다른 AI들의 API로 연결해서 한 곳에서 사용하고 관리하는 용도로 아주 좋을 거 같습니다
한국어가 뭔가 이상하네요
openai 키가 필요하다니.. 무료크레딧 다 써버렸는데 구경만 해야겠네요
cmt alert