오.. AIO라니 이것도 해볼것으로 와드...

LocalAI의 큰 소식을 공유하게 되어 기쁩니다. LocalAI v2.11.0 의 출시를 발표하게 되어 매우 기쁩니다 . 또한 방금 GitHub에서 별 18,000개를 달성했다는 소식을 공유하게 되어 매우 기쁩니다 ! 정말 놀라운 여정이었고 여러분의 지원이 없었다면 우리는 이 일을 해낼 수 없었을 것입니다!

LocalAI란 무엇인가요?

LocalAI는 무료 오픈 소스 OpenAI 대안입니다. LocalAI는 로컬 추론을 위한 OpenAI API 사양과 호환되는 드롭인 대체 REST API 역할을 합니다. 이를 통해 LLM을 실행하고 이미지, 오디오(뿐만 아니라)를 로컬 또는 온프레미스에서 소비자급 하드웨어로 생성하여 여러 모델 제품군 및 아키텍처를 지원할 수 있습니다. 여기에서 초기 게시물을 읽을 수 있습니다: https://www.reddit.com/r/selfhosted/comments/12w4p2f/localai_openai_ Compatible_api_to_run_llm_models/

v2.11.0의 새로운 기능은 무엇입니까?

이 최신 버전에는 AI 프로젝트 설정을 쉽게 할 수 있도록 설계된 올인원(AIO) 이미지가 도입되었습니다. 생성적 AI를 다루든, 다양한 모델을 실험하든, 아니면 처음으로 AI에 뛰어들든 관계없이 이러한 AIO 이미지는 마술 상자와 같습니다. 필요한 모든 것이 CPU와 GPU 환경 모두에 최적화되어 미리 포장되어 있습니다.

- 사용 편의성 : 복잡한 설정 과정이 필요 없습니다. AIO 이미지를 사용하면 플러그 앤 플레이가 가능합니다.

- 유연성 : Nvidia, AMD, Intel을 지원합니다. CPU 기반이든 GPU 장착이든 상관없이 적합한 이미지가 있습니다.

- 속도 : 0에서 AI 영웅으로 더 빠르게 이동합니다. 이러한 이미지는 모두 구성에 소요되는 시간을 줄이고 생성에 소요되는 시간을 늘리는 것입니다.

이제 다음을 실행하여 전체 OpenAI 클론을 시작할 수 있습니다 .

docker run -p 8080:8080 --name local-ai -ti localai/localai:latest-aio-cpu

## Nvidia GPU가 있나요? 대신 이것을 사용하십시오
## 쿠다 11
# docker run -p 8080:8080 --gpus all --name local-ai -ti localai/localai:latest-aio-gpu-cuda-11
## 쿠다 12
# docker run -p 8080:8080 --gpus all --name local-ai -ti localai/localai:latest-aio-gpu-cuda-12

하지만 더 많은 것이 있습니다!

이제 Elevenlabs API와 OpenAI TTS Endpoints도 지원됩니다!

https://github.com/mudler/LocalAI/releases/tag/v2.11.0 에서 전체 릴리스 노트를 확인하세요. 

GitHub의 별 18,000개:

18,000개의 별을 달성하는 것은 단순한 숫자 그 이상입니다. LocalAI에 참여하고 개선하려는 커뮤니티의 힘, 열정, 의지를 매우 자랑스럽게 생각합니다. 모든 별표, 이슈 및 끌어오기 요청은 여러분이 모든 사람을 위해 더 나은 LocalAI를 만드는 데 얼마나 관심을 갖고 기여하는지 보여줍니다.

노련한 AI 베테랑이거나 AI가 당신을 위해 무엇을 할 수 있는지 궁금하신 분이라면 LocalAI v2.11.0에 대해 자세히 알아보시기 바랍니다. 릴리스를 확인하고 AIO 이미지를 시험해 본 후 어떻게 생각하는지 알려주세요. 귀하의 피드백은 매우 귀중한데, 누가 알겠습니까? 귀하의 제안은 다음 대규모 업데이트의 일부가 될 수 있습니다!

연결:

- 전체 릴리스 노트: https://github.com/mudler/LocalAI/releases/tag/v2.11.0

- 빠른 시작 가이드: https://localai.io/basics/getting_started/

- AIO 이미지에 대해 자세히 알아보기: https://localai.io/docs/reference/aio-images/

- 임베디드 모델 탐색: https://localai.io/docs/getting-started/run-other-models/

이 모든 것을 가능하게 해주는 놀라운 커뮤니티에 다시 한 번 감사드립니다. 🎉