오호,,, 다시한번 도전해봐야겠네요.

AIO도 생기고 상태확인이 좀더 편해진거같습니다.

 

---

 

v2.12.3 LocalAI 릴리스가 출시되었음을 알리게 되어 기쁘게 생각합니다!

🌠 랜딩 페이지 및 Swagger

LocalAI가 실행된 후 무엇을 해야 할지 궁금한 적이 있습니까? 간단한 웹 인터페이스와의 통합이 시작되었으며 이제 LocalAI 첫 페이지를 클릭하면 랜딩 페이지를 볼 수 있습니다.

 

이제 Swagger를 통해 API 호출을 직접 시험해 볼 수도 있습니다.

 

🌈 AIO 이미지 변경

이제 CPU 이미지의 기본 모델은 https://huggingface.co/NousResearch/Hermes-2-Pro-Mistral-7B-GGUF 입니다 . 기능 및 도구 API 지원을 위해 사전 구성되어 있습니다!
Intel-GPU 소유자라면 이제 AIO 이미지용 Intel 프로필도 사용할 수 있습니다!

🚀 OpenVINO 및 변환기 개선 사항

이제 OpenVINO에 대한 지원이 있으며 변환기는 이제 토큰 스트리밍 지원을 받았습니다.@fakezeta!

OpenVINO를 사용해 보려면 설명서( https://localai.io/features/text- Generation /#examples)에 있는 예제를 사용할 수 있습니다.

🎈 많은 작은 개선이 이루어졌습니다!

뛰어난 커뮤니티 덕분에 다음과 같은 여러 영역이 향상되었습니다.

• LocalAI의 빌드 시간이 크게 단축되었습니다! 덕분에@cryptk빌드 시스템 개선을 위한 노력
• @thinerAutoGPTQ에 대한 Vision 지원을 받기 위해 거의 노력하지 않았습니다.
• ... 그리고 훨씬 더! 전체 목록을 보려면 아래를 참조하세요. LocalAI에 별표를 표시하고 사용해 보세요!

📣 널리 알리세요!

먼저 스쿼시 버그에 참여하고 LocalAI의 멋진 새 기능을 제안해주신 모든 분들께 (다시 한번!) 진심으로 감사드립니다. 여러분의 도움, 친절한 말, 그리고 훌륭한 아이디어에 진심으로 감사드립니다. 말로 표현할 수 있는 것 이상입니다!

그리고 영웅이 되어 Discord와 저장소에서 동료 사용자를 돕기 위해 자신의 시간을 포기한 여러분은 정말 대단합니다. 우리는 더 나은 커뮤니티를 요구할 수 없었습니다.

아시다시피 LocalAI에는 대기업 스폰서라는 사치가 없습니다. 우리 모두입니다. 따라서 우리가 함께 구축하고 있는 것에서 가치를 발견하고 그 추진력을 계속 유지하고 싶다면 지지를 표하는 것을 고려해 보십시오. @LocalAI_OSS 및 @mudler_it를 사용하여 좋아하는 소셜 플랫폼에 작은 이름을 알리거나 스폰서에 가입하면 큰 변화를 만들 수 있습니다.

또한, 아직 Discord에 가입하지 않으셨다면 지금 바로 참여하세요! 링크는 다음과 같습니다: https://discord.gg/uJAeKSAGDy

모든 지원, 모든 언급, 모든 별이 합쳐져 이 배가 항해를 계속하는 데 도움이 됩니다. 계속해서 LocalAI를 멋지게 만들어 봅시다!

정말 감사합니다. 앞으로 LocalAI와 함께 더 흥미로운 시간을 보내겠습니다!

변경된 사항

버그 수정 🐛

• 수정: 토치를 다운그레이드하세요.@mudler#1902 에서
• fix(aio): 인텔 시스템을 올바르게 감지합니다.@mudler#1931 에서
• fix(swagger): 호스트를 지정하지 마십시오.@mudler#1930 에서
• fix(tools): 템플릿의 도구 응답을 올바르게 렌더링합니다.@mudler#1932 에서
• fix(grammar): JSONmode와 사용자 입력의 문법을 존중합니다.@mudler#1935 에서
• fix(hermes-2-pro-mistral): 도구 호출에 대한 불용어를 추가합니다.@mudler#1939 에서
• fix(functions): 문자열에서 선택되면 존중됩니다.@mudler#1940 에서
• 수정: 진입점 스크립트에서 exec를 사용하여 신호 처리를 수정합니다.@cryptk#1943 에서
• fix(hermes-2-pro-mistral): 불용어를 수정합니다.@mudler#1947 에서
• 수정(환영): 안정적인 모델 목록 by@mudler#1949 에서
• fix(ci): 최신 이미지에 수동으로 태그 지정@mudler#1948 에서
• fix(seed): -1이 설정된 경우 요청별로 무작위 시드를 생성합니다.@mudler#1952 에서
• 회귀 #1971 수정@fakezeta#1972 에서

흥미로운 새로운 기능 🎉

• feat(aio): 인텔 프로필을 추가합니다.@mudler#1901 에서
• VL 모델을 지원하도록 autogptq 백엔드를 강화합니다.@thiner#1860 에서
• feat(assistant): Assistant 및 AssistantFiles API 작성자:@christ66#1803 에서
• feat: 변환기 백엔드를 위한 Openvino 런타임 및 Openvino 및 CUDA에 대한 스트리밍 지원@fakezeta#1892 에서
• 위업: Transformer에 대한 토큰 스트림 지원, 수정: OpenVINO용 패키지 누락@fakezeta#1908 에서
• feat(welcome): 간단한 환영 페이지 추가 by@mudler#1912 에서
• 수정(빌드): CI 로깅을 개선하고 Makefile의 일부 빌드 실패 모드를 수정합니다.@cryptk#1899 에서
• feat(webui): 부분 추가, 모델과 연결된 백엔드 표시@mudler#1922 에서
• feat(swagger): Swagger API 문서를 추가합니다.@mudler#1926 에서
• feat(build): 병렬 make 작업 수를 조정합니다.@cryptk#1915 에서
• feat(swagger): 업데이트자@mudler#1929 에서
• 업적: 로깅 개선의 첫 번째 통과@cryptk#1956 에서
• fix(llama.cpp): llama.cpp에 대해 더 나은 기본값을 설정합니다.@mudler#1961 에서

📖 문서 및 예시

• docs(aio-usage): 예시를 표시하도록 문서를 업데이트합니다.@mudler#1921 에서

👒 종속성

• ⬆️ 문서 버전 mudler/LocalAI 업데이트:@localai-bot#1903 에서
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1904 에서
• ⬆️ M0Rf30/go-tiny-dream 업데이트:@M0Rf30#1911 에서
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1913 에서
• ⬆️ ggerganov/whisper.cpp 업데이트:@localai-bot#1914 에서
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1923 에서
• ⬆️ ggerganov/whisper.cpp 업데이트:@localai-bot#1924 에서
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1928 에서
• ⬆️ ggerganov/whisper.cpp 업데이트:@localai-bot#1933 에서
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1934 에서
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1937 에서
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1941 에서
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1953 에서
• ⬆️ ggerganov/whisper.cpp 업데이트:@localai-bot#1958년 에
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1959 에서
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1964 에서

기타 변경 사항

• ⬆️ ggerganov/whisper.cpp 업데이트:@localai-bot#1927 에서
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1960 에서
• fix(hermes-2-pro-mistral): 템플릿의 대시를 수정하여 개행을 억제합니다.@mudler#1966년 에
• ⬆️ ggerganov/whisper.cpp 업데이트:@localai-bot#1969 에서
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1970 에서
• ⬆️ ggerganov/llama.cpp 업데이트:@localai-bot#1973 에서

새로운 기여자

• @thiner#1860 에서 첫 번째 기여를 했습니다.

전체 변경 내역 : v2.11.0...v2.12.3