• 돌아가기
  • 아래로
  • 위로
  • 목록
  • 댓글
정보

GPT를 내 서버에서 LocalAI v1.18.0 출시

달소 달소 1201

2

7

예제부분을 보시고 깃으로 한번 보시면 어떤 프로젝트인지 감을 잡으실 수 있을듯합니다!

 

 

 

🚀🔥 반가운 소식! LocalAI v1.18.0은 새로운 기능, 버그 수정 및 업데이트로 가득 찬 뛰어난 릴리스와 함께 여기에 있습니다! 🎉🔥

이 환상적인 커뮤니티 중심의 릴리스를 만드는 데 귀중한 도움을 주신 놀라운 커뮤니티에 크게 감사드립니다! 귀하의 지원에 감사 드리며 커뮤니티를 성장 시키십시오! 🙌

LocalAI란?

LocalAI는 AI 모델을 자신의 CPU에서 로컬로 실행할 수 있는 OpenAI 호환 API입니다! 💻 데이터는 컴퓨터를 떠나지 않습니다! 값비싼 클라우드 서비스나 GPU가 필요하지 않은 LocalAI는 llama.cpp 및 ggml을 사용하여 AI 프로젝트를 강화합니다! 🦙

새로운 기능

이 LocalAI 릴리스에는 많은 새로운 기능, 버그 수정 및 업데이트가 포함되어 있습니다! 도움을 주신 커뮤니티 덕분에 훌륭한 커뮤니티 릴리스가 되었습니다!

우리는 이제 다양한 모델을 지원하는 동시에 이전 양자화 형식과 역호환되며 이 새로운 릴리스에서는 여전히 이전 형식과 새로운 k-quant를 로드할 수 있습니다 !

새로운 기능

  • ✨ 매 기반 모델 제품군(7b)( mudler ) 에 대한 지원 추가

  • ✨ Metal Apple Silicon GPU에 대한 실험적 지원 - ( 테스트를 위한 mudler 및 u/Soleblaze 에게 감사드립니다 ! ). 빌드 섹션을 참조하십시오 .

  • ✨ /v1/completions 끝점( samm81 ) 에서 토큰 스트림 지원

  • ✨ huggingface 백엔드 추가( Evilfreelancer )

  • 📷 Stablediffusion은 이제 esrgan으로 2048x2048 이미지 크기를 출력할 수 있습니다! 머들러 )

컨테이너 이미지

  • 🐋 CUDA 컨테이너 이미지(arm64, x86_64) ( sebastien-prudhomme )

  • 🐋 FFmpeg 컨테이너 이미지(arm64, x86_64)( mudler )

종속성 업데이트

일반적인

2개의 새로운 프로젝트가 이제 LocalAI와의 직접적인 통합을 제공합니다!

전체 릴리스 변경 로그

신고공유스크랩
7
1등
neidn 2023.06.08. 14:25
애플 실리콘 안정적으로 지원하면 한번 구경해봐야겠네요 ㅎㅎㅎ
통통배 2023.06.09. 13:49
neidn

llama.cpp로 애플 실리콘 잘 지원하지만 llama 기반이나 GPT4ALL (GPT-J)기반은 라이선스가 상업용 불가라서 의미가 없어요.

profile image 2등
keiminem 2023.06.08. 16:25
GPT도 이제 프로젝트가 정말많이나오기 시작하네요
유튜브나 재생하고있는 4090을 한번 갈궈볼까 싶은 생각이 들기시작합니다.
3등
통통배 2023.06.09. 13:48

이거 못 씁니다. llama 혹은 GPT4ALL (GPT-J) 기반이라 상업용 가능한 라이선스가 아니에요. 연구용만 됩니다.

댓글 쓰기 권한이 없습니다. 로그인

취소 댓글 등록

cmt alert

신고

"님의 댓글"

이 댓글을 신고하시겠습니까?

댓글 삭제

"님의 댓글"

삭제하시겠습니까?


목록

공유

facebooktwitterpinterestbandkakao story
번호 분류 제목 글쓴이 날짜 조회 추천
정보 안녕하세요! 새로 가입했습니다. 5 Razorbacks 12시간 전18:06 71 +1
정보 서버포럼 가입인사겸 저의 홈서버를 소개합니다!! 9 툭툭이 19시간 전11:14 390 +9
잡담 가지고 놀기 좋은걸 찾았습니다. 8 주차장 2일 전17:47 469 +1
3778 오픈소스
image
달소 7시간 전22:53 52 0
3777 정보
image
달소 7시간 전22:48 41 +1
3776 정보
image
Razorbacks 12시간 전18:06 71 +1
3775 질문
normal
맛밥 14시간 전15:34 165 0
3774 정보
image
툭툭이 19시간 전11:14 390 +9
3773 질문
normal
유니파트 1일 전22:09 198 0
3772 질문
image
반투검스 1일 전12:46 69 0
3771 질문
normal
니즛 2일 전00:37 344 0
3770 잡담
image
주차장 2일 전17:47 469 +1
3769 질문
image
양미 2일 전11:16 218 0
3768 질문
normal
주차장 3일 전23:44 173 0
3767 질문
image
surno 4일 전00:56 123 0
3766 질문
image
TANG 4일 전19:14 405 0
3765 질문
image
게르노 5일 전23:55 462 0
3764 질문
normal
very 5일 전09:57 209 0
3763 질문
normal
ljr10 5일 전09:11 86 0
3762 질문
normal
very 6일 전18:04 242 0
3761 가이드
normal
minis 6일 전14:20 156 0
3760 잡담
normal
아나나나나다 24.03.21.12:58 373 0
3759 질문
normal
하핳 24.03.20.14:19 205 0