• 돌아가기
  • 아래로
  • 위로
  • 목록
  • 댓글
정보

GPT를 내 서버에서 LocalAI v1.18.0 출시

달소 달소 1201

2

7

예제부분을 보시고 깃으로 한번 보시면 어떤 프로젝트인지 감을 잡으실 수 있을듯합니다!

 

 

 

🚀🔥 반가운 소식! LocalAI v1.18.0은 새로운 기능, 버그 수정 및 업데이트로 가득 찬 뛰어난 릴리스와 함께 여기에 있습니다! 🎉🔥

이 환상적인 커뮤니티 중심의 릴리스를 만드는 데 귀중한 도움을 주신 놀라운 커뮤니티에 크게 감사드립니다! 귀하의 지원에 감사 드리며 커뮤니티를 성장 시키십시오! 🙌

LocalAI란?

LocalAI는 AI 모델을 자신의 CPU에서 로컬로 실행할 수 있는 OpenAI 호환 API입니다! 💻 데이터는 컴퓨터를 떠나지 않습니다! 값비싼 클라우드 서비스나 GPU가 필요하지 않은 LocalAI는 llama.cpp 및 ggml을 사용하여 AI 프로젝트를 강화합니다! 🦙

새로운 기능

이 LocalAI 릴리스에는 많은 새로운 기능, 버그 수정 및 업데이트가 포함되어 있습니다! 도움을 주신 커뮤니티 덕분에 훌륭한 커뮤니티 릴리스가 되었습니다!

우리는 이제 다양한 모델을 지원하는 동시에 이전 양자화 형식과 역호환되며 이 새로운 릴리스에서는 여전히 이전 형식과 새로운 k-quant를 로드할 수 있습니다 !

새로운 기능

  • ✨ 매 기반 모델 제품군(7b)( mudler ) 에 대한 지원 추가

  • ✨ Metal Apple Silicon GPU에 대한 실험적 지원 - ( 테스트를 위한 mudler 및 u/Soleblaze 에게 감사드립니다 ! ). 빌드 섹션을 참조하십시오 .

  • ✨ /v1/completions 끝점( samm81 ) 에서 토큰 스트림 지원

  • ✨ huggingface 백엔드 추가( Evilfreelancer )

  • 📷 Stablediffusion은 이제 esrgan으로 2048x2048 이미지 크기를 출력할 수 있습니다! 머들러 )

컨테이너 이미지

  • 🐋 CUDA 컨테이너 이미지(arm64, x86_64) ( sebastien-prudhomme )

  • 🐋 FFmpeg 컨테이너 이미지(arm64, x86_64)( mudler )

종속성 업데이트

일반적인

2개의 새로운 프로젝트가 이제 LocalAI와의 직접적인 통합을 제공합니다!

전체 릴리스 변경 로그

신고공유스크랩
7
1등
neidn 2023.06.08. 14:25
애플 실리콘 안정적으로 지원하면 한번 구경해봐야겠네요 ㅎㅎㅎ
통통배 2023.06.09. 13:49
neidn

llama.cpp로 애플 실리콘 잘 지원하지만 llama 기반이나 GPT4ALL (GPT-J)기반은 라이선스가 상업용 불가라서 의미가 없어요.

profile image 2등
keiminem 2023.06.08. 16:25
GPT도 이제 프로젝트가 정말많이나오기 시작하네요
유튜브나 재생하고있는 4090을 한번 갈궈볼까 싶은 생각이 들기시작합니다.
3등
통통배 2023.06.09. 13:48

이거 못 씁니다. llama 혹은 GPT4ALL (GPT-J) 기반이라 상업용 가능한 라이선스가 아니에요. 연구용만 됩니다.

댓글 쓰기 권한이 없습니다. 로그인

취소 댓글 등록

cmt alert

신고

"님의 댓글"

이 댓글을 신고하시겠습니까?

댓글 삭제

"님의 댓글"

삭제하시겠습니까?


목록

공유

facebooktwitterpinterestbandkakao story

등록된 글이 없습니다.