llm (1) 썸네일형 리스트형 노트북에 설치해서 무제한 사용하는 챗GPT, LM Studio 챗GPT와 함께 생성AI 시대가 무르익어가면서 LLM도 설치해서 사용하는 시대가 도래하였습니다. 1. 로컬 PC에서 설치해서 LLM을 쓸수 있는 LM Studio 를 소개합니다. LM Studio(https://lmstudio.ai) 사이트에 접속하여 프로그램을 다운받아 설치합니다. 현재 유명한 LLM 모델들은 설치해볼 수 있습니다. 2. 최근 성능이 좋다고 알려진 LLM 모델들을 다 사용해볼 수 있습니다. LLM 모델명 뒤에 붙은 숫자 값은 파라미터 수인데 클수록 더 똑똑합니다. 다만 속도가 느리거나 로딩하는데 로컬PC의 메모리의 한계가 있을 수 있습니다. - SOLAR 10.7B : 자랑스러운 대한민국의 스타트업 업스테이지 LLM 모델 - Mixtral 8x7B : 최근 성능 좋기로 유명한 프.. 이전 1 다음
