돌돌

  • 홈
  • 태그
  • 방명록

1b 1

LLama 3.2의 출시: 가정용 PC에서도 가능해진 LLM

LLama 3.2가 새롭게 출시되었습니다. 이번 버전에서 가장 인상 깊었던 점은 모델의 크기가 작아졌다는 것입니다. LLama 3.1에서는 가장 작은 모델이 8B였지만, 이번 LLama 3.2에서는 1B, 3B 모델까지 출시되었습니다. 이로 인해 상대적으로 작은 GPU를 보유한 사용자들도 부담 없이 LLM(대규모 언어 모델)을 활용할 수 있게 되었습니다. 작은 모델의 등장과 그 의미1B, 3B 모델의 출시는 특히 고사양 GPU가 없는 사용자들에게 희소식입니다. 8B 이상의 대형 모델을 실행하기에는 고성능 GPU와 많은 메모리가 필요했지만, 이번에는 3GB 정도의 메모리만으로도 충분히 사용할 수 있게 되었습니다. LLama 3.1의 8B 모델과 비교하면 성능 면에서는 다소 떨어지지만, 중요한 것은 이제 훨..

LLM 2024.09.30
이전
1
다음
더보기
프로필사진

  • 분류 전체보기 (165)
    • 공지사항 (0)
    • 데이터 분석 (7)
    • LLM (11)
    • 코딩 (115)
      • 파이썬 (1)
      • SQL (65)
      • SQL 코딩테스트 (49)
    • 경제 (13)
    • 자격증 (18)
    • 책 (1)

Tag

ADP, round, Sum, 조인, substr, LLM, ChatGPT, 서브쿼리, having, Llama, distinct, 집계, 서브 쿼리, 심층 리서치, Join, where, 실기, 코딩테스트, sql, 결측치,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/06   »
일 월 화 수 목 금 토
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
29 30

방문자수Total

  • Today :
  • Yesterday :

티스토리툴바