LLM 13

ChatGPT o1: 새로운 AI 모델의 등장과 그 의미

지난달 OpenAI에서 새로운 AI 모델인 ChatGPT o1이 출시되었습니다. 이 모델은 이전 버전들과는 다른 독특한 기능과 성능을 갖추고 있어 많은 주목을 받고 있습니다. 특히 눈에 띄는 점은, ChatGPT o1이 추론 과정을 보여준다는 점입니다. 질문을 듣고 대답을 출력하기까지의 과정을 상세히 설명해주기 때문에, 사용자가 답변이 어떻게 도출되었는지 쉽게 이해할 수 있습니다. 이러한 기능은 이전 모델들과 차별화되는 중요한 요소로 자리 잡고 있습니다.ChatGPT o1의 적용 사례제가 직접 사용해본 결과, 특히 대학교 교재의 연습문제에 답이 없는 경우에 ChatGPT o1이 큰 도움이 될 것이라고 생각합니다. 연습문제는 정해진 답이 없을 때가 많아, 논리적 추론이 요구되는데, 이 모델은 이러한 문제 ..

LLM 2024.10.14

LLama 3.2의 출시: 가정용 PC에서도 가능해진 LLM

LLama 3.2가 새롭게 출시되었습니다. 이번 버전에서 가장 인상 깊었던 점은 모델의 크기가 작아졌다는 것입니다. LLama 3.1에서는 가장 작은 모델이 8B였지만, 이번 LLama 3.2에서는 1B, 3B 모델까지 출시되었습니다. 이로 인해 상대적으로 작은 GPU를 보유한 사용자들도 부담 없이 LLM(대규모 언어 모델)을 활용할 수 있게 되었습니다. 작은 모델의 등장과 그 의미1B, 3B 모델의 출시는 특히 고사양 GPU가 없는 사용자들에게 희소식입니다. 8B 이상의 대형 모델을 실행하기에는 고성능 GPU와 많은 메모리가 필요했지만, 이번에는 3GB 정도의 메모리만으로도 충분히 사용할 수 있게 되었습니다. LLama 3.1의 8B 모델과 비교하면 성능 면에서는 다소 떨어지지만, 중요한 것은 이제 훨..

LLM 2024.09.30

EXAONE 사용 후기

LG AI 연구원에서 만든 EXAONE이 공개되었다고해서 한번 사용해보았다.  예제 코드가 잘 되어있으니 바로 쓸 수 있었다.  참고 사항- 개인 계정의 토큰으로 로그인이 필요했다. 실행 결과 (서버컴으로 할때는 되었는데, 예시를 보여줄려고 집컴으로 했더니 안된다..ㅠ)내가 서버컴으로 했을때의 경험을 이야기하면,1. 말을 잘 생성한다는 느낌을 받았다. 2. 같은 질문을 입력하면 똑같은 대답이 나온다.- chatgpt같은 다른 LLM 모델과 다른 이질적인 느낌이 들었다. - 질문에 마침표 몇개만 추가해도 비슷하지만 다른 결과가 나옴-(추가) 아마도 LLM 캐시로 인해서 같은 답이 나오는 것 같음3. 할루시네이션을 막기위해 노력한 것은 보임- 특정 잘못된 질문을 해봐도 사실과 거짓을 잘 분류해서 알려줌- 그..

LLM 2024.08.13