정말 긴 연휴네요.
긴 연휴만큼 저의 장난감을 만들어 보고자 DXP6800PRO라는 모델을 구매해서 제 블로그 및 제가 수집해온 자료들을 정리하는 시간을 가지게 되었습니다.
하지만 하드웨어쟁이에게 이상한 취미생활이 하나 더 생겼는데요.
그것은 AI 를 활용해 보는 것입니다.
AI를 활용해서 좀더 다양한 내용을 확인 해 보고자 DGX Spark 를 구매 하려고 했으나, 제 카드에 총알이 없더군요…ㅠ
하드웨어를 하면 돈을 잘 못버는거 같다는 생각이 들기도 하고요.
고생은 고생대로 하고… ㅠ
DXP6800PRO 라는 모델은 다음의 이유로 선정이 되었습니다.
– Intel Core i5-1235U (10-core) processor,
– 8GB DDR5 RAM (expandable to 64GB)
– 10GbE network ports
– 6Bay System
– Thunderbolt 4, and M.2 NVMe…..
몇달전에 와디즈를 통해서 100만원도 안되는 돈에 구매를 했어야 했는데, 아쉽게 됬네요.(저런스펙에 100만원?!)
제 방의 데스크 셋업입니다.
셋업을 하는 모습들도 보여줬으면 좋을련만, 하도 막히는 소프트웨어 설정이 많아서… ^^;; 사진으로 기록을 하지 못했네요.
여차여차 해서, 해당 나스에 윈도우도 설치를 하고, 백업과 복원도 해보고, 이젠 LMM 모델을 만져 보기로 했습니다.
LMM 모델으로 선택한 모델들은
- mistral-nemo:12b
- llama3.2:3b
- llama3.1:8b
모델들이 사용되었습니다.
역시 같은 프롬프트라도 파라메타가 많으면 Response 시간이 길어지더군요.
모델의 성향도 타는거 같고.
이런 기회에 프롬프트를 만드는 것도 배우게 되었습니다.
명령어를 치는순간… 팬이 돌아가는 소리가… 장난아니더군요… ㅎ
제가 모델 vs 질의 내용의 결과물을 공유를 하고 이만 글을 마치도록 하겠습니다.
| mistral-nemo:12b | llama3.1:8b | llama3.2:3b | |
| 나는 드론을 만들어 보고 싶어. 무엇을 먼저 시작하는게 좋을까? 기반지식을 알려줘. |  |  |  |
| 문서 출력시간(첫글자찍히는 순간) | 10s | 10s | 5s |
여러분은 어떤 모델이 더 나은 품질의 답변이라고 생각하시나요?