한별시스템은 AI를 실제로 다뤄 본 적이 있나요?
자사 NAS에서 직접 운영하고 있습니다. 2026년 8월 3일부터 로컬 LLM 컨테이너를 사내 관리 시스템에 연결해 돌리고 있고, 답변 시간과 메모리 사용량, 실패 사례까지 기록해 두었습니다.
파는 물건을 저희가 먼저 씁니다. 사내 AI 페이지에 실측 수치와 알려진 한계를 그대로 공개해 두었습니다.
공개하는 기록
2026년 8월 3일부터 자사 NAS에 로컬 LLM 컨테이너를 사내 관리 시스템에 연결해 돌리고 있습니다. 답변 시간 7~60초, 생성 속도 초당 11~12토큰, 상주 메모리 약 2.1GB, 메모리 초과로 컨테이너가 종료된 사례, 소형 모델의 계산 오류, 프롬프트 문구 하나로 답이 달라지는 함정까지 기록해 두었습니다.
왜 공개하나
사내 AI를 파는 곳은 많아도 직접 돌려 본 곳은 드뭅니다. 실측치와 실패 사례를 숨기면 도입 후에 고객이 같은 문제를 겪습니다. 미리 알려 드리는 편이 서로에게 쌉니다.
실측 수치를 어떻게 읽어야 하나
자사 NAS는 Ryzen V1500B에 메모리 4GB, GPU가 없는 사무용 사양입니다. 이 장비에서 0.6B 모델은 한 번 물으면 7~29초, 1.7B 모델은 16~60초 뒤에 답이 끝납니다. 글자를 만들어 내는 속도는 초당 11~12토큰이고, 모델이 메모리에 올라가 있는 동안 약 2.1GB를 차지합니다.
이 숫자는 그대로 판단 기준이 됩니다. 답이 길수록 시간이 비례해서 늘어나므로 긴 보고서를 통째로 쓰게 하는 일보다 짧게 찾아 요약하는 일에 맞습니다. 메모리 4GB 중 절반 이상을 모델이 쓰니, 같은 NAS에서 파일 공유와 백업을 함께 돌리려면 여유를 계산해야 합니다. 사양이 더 좋은 장비라면 더 큰 모델이나 더 빠른 답을 기대할 수 있고, 저희 수치는 GPU 없는 사무용 NAS에서 나오는 하한선으로 보시면 됩니다.
| 항목 | 실측값 | 고객사에 적용할 때의 의미 |
|---|---|---|
| 장비 | Ryzen V1500B, RAM 4GB, GPU 없음 | 일반 사무용 NAS 사양에서 나온 수치 |
| 답변 시간 | 0.6B 7~29초 / 1.7B 16~60초 | 즉답이 아니라 기다리는 도구 |
| 생성 속도 | 초당 11~12토큰 | 답이 길수록 시간이 비례 |
| 상주 메모리 | 약 2.1GB | 다른 서비스와 함께 돌릴 때 여유 확인 |
실패 사례에서 정한 운영 원칙
운영 중 숫자 계산을 간헐적으로 틀리는 사례가 있었습니다. 계산을 시키면 그럴듯한 숫자를 내놓는데 원본과 다른 경우가 있었습니다. 소형 모델은 문장을 만드는 데는 쓸 만하지만 산수와 표 집계에는 약합니다. 그래서 화면에 참고용이라는 고지를 붙였고, 숫자는 원본 문서와 대조해 쓰고 있습니다.
이 경험이 도입 상담의 기준이 됩니다. 사내 AI에 맡길 일은 문서 찾기, 요약, 초안 작성처럼 사람이 결과를 바로 확인할 수 있는 일로 한정하고, 계산과 집계는 기존 프로그램에 그대로 둡니다. 어디까지 믿고 어디서부터 사람이 확인해야 하는지를 먼저 겪어 봤기 때문에 과장 없이 설명할 수 있습니다. 실측 수치와 한계는 사내 AI 안내(/ai/)에 적어 두었습니다.