NAS RAM을 얼마나 늘려야 AI를 쓸 수 있나요?

실측 기준

소형 모델 하나가 메모리에 상주할 때 약 2.1GB를 씁니다. RAM 4GB 장비에서는 NAS 본래 기능에 남는 여유가 400MB 안팎이라 빠듯합니다. 문제가 생기면 모델을 메모리에 붙잡아 두는 시간을 줄이는 것이 1차 조치이고, 근본 해결은 RAM 증설입니다.

증설 판단

DS925+ 급은 RAM을 최대 32GB까지 늘릴 수 있어 사내 AI 서버의 기준 모델로 봅니다. 현재 장비로 되는지, 증설로 되는지, 장비를 바꿔야 하는지는 현장에서 실제 메모리 사용량을 보고 정합니다.

메모리가 어디에 쓰이는지부터

AI 모델은 답을 만들 때 모델 전체를 메모리에 올려 두고 씁니다. 모델이 클수록 상주 메모리가 커지고, 같은 모델이라도 용량을 줄인(양자화한) 버전은 덜 씁니다. 여기에 대화 내용을 기억하는 문맥 버퍼, 모델을 돌리는 컨테이너 자체가 더해집니다. 한별시스템 실측에서 소형 모델 하나가 약 2.1GB를 차지한 것은 이 전부를 합친 숫자입니다.

문제는 NAS가 AI만 돌리는 장비가 아니라는 점입니다. 운영체제(DSM), 파일 공유, 스냅샷, 백업 패키지, 그리고 파일을 빠르게 내주기 위한 캐시가 모두 같은 RAM을 나눠 씁니다. 4GB 장비에서 2.1GB를 모델이 가져가면 남는 1.9GB 안에서 NAS 본래 일이 돌아가야 합니다. 캐시가 줄면 AI가 아니라 파일 서버 속도가 먼저 느려지고, 메모리가 모자라면 모델이 내려갔다가 다시 올라오느라 첫 답변이 더 늦어집니다. 빠듯하다는 말은 이런 뜻입니다.

RAM을 늘리면 답이 빨라지나요

그렇지는 않습니다. RAM은 모델이 올라가느냐 마느냐를 정하고, 답이 나오는 속도는 CPU가 정합니다. 한별시스템 NAS는 GPU가 없는 Ryzen V1500B이고 실측 생성 속도는 초당 11~12토큰, 답변 시간은 0.6B 모델 7~29초, 1.7B 모델 16~60초였습니다. RAM을 32GB로 늘려도 이 토큰 속도는 그대로입니다.

RAM 증설로 달라지는 것은 세 가지입니다. 첫째, 더 큰 모델을 올릴 수 있습니다. 둘째, 여러 사람이 동시에 질문해도 모델이 내려가지 않습니다. 셋째, NAS 본래 기능에 캐시 여유가 생겨 파일 서버 속도를 지킵니다. 반대로 더 큰 모델을 올리면 답변 시간은 같은 CPU에서 더 길어지므로, 크기를 키우는 것이 늘 이득은 아닙니다. 사내 문서 검색과 요약이 목적이면 소형 모델에 메모리 여유를 주는 쪽이 실용적입니다.

RAM 크기별 판단 기준

실측한 것은 4GB 장비뿐이므로 그 위는 일반적인 기준으로만 말씀드립니다. 모델 크기가 두 배면 상주 메모리도 대략 두 배로 봅니다. 4GB는 소형 모델 하나를 참고용으로 돌리는 수준이고, 8GB면 소형 모델과 NAS 기능이 서로 밀어내지 않습니다. 16GB부터는 수 B급 중형 모델과 사내 문서 검색용 색인을 같이 두는 구성을 검토할 수 있고, 32GB는 그보다 큰 모델이나 여러 사람이 동시에 쓰는 경우에 맞습니다. 어느 경우든 GPU가 없는 NAS에서는 답변이 수십 초 걸린다는 전제는 같습니다.

메모리를 고를 때는 장비마다 규격과 최대 용량이 다르고, 시놀로지는 정품 메모리 사용을 권장하며 비정품을 꽂으면 경고를 띄우는 기종도 있습니다. 모듈 가격은 규격과 용량에 따라 달라 별도로 안내합니다. 사내 AI 구성 전반은 /ai/ 페이지에서 보실 수 있습니다.