한별시스템
가이드

사내 AI 도입 비용, 단계별로 얼마나 드나

사내 AI·데이터 관리 · 2026.08.26 기준

GPU 서버부터 사자는 이야기를 듣고 검토만 하다 끝나는 회사가 많습니다. 실제로는 3단계로 나눠 들어갑니다.

한 문단 요약

사내 AI 도입 비용, 단계별로 얼마나 드나

사내 AI는 한 번에 다 갖추는 것이 아니라 3단계로 나눠 들어갑니다. 1단계는 지금 쓰는 NAS 그대로 공유 폴더를 AI가 찾아 주게 하는 구성이라 장비 추가가 없고, 2단계는 NAS 안에 소형 모델을 상주시키는 구성이라 RAM 증설과 SSD 캐시가 필요하며, 3단계는 GPU를 얹은 전용 장비로 금액대가 크게 올라갑니다. 한별시스템은 2단계에 해당하는 구성을 자사 NAS(Ryzen V1500B, RAM 4GB)에서 2026년 8월 3일부터 직접 운영 중이며 소형 모델 기준 답변 7~60초, 생성 속도 초당 11~12 토큰, 모델 상주 메모리 약 2.1GB를 실측했습니다. 1단계에서 직원들이 실제로 쓰는지 확인한 뒤 올라가는 방식을 권합니다.

1단계
장비 추가 없음
2단계
RAM 증설 + SSD
3단계
GPU 전용 장비
실측 답변
7~60초

단계별 비교

금액은 현장 장비 상태에 따라 달라집니다. 아래는 무엇이 필요한지를 비교하기 위한 표입니다.

구분1단계 문서 검색2단계 사내 AI 서버3단계 온프레미스
필요 장비기존 시놀로지 NASDS925+ 급 + RAM 증설(최대 32GB) + M.2 SSDGPU 장착 전용 서버
추가 장비 비용없음RAM·SSD 값서버 한 대 값
할 수 있는 일폴더에서 문서 찾기사내 문서를 근거로 답하기큰 모델로 실무 수준 답변
답변 속도검색 수준7~60초(실측)체감 즉답 수준
자료 외부 유출없음없음없음
맞는 회사NAS를 이미 쓰는 곳기밀·개인정보를 다루는 곳망분리·고보안 요구 기관

왜 1단계부터 시작하나

한 번에 3단계로 가면 대부분 돈만 쓰고 안 쓰는 장비가 됩니다. AI는 도입보다 정착이 어렵습니다. 직원들이 실제로 하루에 몇 번 쓰는지가 확인되지 않은 상태에서 서버를 사면 그 장비는 몇 달 뒤 꺼져 있습니다.

1단계는 장비를 추가하지 않기 때문에 실패해도 잃는 것이 없습니다. 여기서 쓰임이 확인되면 2단계로 올라가는 근거가 생깁니다.

대구·경북 대학교 Synology RS2421+ 설치 현장
대구·경북 대학교 · Synology RS2421+ (실제 시공 현장)

2단계로 올라가도 되는 신호

아래 중 두 가지 이상에 해당하면 2단계 검토 시점입니다.

  • ·직원이 하루에도 몇 번씩 예전 자료를 찾아 헤맨다
  • ·외부 챗봇에 회사 자료를 붙여 넣는 일이 이미 벌어지고 있다
  • ·개인정보나 기밀 때문에 외부 AI를 쓸 수 없다고 판단했다
  • ·NAS에 수 TB 이상 자료가 쌓여 있고 계속 늘고 있다

이 글과 관련해 자주 묻는 질문

GPU 없이도 정말 되나요?

됩니다. 한별시스템 자사 NAS는 GPU 없이 CPU만으로 돌리고 있고 초당 11~12 토큰이 나옵니다. 다만 답변 속도와 모델 크기를 실무 수준으로 올리려면 그때 GPU가 필요해집니다.

2단계 구성에서 RAM은 얼마나 필요한가요?

실측으로 소형 모델 하나가 메모리에 상주할 때 약 2.1GB를 씁니다. RAM 4GB 장비에서는 NAS 본래 기능과 같이 돌리기 빠듯해 증설이 사실상 필수입니다. DS925+ 급은 최대 32GB까지 늘릴 수 있습니다.

글로는 판단이 어려우면 현장을 보고 말씀드립니다. 대구·경북 당일 방문, 방문 견적 무료.

전화 원격지원 견적