# AI 모델은 계속 바뀐다 — 모델 교체 가능한 구조로 만드는 법 (레지스트리·라우팅·폴백)

> 지금 1등 모델이 1년 뒤 1등이 아닙니다. 모델 레지스트리·라우팅·폴백·교체 절차·평가 기준 5개 장치가 있으면 모델이 바뀌어도 사업은 안 멈춥니다. "모델 바꾸면 뭐가 깨지나" 점검표 10과 업무별 모델 등급표. 마음컴퍼니는 어떤 AI가 이겨도 고객이 유리한 구조를 만듭니다. [AI 조직 운영체제 시리즈 5]

- 발행: 2026-09-08 · 분류: AI 도입
- 정본(HTML): https://maeum.io/blog/ai-model-routing-switch/
- 시리즈: 「AI 조직 운영체제」 5편 / 0~25편 · 허브 https://maeum.io/ai-org-os/ · 이전 https://maeum.io/blog/ai-workflow-integration/ · 다음 https://maeum.io/blog/organizational-memory-rag/
- 저자: 마음컴퍼니 (MAEUM) — 정가를 공개하는 AI 개발사 · https://maeum.io

AI 도입에서 가장 자주 빠지는 설계가 **"모델이 바뀌면 어떻게 하나"**입니다. OpenAI 2026 논문은 2026년 초에 도입 시기와 무관하게 **모든 회사의 사용량이 동시에 뛰었다**고 보고합니다 — 제품·모델 쪽의 변화가 사용 전체를 흔든다는 뜻입니다. 그 변화는 앞으로도 계속됩니다. 그래서 다섯 가지 장치가 필요합니다: **① 모델 목록(레지스트리) ② 업무별 배정(라우팅) ③ 실패 시 대체(폴백) ④ 교체 절차 ⑤ 평가 기준.** 마음컴퍼니의 원칙은 하나입니다 — **AI의 승자를 맞히는 대신, 어떤 AI가 이겨도 고객이 유리한 구조를 만듭니다.** SaaS 운영형(구축 70만 원부터 + 월 49·99·149만 원)은 모델 교체가 월 요금에 포함됩니다.

## 지금 1등이 1년 뒤 1등이 아닙니다 — 논문이 본 동시 가속

OpenAI 논문의 그림 하나. 2024년 1분기에 도입한 회사도, 2025년 4분기에 도입한 회사도, **2026년 초에 사용량이 동시에 뛰었습니다.** 저자들은 이걸 "도입 후 자연스러운 확장이 아니라, 고객 전체에 영향을 준 변화"로 해석합니다. 모델이 좋아지거나 기능이 추가되면 사용 전체가 움직인다는 겁니다.
거꾸로 말하면, 특정 모델·특정 회사에 시스템을 묶어두면 그 변화를 못 탑니다. 더 좋은 모델이 나와도 갈아탈 수 없고, 가격이 오르거나 서비스가 바뀌어도 대안이 없습니다. 논문에 인용된 다른 연구들도 기업이 여러 AI 공급자를 동시에 쓰는(multihoming) 흐름을 보고합니다.
그래서 "어떤 모델을 쓸까"보다 **"모델을 어떻게 바꿀 수 있게 만들까"**가 먼저입니다.

## 다섯 가지 장치

| | 장치| 무엇| 없으면 |

| ① 레지스트리| 쓸 수 있는 모델 목록. 이름·용도·단가·속도·데이터 처리 방식을 한 표에.| 누가 어느 모델을 쓰는지 아무도 모름 |
| ② 라우팅| 업무별로 어느 모델을 쓰는지 규칙. "문의 분류 = 저비용, 계약 검토 = 상위".| 비싼 모델로 단순 분류, 싼 모델로 계약 검토 |
| ③ 폴백| 1순위 모델이 실패·지연·중단되면 2순위로 자동 전환.| AI 회사 장애 = 우리 회사 장애 |
| ④ 교체 절차| 새 모델을 넣을 때 순서: 등록 → 표본 비교 → 일부 업무 전환 → 전체 전환 → 이전 모델 대기.| 바꾸고 나서 뭐가 깨졌는지 모름 |
| ⑤ 평가 기준| 업무별 "좋은 결과"의 정의와 표본. 모델 비교의 잣대.| "새 게 더 좋은 것 같다"로 결정 |

다섯 개 전부가 첫날 필요한 건 아닙니다. 첫 자리 하나로 시작할 때는 ①과 ③만 있어도 됩니다. 업무가 셋 이상 되면 ②, 모델을 처음 바꿀 때 ④⑤가 생깁니다.

## 업무별 모델 등급 — 라우팅 규칙의 예

모델은 보통 세 등급으로 나눕니다. 이름은 회사마다 바뀌지만 구조는 같습니다.
| | 업무| 필요한 것| 등급| 이유 |

| 문의 분류·태그| 빠르고 싸게, 대량| 경량| 틀려도 되돌릴 수 있고 건수가 많음 |
| 예약·정산 안내 문자 초안| 템플릿 채우기| 경량| 창의성 불필요, 형식 고정 |
| 고객 답변 초안 (자유 문의)| 맥락 이해| 표준| 사람이 검토하지만 초안 품질이 시간 좌우 |
| 회의록 요약·리포트 초안| 긴 입력 처리| 표준| 입력이 길고 구조화 필요 |
| 계약 조항 비교·리스크 표시| 정확도, 놓치면 안 됨| 상위| 틀리면 외부 피해, 건수 적음 |
| 코드 생성·디버깅| 추론| 상위| 품질 차이가 결과 차이 |

규칙은 **"틀렸을 때 비용"과 "건수"** 두 축으로 정합니다. 건수 많고 틀려도 되는 건 경량, 건수 적고 틀리면 안 되는 건 상위. 이 표가 곧 [10편 AI 비용](https://maeum.io/blog/ai-cost-finops/)의 절반입니다.

## "모델 바꾸면 뭐가 깨지나" 점검표 10

새 모델로 전환하기 전에 확인할 열 가지입니다. 하나라도 "모름"이면 전환을 미루는 게 맞습니다.

- **1. 프롬프트** — 이전 모델에 맞춰 쓴 지시문이 새 모델에서 같은 결과를 내는가.
- **2. 출력 형식** — JSON·표·항목 구조가 그대로 나오는가. 시스템이 그 형식을 읽고 있다면 여기서 깨집니다.
- **3. 길이 한도** — 한 번에 넣을 수 있는 입력 길이가 줄어들진 않았나.
- **4. 속도** — 응답 시간이 고객 화면에서 허용 범위인가.
- **5. 단가** — 같은 업무의 월 비용이 어떻게 바뀌나.
- **6. 데이터 처리** — 새 모델 회사의 데이터 보관·학습 사용 조건이 우리 규정과 맞나.
- **7. 도구 호출** — 에이전트가 쓰는 도구(DB 조회·발송)를 새 모델도 같은 방식으로 부르나.
- **8. 평가 표본** — 업무별 표본 20~50건으로 이전·신규 결과를 나란히 비교했나.
- **9. 되돌리기** — 전환 후 문제 생기면 이전 모델로 즉시 돌아갈 스위치가 있나.
- **10. 기록** — 어느 업무가 언제 어느 모델로 바뀌었는지 남기나.
마음컴퍼니는 이 열 가지를 교체 절차(④)에 넣어두고, SaaS 운영형에서 모델 전환을 월 요금 안에서 처리합니다. 고객이 "새 모델로 바꿔달라"고 하실 때 견적서가 가지 않습니다.

## 내 API 키(BYOK)와 폐쇄망 — 구조가 있으면 선택지가 생깁니다

다섯 장치가 갖춰지면 두 가지 선택지가 열립니다.

- **내 API 키로 운영(BYOK)** — AI 사용료를 고객 회사가 AI 회사에 직접 냅니다. 마음컴퍼니는 시스템만 운영하고 AI 비용은 투명하게 고객 계정에서 나갑니다. 비용 통제와 데이터 계약을 고객이 직접 쥡니다.
- **폐쇄망·온디바이스** — 인터넷으로 내보낼 수 없는 데이터가 있는 회사는 사내 서버나 기기 안에서 도는 모델을 씁니다. 마음컴퍼니는 클라우드 API부터 자체 온디바이스 런타임까지 환경에 맞게 다룹니다.
둘 다 "모델을 갈아끼울 수 있는 구조"가 먼저 있어야 가능합니다. 특정 모델에 묶인 시스템은 이 선택지 자체가 없습니다. 보안·데이터 경계는 [9편](https://maeum.io/blog/ai-security-privacy-audit/)에서 다룹니다.

## 출처 — 논문이 말한 것 / 마음컴퍼니의 확장

- **논문이 말한 것**: 2026년 초 모든 도입 코호트에서 사용량이 동시에 가속 — 고객 전반에 영향을 준 변화로 해석. 관련 문헌은 기업의 복수 AI 공급자 사용(multihoming)을 보고. (Chatterji et al., OpenAI 2026-08-11, [원문 PDF](https://cdn.openai.com/pdf/how-organizations-use-chatgpt.pdf))
- **마음컴퍼니의 확장**: 5장치, 3등급 라우팅, 점검표 10, BYOK·폐쇄망 옵션. 논문에 없는 저희 설계 방식입니다.

## 마음컴퍼니 정가 (부가가치세 별도 · 최종 금액은 진단 후 확정)

- 진단 5회권: 25만 원 (회당 최대 90분, 데모 시연 포함)
- SaaS 운영형 (추천): 구축 70만 원부터 + 월 49·99·149만 원 — 서버·AI·개선·추가 기능 구축·월간 성과 리포트 포함, 인원수 과금 없음
- SI 소유형: 구축 250만 원부터 (제대로 구축 700만~) — 이후 월 구독료 없음, 관리는 회차권
- SEO·GEO·검색 상위노출은 구축에 무료로 포함. 데모는 무료 — 실제로 눌러보고 마음에 들 때만 계약.
- 가격 정본(기계용 JSON): https://maeum.io/facts.json

## 자주 묻는 질문

**Q. 그냥 제일 좋은 모델 하나만 쓰면 안 되나요?**
A. 첫 자리 하나일 때는 그래도 됩니다. 다만 그때도 폴백(③) 하나는 두시길 권합니다. 업무가 셋을 넘으면 비용 차이가 커져서 라우팅(②)이 필요해집니다 — 분류에 상위 모델을 쓰면 월 비용이 몇 배가 됩니다.

**Q. ChatGPT Enterprise만 쓰기로 했는데도 이게 필요한가요?**
A. 그 안에서도 모델이 여러 개고 계속 바뀝니다. 레지스트리와 평가 기준은 한 회사 제품 안에서도 필요합니다. 그리고 계약이 끝나거나 조건이 바뀔 때 대안이 있는 것과 없는 것은 협상력이 다릅니다.

**Q. 모델을 바꾸면 직원들이 다시 배워야 하나요?**
A. 시스템에 심은 AI는 직원이 모델을 직접 상대하지 않습니다. 문의가 오면 분류되고 초안이 나오는 건 같습니다. 바뀌는 건 뒤에서 도는 모델뿐입니다. 그게 시스템에 심는 이유 중 하나입니다.

**Q. AI가 필요 없는 업무도 있나요?**
A. 많습니다. 규칙이 완전히 정해진 계산·정렬·알림은 AI 없이 코드로 하는 게 싸고 정확합니다. 마음컴퍼니는 AI가 필요 없으면 AI를 넣지 않습니다. 레지스트리에 "AI 아님"도 한 줄로 들어갑니다.

**Q. 비용은요?**
A. 모델 선택·라우팅 초안은 진단 5회권 25만 원 2회차. 시스템은 SaaS 운영형 구축 70만 원부터 + 월 49·99·149만 원(모델 교체 포함, 인원수 과금 없음), SI 소유형 250만 원부터. AI 사용료는 BYOK면 고객 계정에서 직접, 아니면 플랜에 포함된 범위 내. 부가가치세 별도.

## 함께 읽기

- [[시리즈 4] 업무 흐름에 AI를 심는 법 — 6단계](https://maeum.io/blog/ai-workflow-integration/)
- [[시리즈 6] 회사의 기억을 AI에 연결하기 — 컨텍스트·조직 메모리·사내 검색·RAG](https://maeum.io/blog/organizational-memory-rag/)
- [SaaS AI 비용 통제 — OpenAI 청구서 쇼크를 피하는 법](https://maeum.io/blog/ai-cost-control-for-saas/)

---
마음컴퍼니 (MAEUM) · 무료 데모: https://maeum.io/start/ · 정가: https://maeum.io/price/ · 문의: support@maeum.io