지금 1등이 1년 뒤 1등이 아닙니다 — 논문이 본 동시 가속
OpenAI 논문의 그림 하나. 2024년 1분기에 도입한 회사도, 2025년 4분기에 도입한 회사도, 2026년 초에 사용량이 동시에 뛰었습니다. 저자들은 이걸 "도입 후 자연스러운 확장이 아니라, 고객 전체에 영향을 준 변화"로 해석합니다. 모델이 좋아지거나 기능이 추가되면 사용 전체가 움직인다는 겁니다.
거꾸로 말하면, 특정 모델·특정 회사에 시스템을 묶어두면 그 변화를 못 탑니다. 더 좋은 모델이 나와도 갈아탈 수 없고, 가격이 오르거나 서비스가 바뀌어도 대안이 없습니다. 논문에 인용된 다른 연구들도 기업이 여러 AI 공급자를 동시에 쓰는(multihoming) 흐름을 보고합니다.
그래서 "어떤 모델을 쓸까"보다 "모델을 어떻게 바꿀 수 있게 만들까"가 먼저입니다.
다섯 가지 장치
| 장치 | 무엇 | 없으면 |
|---|---|---|
| ① 레지스트리 | 쓸 수 있는 모델 목록. 이름·용도·단가·속도·데이터 처리 방식을 한 표에. | 누가 어느 모델을 쓰는지 아무도 모름 |
| ② 라우팅 | 업무별로 어느 모델을 쓰는지 규칙. "문의 분류 = 저비용, 계약 검토 = 상위". | 비싼 모델로 단순 분류, 싼 모델로 계약 검토 |
| ③ 폴백 | 1순위 모델이 실패·지연·중단되면 2순위로 자동 전환. | AI 회사 장애 = 우리 회사 장애 |
| ④ 교체 절차 | 새 모델을 넣을 때 순서: 등록 → 표본 비교 → 일부 업무 전환 → 전체 전환 → 이전 모델 대기. | 바꾸고 나서 뭐가 깨졌는지 모름 |
| ⑤ 평가 기준 | 업무별 "좋은 결과"의 정의와 표본. 모델 비교의 잣대. | "새 게 더 좋은 것 같다"로 결정 |
다섯 개 전부가 첫날 필요한 건 아닙니다. 첫 자리 하나로 시작할 때는 ①과 ③만 있어도 됩니다. 업무가 셋 이상 되면 ②, 모델을 처음 바꿀 때 ④⑤가 생깁니다.
업무별 모델 등급 — 라우팅 규칙의 예
모델은 보통 세 등급으로 나눕니다. 이름은 회사마다 바뀌지만 구조는 같습니다.
| 업무 | 필요한 것 | 등급 | 이유 |
|---|---|---|---|
| 문의 분류·태그 | 빠르고 싸게, 대량 | 경량 | 틀려도 되돌릴 수 있고 건수가 많음 |
| 예약·정산 안내 문자 초안 | 템플릿 채우기 | 경량 | 창의성 불필요, 형식 고정 |
| 고객 답변 초안 (자유 문의) | 맥락 이해 | 표준 | 사람이 검토하지만 초안 품질이 시간 좌우 |
| 회의록 요약·리포트 초안 | 긴 입력 처리 | 표준 | 입력이 길고 구조화 필요 |
| 계약 조항 비교·리스크 표시 | 정확도, 놓치면 안 됨 | 상위 | 틀리면 외부 피해, 건수 적음 |
| 코드 생성·디버깅 | 추론 | 상위 | 품질 차이가 결과 차이 |
규칙은 "틀렸을 때 비용"과 "건수" 두 축으로 정합니다. 건수 많고 틀려도 되는 건 경량, 건수 적고 틀리면 안 되는 건 상위. 이 표가 곧 10편 AI 비용의 절반입니다.
"모델 바꾸면 뭐가 깨지나" 점검표 10
새 모델로 전환하기 전에 확인할 열 가지입니다. 하나라도 "모름"이면 전환을 미루는 게 맞습니다.
- 1. 프롬프트 — 이전 모델에 맞춰 쓴 지시문이 새 모델에서 같은 결과를 내는가.
- 2. 출력 형식 — JSON·표·항목 구조가 그대로 나오는가. 시스템이 그 형식을 읽고 있다면 여기서 깨집니다.
- 3. 길이 한도 — 한 번에 넣을 수 있는 입력 길이가 줄어들진 않았나.
- 4. 속도 — 응답 시간이 고객 화면에서 허용 범위인가.
- 5. 단가 — 같은 업무의 월 비용이 어떻게 바뀌나.
- 6. 데이터 처리 — 새 모델 회사의 데이터 보관·학습 사용 조건이 우리 규정과 맞나.
- 7. 도구 호출 — 에이전트가 쓰는 도구(DB 조회·발송)를 새 모델도 같은 방식으로 부르나.
- 8. 평가 표본 — 업무별 표본 20~50건으로 이전·신규 결과를 나란히 비교했나.
- 9. 되돌리기 — 전환 후 문제 생기면 이전 모델로 즉시 돌아갈 스위치가 있나.
- 10. 기록 — 어느 업무가 언제 어느 모델로 바뀌었는지 남기나.
마음컴퍼니는 이 열 가지를 교체 절차(④)에 넣어두고, SaaS 운영형에서 모델 전환을 월 요금 안에서 처리합니다. 고객이 "새 모델로 바꿔달라"고 하실 때 견적서가 가지 않습니다.
내 API 키(BYOK)와 폐쇄망 — 구조가 있으면 선택지가 생깁니다
다섯 장치가 갖춰지면 두 가지 선택지가 열립니다.
- 내 API 키로 운영(BYOK) — AI 사용료를 고객 회사가 AI 회사에 직접 냅니다. 마음컴퍼니는 시스템만 운영하고 AI 비용은 투명하게 고객 계정에서 나갑니다. 비용 통제와 데이터 계약을 고객이 직접 쥡니다.
- 폐쇄망·온디바이스 — 인터넷으로 내보낼 수 없는 데이터가 있는 회사는 사내 서버나 기기 안에서 도는 모델을 씁니다. 마음컴퍼니는 클라우드 API부터 자체 온디바이스 런타임까지 환경에 맞게 다룹니다.
둘 다 "모델을 갈아끼울 수 있는 구조"가 먼저 있어야 가능합니다. 특정 모델에 묶인 시스템은 이 선택지 자체가 없습니다. 보안·데이터 경계는 9편에서 다룹니다.
출처 — 논문이 말한 것 / 마음컴퍼니의 확장
- 논문이 말한 것: 2026년 초 모든 도입 코호트에서 사용량이 동시에 가속 — 고객 전반에 영향을 준 변화로 해석. 관련 문헌은 기업의 복수 AI 공급자 사용(multihoming)을 보고. (Chatterji et al., OpenAI 2026-08-11, 원문 PDF)
- 마음컴퍼니의 확장: 5장치, 3등급 라우팅, 점검표 10, BYOK·폐쇄망 옵션. 논문에 없는 저희 설계 방식입니다.
SEO·GEO·검색 상위노출은 구축에 무료로 포함됩니다. 프로그램 데모는 무료 — 실제로 눌러보고, 마음에 들 때만 계약하세요.