Galaxy S20에서 AI를 돌렸다.

Galaxy S20에서 AI를 돌렸다.

클라우드 없이.인터넷 없이.2020년에 나온 칩 위에서.

처음엔 그냥 궁금했다.

손에 들고 다니는 기기에서 AI가 진짜 돌아갈 수 있을까.서버 없이, 구독 없이, 내 데이터가 어딘가로 올라가지 않고.

Galaxy S20에 Termux를 깔았다.llama.cpp를 올렸다.모델을 얹었다.

돌아갔다.

초당 20토큰.

느리다고 볼 수도 있다.하지만 이건 2020년에 공개된 Galaxy S20이다. 삼성은 2020년 2월 Galaxy S20 시리즈를 공개했고, 당시에도 5G·AI·IoT가 결합되는 모바일 혁신을 강조했다.

그리고 지금, 그 오래된 기기 위에서 언어 모델이 실제로 추론하고 있었다.

클라우드 한 줄 없이.내 손 안에서.

그 순간 확신이 생겼다.

AI 시장은 지금까지 클라우드 중심으로 움직였다.거대한 데이터센터, 막대한 전력, HBM, DRAM, 파운드리, 수백억 달러 규모의 인프라 투자.

이 흐름의 중심에는 삼성 DS가 있다.

하지만 클라우드 AI에는 구조적 한계가 있다.

첫째, 가장 개인적인 데이터를 제대로 볼 수 없다.내 갤러리, 내 메모, 내 루틴, 내 앱 사용 맥락.이것들은 서버로 올리기엔 너무 사적이다.

둘째, 진짜 개인화된 AI가 요구하는 다단계 추론을 쿼리마다 클라우드에서 처리하기엔 비용이 너무 크다.

결국 개인 AI의 마지막 1마일은 서버가 아니라 디바이스 위에서 완성된다.

온디바이스 AI는 이 두 문제를 동시에 푼다.프라이버시와 비용.개인화와 지속성.속도와 통제권.

삼성 DX를 다시 보게 된 건 그때부터다.

갤럭시는 전 세계 수많은 사람의 주머니 안에 있다.삼성은 Galaxy AI를 S 시리즈를 넘어 더 넓은 모바일 생태계로 확장하고 있고, 2026년에는 AI 탑재 스마트폰 규모를 8억 대 이상으로 늘리는 방향을 제시하고 있다.

DX의 새 CTO 역시 주목할 만하다.삼성벤처투자 대표를 거친 윤장현 사장이 DX부문 CTO 겸 삼성리서치장으로 올라왔다. 그는 소프트웨어 플랫폼, IoT, Tizen, AI, 로봇 등 미래 기술과 맞닿아 있는 인물이다.

인프라도 있다.디바이스도 있다.분명한 방향성도 있다.

지금까지 부족했던 건 런타임이었다.

나는 7개월 동안 그걸 만들었다.

MAEUM Runtime.

내부 벤치마크 기준으로 Apple M5 위에서 확인한 수치들이다.

답할 수 없는 질문에 대한 환각: 23% → 0%개인 기억 호출 정확도: 100% @ 733ms기존 대비 8.5배 빠른 메모리 호출온디바이스 추론 속도: 70 tok/s메모리 대역폭 한계의 96%까지 활용

그리고 Galaxy S20에서는 20 tok/s.

2020년 칩이 이 정도라면, 최신 갤럭시 플래그십에서는 어디까지 갈 수 있을까.

모델 경쟁은 계속될 것이다.하지만 다음 전장은 모델 크기만이 아니다.

이제는 런타임 엔지니어링의 시대다.

어떤 모델을 쓰느냐보다,어디서 돌리느냐.얼마나 싸게 돌리느냐.얼마나 개인 데이터를 안전하게 다루느냐.얼마나 오래, 얼마나 빠르게, 얼마나 일관되게 추론하느냐가 중요해진다.

DS가 클라우드 AI의 인프라를 쥐고 있다면,DX는 온디바이스 AI의 최전선에 서 있다.

아직 시장은 이 가능성을 충분히 가격에 반영하지 않았다고 본다.

하지만 AI가 서버에서 디바이스로 내려오는 순간,가장 중요한 전장은 바뀐다.

그 흐름은 이미 시작됐다.

Galaxy S20 위에서 돌아가는 AI를 보면서,나는 그걸 직접 확인했다.