Noti서버 없이 앱 안에 AI온디바이스 AI · 토큰비 0원
앱을 만들다 보니 앱 안에도 AI를 넣고 싶어졌어요. "이번 달 카드값 얼마야?"라고 물으면 답하는 기능이요. 그런데 ChatGPT 같은 API를 쓰면 부를 때마다 돈이 나가고, 서버도 필요해요. 혼자 만드는 앱에는 부담이에요.
폰 안에 이미 AI가 있다
최신 안드로이드 폰에는 AICore가 있고, 구글의 작은 AI Gemini Nano가 서버가 아니라 폰 안에서 돌아요.
- 토큰비 0원, 서버비 0원 — 사용자 폰이 직접 일해요.
- 인터넷이 끊겨도 되고, 데이터가 폰 밖으로 나가지 않아요.
- 대신 되는 폰에서만 켜져요(구글 ML Kit GenAI 문서 기준, 갤럭시 S25·S26 시리즈, 픽셀 9 이후 등). 안 되는 폰에서는 AI 기능만 숨기고 나머지는 그대로 되게 만들어요.
작은 AI는 그럴듯하게 틀린다
처음엔 질문을 통째로 AI에게 맡겼어요. "이번 달 카드값 얼마야?"에 AI는 자신 있게 "청구서 1건, 14,900원"이라고 답했어요. 실제로는 결제 78건, 6,395,108원이었어요. AI가 '카드값'을 '카드 청구서'로 알아들은 거예요.
일을 나눠 맡기기
① 사람이 정한 낱말 표 — '카드값', '결제', '입금' 같은 자주 나오는 말은 미리 뜻을 정해요.
② 표에 없는 말만 AI가 뜻풀이 — "저번 달에 스타벅스 몇 번 갔지?"를 '기간: 지난달 / 찾을 말: 스타벅스'로 정리해요.
③ 찾기·세기·합계는 코드가 — 폰에 쌓인 알림에서 건수와 금액을 세요.
④ 답은 AI가 사람 말로 — "이번 달 카드 결제는 78건, 6,395,108원이에요."
말은 AI가, 세기는 코드가. 이렇게 나누면 작은 AI로도 덜 틀리고 답도 빨라져요. 답이 틀릴 때마다 프롬프트에 규칙을 덧붙이고 싶어지지만, 규칙이 열 개를 넘어가자 오히려 다른 답이 망가졌어요. 실제 질문 40개쯤으로 시험지를 만들어 점수부터 재요.
이런 데도 쓸 수 있어요
- 영어 회화 — 점원처럼 대답하고 틀린 문장을 고쳐 줘요.
- 게임 NPC — 성격과 할 수 있는 행동만 정하면 그때그때 대답해요. 돈·아이템은 코드가 맡아요.
- 일기 요약, 리뷰 세 줄 정리, 매번 다른 퀴즈
정리
- 폰 안 AI로 토큰비·서버비 0원 — 되는 폰에서만 켜기
- 작은 AI는 돈과 건수를 그럴듯하게 틀린다
- 낱말 표 → AI 뜻풀이 → 코드가 세기 → AI가 말 다듬기
- 규칙을 더하기 전에 시험지로 점수부터