AI 요금 폭탄 막는 ‘차단기’를 만들었는데, 석 달 동안 아무도 몰랐다

AI를 자동으로 돌려 본 분이라면 한 번쯤 이런 걱정을 하셨을 겁니다. “밤새 무한 반복에 빠져서 요금이 수십 달러 나오면 어떡하지?” 그 걱정 하나를 막으려고 작은 파이썬 라이브러리를 만들었습니다. 이름은 LLM 서킷 브레이커, 우리말로 하면 AI 요금 차단기입니다.

그리고 석 달 동안, 아무도 몰랐습니다. 이 글은 그 차단기 이야기이자, 만든 것을 알리지 못한 이야기입니다.

집 두꺼비집처럼 동작한다

집에 전기가 너무 많이 흐르면 두꺼비집이 “딸깍” 하고 내려갑니다. 이 라이브러리도 비슷합니다. 다만 전기를 끊지 않고 무료 쪽으로 돌립니다.

• AI를 부를 때마다 쓴 돈을 장부(파일)에 적습니다.
• 정해 둔 예산을 넘으면, 유료 AI 대신 내 PC에서 도는 무료 AI(Ollama 같은 로컬 모델)로 바로 넘어갑니다.
• 에러를 내고 멈추지도, 요금을 계속 쌓지도 않습니다. 자동화는 계속 돌아갑니다.
• 코드는 150줄 남짓이라 5분이면 다 읽을 수 있고, 서버나 대시보드가 필요 없습니다.

실제로 써 보니

제 자동화 중 매일 밤 “오늘의 지혜”를 만드는 작업 하나를 이 차단기로 바꿔 끼웠습니다. 8월 말부터 지금까지 43번 호출했고, 든 돈은 모두 합쳐 약 0.06달러였습니다. 장부를 보는 명령 한 줄이면 오늘·누적·모델별 비용이 바로 나옵니다.

실제 장부로 돌린 결과. 아래 줄은 하루 예산 대비 사용량을 한 줄로 보여 주는 기능입니다.

솔직한 아쉬움도 하나 보였습니다. 한 줄 요약(statusline)은 금액을 소수 둘째 자리까지만 보여 줘서, 오늘 쓴 0.0013달러가 “$0.00″으로 표시됩니다. 퍼센트(2.5%)는 맞게 나오지만, 아주 적은 금액을 쓰는 사람에게는 헷갈릴 수 있습니다.

직접 써서 찾은 버그

바꿔 끼운 첫날, 이상한 일이 생겼습니다. 1,600토큰 분량의 답을 요청했는데 답이 113자에서 뚝 끊겼습니다. 원인을 파 보니 구글 Gemini 2.5 모델의 “생각하기(thinking)” 기능이 기본으로 켜져 있어서, 정해 둔 토큰 예산을 눈에 보이지 않는 생각 과정이 다 먹어 버린 것이었습니다.

만든 사람이 직접 쓰지 않았다면 몰랐을 버그였습니다. 라이브러리에 생각하기를 끄는 기본값을 넣어 고쳤고, 같은 요청의 답이 113자에서 694자로 정상이 됐습니다. 이 수정은 새 버전(0.2.1)으로 배포했습니다.

그리고 석 달 동안 아무도 몰랐다

여기까지는 잘 만든 이야기입니다. 문제는 그다음이었습니다. 7월에 공개하고 석 달 동안 GitHub 별은 0개, 찾아온 사람도 거의 없었습니다. 해외 개발자 커뮤니티에 소개 글을 올렸다가 신규 계정이라 자동으로 삭제된 뒤로, 알리는 일을 멈췄습니다.

돌아보면 이유는 간단했습니다. 만드는 일은 혼자서 끝까지 할 수 있지만, 알리는 일은 남의 반응을 마주해야 합니다. 저는 늘 그 앞에서 멈췄습니다. 그래서 방법을 바꿨습니다. 남의 커뮤니티에 맨몸으로 가는 대신, 제 블로그에서 제가 만든 도구를 하나씩 직접 써 보고 그 이야기를 남기기로요. 이 글이 그 첫 번째 서킷 브레이커 이야기입니다.

이런 분께 맞습니다

• 파이썬으로 AI 자동화(에이전트, 예약 작업)를 돌리는데 요금 상한을 걸고 싶은 분
• 예산을 넘으면 멈추는 대신 무료 로컬 모델로라도 계속 돌길 원하는 분
• 무거운 게이트웨이 대신 읽을 수 있는 작은 코드를 선호하는 분

반대로 대시보드나 팀 단위 비용 관리가 필요하다면 더 큰 도구가 맞습니다. 이건 일부러 작게 만든 도구입니다.

설치

pip install llm-circuit-breaker
llm-cb cost                      # 오늘·누적 비용 보기
llm-cb statusline --daily-limit 5  # 하루 5달러 예산 대비 한 줄 요약

코드와 사용법: llm-circuit-breaker (GitHub) · PyPI. 무료(MIT)로 공개되어 있습니다. 써 보시고 불편한 점을 GitHub 이슈로 남겨 주시면, 그게 이 차단기의 첫 사람 반응이 됩니다.