전체 글

Groq 무료 API 키 로테이션 + Ollama 로컬 폴백으로 LLM 비용 0원 자동화 아키텍처 구축하기

API 요금 폭탄 걱정 없이 자동화 파이프라인을 운영할 수 있을까LLM을 활용한 자동화 파이프라인을 운영하다 보면 가장 먼저 부딪히는 문제는 API 요금의 불확실성이다. 호출량이 늘어나는 순간 과금이 선형적으로 증가하고, 특정 공급자의 한도(quota)가 소진되면 파이프라인 전체가 멈춰버린다. 이 문제를 해결하기 위해 유료 API를 전혀 호출하지 않고, 무료 클라우드 LLM(Groq)과 로컬 LLM(Ollama)을 조합한 폴백(fallback) 라우터를 실제로 구축하고 운영한 경험을 공유한다.아키텍처 설계: 무료 클라우드 우선 호출 → 로컬 LLM 자동 폴백핵심은 단일 공급자에 의존하지 않는 작업 기반 라우팅(Task Router)이다. 작업 유형(대본 생성, 요약, 번역 등)별로 호출 순서를 미리 정의..

[실전 가이드] Claude Code와 Antigravity로 구축하는 AI 코딩 에이전트 운용법과 한도 관리 노하우

1. 단순 챗봇을 넘어 코딩 에이전트로: 개발 패러다임의 변화최근 개발 현장에서는 웹 인터페이스에서 단순 질의응답을 주고받는 챗봇 수준을 넘어, 프로젝트 파일 시스템에 직접 접근하고 테스트를 주도적으로 실행하는 AI 코딩 에이전트(Claude Code, Antigravity)의 활용이 급격히 증가하고 있습니다. 단순 코드 추천과 달리 에이전트는 저장소 구조 분석, 의존성 탐색, 수정 후 단위 테스트 검증까지 연속적인 사이클을 처리하여 개발 생산성을 비약적으로 높여줍니다.2. 컨텍스트 및 토큰 한도(Quota) 방어 전략AI 에이전트를 실무 프로젝트에서 장시간 운용할 때 가장 빈번하게 부딪히는 장벽은 바로 토큰 소모량과 세션 한도입니다. 실제로 복잡한 리팩토링이나 기능 추가 시 컨텍스트 윈도우가 급격히 차..

[크롬 확장프로그램] 우울·부정적 단어를 차단해주는 MindShield(마인드실드)

인터넷 커뮤니티를 보다 보면 원하지 않아도 우울하고 자극적인 글이나 댓글을 마주칠 때가 있습니다. 특히 여러 게시글을 빠르게 넘겨보는 상황에서는 제목이나 댓글에 포함된 부정적인 표현을 일일이 피하기도 어렵습니다.“보고 싶지 않은 글은 처음부터 안 보이면 좋지 않을까?”이런 생각에서 만든 크롬 확장프로그램이 바로 MindShield(마인드실드)입니다.MindShield란?MindShield는 웹페이지의 우울·자해·혐오·비속어 등 부정적인 단어를 실시간으로 감지해 블러, 숨김, 마스킹 등으로 걸러주는 디지털 멘탈 케어 크롬 확장프로그램입니다. 브라우저 안에서 로컬로 동작하기 때문에 개인정보나 브라우징 기록을 외부 서버로 전송하지 않습니다.4가지 차단 모드 - 블러 엿보기, 완전 숨김, 긍정어 마스킹, 소프트..

[크롬 확장프로그램] YouTube 가장 많이 본 구간으로 자동 이동하는 YTPeakJumper

YTPeakJumper란?YouTube 영상을 보다 보면 긴 인트로나 광고를 지나고 나서야 본론이 시작되는 경우가 많습니다. YTPeakJumper는 이런 불편함을 줄이기 위해 만든 크롬 확장프로그램입니다.YouTube가 제공하는 ‘가장 많이 본 구간(Most replayed)’ 데이터를 분석해 사람들이 실제로 많이 되돌려 본 구간을 찾아 그 위치부터 재생합니다.👉 YTPeakJumper주요 기능영상이 시작되면 광고 이후 가장 많이 본 구간으로 자동 이동자동 이동 후 알림에서 되돌리기 가능재생바에 많이 본 구간을 표시하고 원하는 지점을 직접 선택 가능?t=90처럼 영상 시작 시간이 지정된 링크는 건드리지 않음이어보기 위치가 5초 이상 남아 있으면 기존 재생 위치를 유지Shorts, 라이브, 프리미어, ..