AI가 “말하는 앱”에서 “일을 맡는 운영체계”로 이동하는 날

📖 오늘의 AI 뉴스를 책처럼 읽기

뉴스를 조각으로 보면 OpenAI는 더 자연스러운 음성을 냈고, Google은 Gemini API의 managed agent 기능을 넓혔고, Hugging Face와 NVIDIA는 agent data를 이야기했으며, Cloudflare는 agentic Internet에서 콘텐츠 접근과 과금의 규칙을 다시 세우려 한다. 기술 언론은 코딩 대회, Grok 4.5 비용, Claude 계열 비용 구조 같은 성능과 가격 신호를 보탰다.

하지만 오늘의 장면을 하나의 문장으로 압축하면 이렇다. AI는 더 이상 “답변을 생성하는 상자”만이 아니다. AI는 사용자를 대신해 긴 작업을 이어 가는 작업흐름 실행자(workflow executor)가 되고 있고, 이 실행자를 둘러싼 세계는 새로운 도로·요금소·신호등·보험 규칙을 필요로 한다.

Prologue. 오늘 뉴스들이 가리키는 하나의 장면

우리는 오랫동안 AI를 “prompt를 넣으면 답이 나오는 기계”로 이해했다. 이 비유는 첫 세대 생성 AI를 설명하는 데 유용했다. 그러나 agent 시대의 AI는 prompt box 안에 머물지 않는다. 사람의 파일을 읽고, 웹을 검색하고, 도구를 호출하고, 코드를 실행하고, 결제나 인증이 필요한 자원 앞에서 멈춘다. 즉 AI는 문장 생성기에서 작업 공간의 행위자가 된다.

행위자가 되면 문제가 바뀐다. 모델이 3% 더 높은 benchmark를 찍었는지보다, 오래 걸리는 작업을 서버에서 안전하게 계속 실행할 수 있는지, 외부 도구와 연결될 때 권한을 어떻게 넘겨받는지, 실패한 도구 호출을 복구할 수 있는지, 평가 기준(eval)이 실제 업무를 반영하는지, 그리고 콘텐츠 소유자가 agent traffic을 어떻게 구분하고 보상받을 수 있는지가 중요해진다.

비개발자는 이것을 “똑똑한 비서”보다 “작은 회사 운영”에 가깝게 이해하면 좋다. 회사에는 말 잘하는 직원만 있으면 부족하다. 업무 프로세스, 출입증, 회계, 품질 검사, 고객 응대 매뉴얼, 문서 보관 규칙이 있어야 한다. 오늘의 AI 뉴스는 이 운영 장치들이 하나씩 생겨나는 장면이다.

그래서 오늘의 핵심은 신제품 목록이 아니라 운영체계화다. voice는 interface의 문턱을 낮춘다. managed agent는 실행의 지속성을 만든다. agent data와 eval 논쟁은 품질 검사의 언어를 만든다. Cloudflare의 crawler·payment 실험은 agent가 접근하는 웹의 경제 규칙을 만든다. Hugging Face의 vLLM backend 개선은 이 모든 일을 감당할 추론 비용의 바닥을 낮추려 한다.

Chapter 1. Agent는 이제 “채팅창”이 아니라 “오래 도는 작업”이 된다

문제 제시

사람이 AI에게 맡기고 싶은 일은 대개 한 번의 답변으로 끝나지 않는다. 자료를 모으고, 비교하고, 코드를 실행하고, 실패하면 다시 시도하고, 중간 결과를 저장하고, 사람에게 확인받아야 한다. 그런데 기존 웹 요청은 전화 통화처럼 연결이 끊기면 작업도 끊기기 쉽다. 오래 걸리는 작업에 AI를 쓰려면, AI가 사용자의 창을 닫아도 서버 어딘가에서 계속 일할 수 있어야 한다.

뉴스 근거

Google은 7월 7일 Managed Agents in Gemini API 확장을 발표했다. 공개 본문은 background execution, remote MCP server integration, custom function calling, credential refresh를 핵심 기능으로 설명한다. 특히 managed agents는 reasoning, code execution, package installation, file management, web information을 격리된 cloud sandbox 안에서 처리한다고 소개한다.

하부 원리

여기서 중요한 말은 배경 실행(background execution)과 원격 도구 연결(remote MCP)이다. 배경 실행은 음식 배달 주문과 비슷하다. 주문 앱을 닫아도 주방과 배달은 계속 움직인다. agent 작업도 마찬가지다. 사용자가 브라우저를 닫거나 Telegram을 나가도, 서버의 작업 ID와 상태가 남아 있으면 긴 분석이나 코드 실행이 이어질 수 있다.

원격 MCP(Model Context Protocol)는 AI가 외부 도구를 부를 때 쓰는 표준화된 콘센트에 가깝다. 집마다 전기 콘센트 규격이 다르면 모든 가전제품에 변환기가 필요하다. MCP는 agent가 데이터베이스, 파일, 검색, 내부 API 같은 도구를 더 일정한 방식으로 만지게 해 주는 규격이다. 물론 규격이 있다고 안전이 자동 보장되는 것은 아니다. 그래서 credential refresh, sandbox, tool best practice가 같이 등장한다.

비개발자용 직관적 모델링

비개발자는 managed agent를 “AI 직원에게 임시 사무실과 출입증을 주는 것”으로 이해하면 된다. 임시 사무실은 sandbox다. 출입증은 credential이다. 업무 매뉴얼과 연결 콘센트는 MCP와 tool schema다. 배경 실행은 직원이 당신이 자리를 비운 동안에도 문서 작업을 계속하는 능력이다. 이 네 가지가 없으면 AI는 친절하지만 매번 새로 설명해야 하는 상담원에 머문다.

사용자 질문/실행

사용자의 Hermes Agent와 Telegram workflow 관점에서 질문은 분명하다. “내 agent가 긴 작업을 할 때 상태를 어디에 남기는가? 실패하면 어느 지점부터 재개하는가? 외부 도구 권한은 얼마나 좁게 주는가?” 오늘 당장 새로운 Gemini 기능으로 migration할 필요는 없다. 더 중요한 것은 현재의 Link-to-Book HTML, YouTube-to-Book HTML, AI 뉴스 digest 같은 작업에 작업 ID·출처 목록·검증 로그를 남기는 습관이다.

Chapter 2. Eval은 점수표가 아니라 “AI에게 일을 맡겨도 되는가”의 안전장치다

문제 제시

AI 업계는 benchmark를 좋아한다. 숫자는 빠르게 비교되고, headline이 되기 쉽다. 그러나 agent가 실제 일을 맡는 순간, benchmark 하나는 충분하지 않다. 학교 시험에서 수학 점수가 높다고 해서 그 사람이 회사의 회계 시스템에 안전하게 접근하고, 실수했을 때 보고하고, 모르는 부분을 출처와 함께 표시한다고 보장할 수 없는 것과 같다.

뉴스 근거

OpenAI는 공식 RSS에서 “Separating signal from noise in coding evaluations”를 발표하며 SWE-Bench Pro 같은 coding benchmark의 신뢰성과 정확성 문제를 분석했다고 밝혔다. 본문은 403으로 직접 추출하지 못했으므로 이 보고서에서는 공식 RSS metadata만 확정 근거로 쓴다. 같은 날 Hugging Face의 NVIDIA 글 “Data for Agents”는 “real world does not behave like a benchmark”라고 말하며, agent가 broken API call이나 낯선 workflow를 복구하지 못하면 “tools가 붙은 autocompleter”에 가깝다고 설명한다.

하부 원리

평가 기준(eval)은 AI에게 시험지를 주는 일에 가깝다. 다만 학교 시험과 다른 점은 정답 하나만 보는 것이 아니라 출처를 구분했는지, 도구를 잘 호출했는지, 실패했을 때 복구했는지, 비용을 과하게 쓰지 않았는지까지 본다는 데 있다. 그래서 agent 시대의 eval은 점수표라기보다 “이 AI에게 실제 일을 맡겨도 되는가”를 확인하는 안전장치다.

Hugging Face/NVIDIA 글이 말하는 agent data는 이 안전장치의 재료다. 실제 업무 traces, tool-use failures, multi-step reasoning, retrieval, safety, user simulation, workflow execution 같은 데이터가 있어야 agent를 훈련하고 평가할 수 있다. 이것은 레시피 앱을 만들 때 완성 사진만 모으는 것과 다르다. 중간에 계란을 떨어뜨렸을 때, 오븐 온도가 다를 때, 손님이 알레르기를 말했을 때 어떻게 대응했는지까지 기록해야 한다.

이 글은 synthetic thresholds도 언급한다. 합성 데이터(synthetic data)는 사람이 직접 만든 실제 기록이 아니라 모델이나 시뮬레이션으로 만든 자료다. 합성 데이터는 규모를 키우는 데 유용하지만, 어느 순간부터 “현실의 대체물”처럼 오해될 수 있다. 그래서 무엇이 생성되었고, 무엇이 실제에 grounded 되었고, 무엇을 사람이 검토했는지 문서화해야 한다.

비개발자용 직관적 모델링

비개발자는 eval을 “AI용 운전면허 시험”으로 생각하면 좋다. 필기시험만 잘 봐서는 부족하다. 실제 도로에서 차선을 지키는지, 비가 올 때 속도를 줄이는지, 사고가 나면 보고하는지까지 봐야 한다. coding benchmark는 필기시험의 일부일 수 있다. 그러나 agent workflow eval은 도로 주행, 보험 기록, 정비 이력까지 포함하는 더 넓은 검사다.

사용자 질문/실행

사용자의 LLM Wiki와 HTML artifact workflow에는 이미 좋은 출발점이 있다. raw/source/wiki/output separation, 출처 표기, 검증 로그가 있다. 다음 병목은 “좋은 글을 만들었는가?”보다 “이 agent가 같은 작업을 다음 주에도 재현 가능하게 수행했는가?”다. AI 뉴스 digest, Link-to-Book, YouTube-to-Book에 대해 최소 eval schema를 만들면 좋다. 예를 들면 source count, extraction limit, chapter-style depth, glossary 존재, reader controls, broken link count, wiki promotion guardrail 같은 항목이다.

Chapter 3. Voice AI의 본질은 목소리가 아니라 “turn-taking”이다

문제 제시

음성 AI는 흔히 “목소리가 자연스러워졌다”로 소비된다. 그러나 사람 대화의 핵심은 목소리 톤만이 아니다. 더 중요한 것은 언제 듣고, 언제 멈추고, 언제 끼어들고, 언제 기다리는지를 아는 능력이다. 좋은 대화 상대는 말을 잘하는 사람이 아니라, 대화의 리듬을 읽는 사람이다.

뉴스 근거

OpenAI는 공식 RSS에서 GPT-Live를 “natural human-AI interaction”을 위한 새로운 voice model 세대로 소개했다. 공식 본문은 접근이 403으로 제한되어 직접 인용하지 않는다. 보조 근거로 TechCrunch의 보도와 The Verge의 보도는 GPT-Live-1과 GPT-Live-1 mini가 full-duplex, 즉 동시에 듣고 말할 수 있으며 interrupt와 pause 처리 개선을 목표로 한다고 설명했다.

하부 원리

전통적 음성 AI는 종종 세 단계로 움직였다. 먼저 말을 글자로 바꾸고, 그 글자에 대해 답을 만들고, 다시 음성으로 읽어 준다. 이것은 무전기 대화와 닮았다. 한쪽이 말하는 동안 다른 쪽은 기다려야 하고, 중간에 끼어들면 어색해진다. 반면 full-duplex voice AI는 전화 통화에 가깝다. 상대가 말하는 중에도 듣고, 말하려다가 멈추고, 사용자의 긴 침묵을 “생각 중”으로 해석할 수 있다.

이 변화의 의미는 interface다. prompt box는 사용자가 생각을 글로 정리한 뒤 AI에게 넘기는 interface다. voice는 생각이 아직 완성되지 않았을 때도 AI가 옆에서 기다릴 수 있게 한다. 비개발자에게는 이것이 특히 중요하다. 코딩이나 문서 작성보다 먼저 “내가 지금 무엇을 하려는지 말로 풀어내는 과정” 자체가 작업이 되기 때문이다.

비개발자용 직관적 모델링

비개발자는 GPT-Live 같은 실시간 음성 AI(real-time voice AI)를 “받아쓰기 기계”가 아니라 “회의실 동료”로 이해하면 좋다. 회의실 동료는 발언을 모두 기록하는 것보다, 언제 질문해야 하는지, 언제 기다려야 하는지, 핵심을 놓치지 않고 이어받는지가 중요하다. 음성 모델의 진짜 평가는 감정적인 목소리보다 turn-taking의 품질이다.

사용자 질문/실행

Telegram에서 Hermes Agent를 쓰는 사용자에게 voice AI의 실용적 질문은 “내 생각을 빠르게 capture해서 wiki workflow로 넘길 수 있는가?”다. 새로운 음성 모델을 무작정 도입하기보다, 음성 입력이 들어왔을 때 01_inbox/raw/source/wiki/output 중 어디로 들어갈지, 어떤 확인 질문 없이도 source summary 초안으로 바꿀 수 있을지, 어떤 경우에는 인간 검토가 필요한지를 정하는 편이 더 중요하다.

Chapter 4. Agentic Internet은 웹의 도로교통법을 다시 쓴다

문제 제시

사람이 웹페이지를 읽을 때와 agent가 웹을 순회할 때는 경제가 다르다. 사람은 광고를 보거나 구독자가 되거나 링크를 타고 들어온다. agent는 대량으로 읽고, 요약하고, 사용자를 대신해 결정을 내릴 수 있다. 그러면 콘텐츠 생산자는 discoverability와 compensation 사이에서 새로운 선택을 해야 한다.

뉴스 근거

Cloudflare는 7월 1일 여러 글을 통해 agentic Internet의 경제 인프라를 제안했다. Monetization Gateway는 Cloudflare 뒤의 web pages, datasets, APIs, MCP tools에 x402 기반 과금과 접근 제어를 붙이는 엔진으로 설명된다. AI traffic options 글은 사이트 소유자가 Search, Agent, Training bots를 구분해 관리할 수 있다고 말한다. agentic Internet report는 AI agent가 검색 referral과 콘텐츠 경제를 바꾸고 있다고 해석한다.

하부 원리

웹은 오랫동안 “사람이 링크를 눌러 방문한다”는 가정 위에 자랐다. 그러나 agent는 사람이 클릭하지 않아도 자료를 읽고, 비교하고, 결론을 가져올 수 있다. 이때 출처 사이트는 traffic은 받지 못하지만 콘텐츠 가치는 소비될 수 있다. Cloudflare의 시도는 이 문제를 네 가지로 나눠 다룬다. 누가 들어왔는가를 구분하는 식별, 어떤 목적의 bot인가를 구분하는 정책, 가치 있는 자원에 가격을 붙이는 결제, 그리고 MCP tool 같은 machine-facing resource를 직접 상품으로 다루는 접근이다.

이것은 단순히 “AI 크롤러를 막자”가 아니다. 더 깊게 보면 웹이 사람용 문서 공간에서 사람과 agent가 함께 다니는 경제 공간으로 바뀌는 것이다. 도로에 보행자만 있다가 자동차와 트럭이 들어오면 신호등, 차선, 통행료, 보험, 면허가 필요해진다. agentic Internet도 비슷하다.

비개발자용 직관적 모델링

비개발자는 이것을 도서관과 복사기의 관계로 생각할 수 있다. 한 사람이 책을 읽는 것은 도서관의 기본 활동이다. 그런데 초고속 복사기가 와서 모든 책을 순식간에 복사해 외부에서 요약 서비스를 만든다면, 도서관은 “누가, 왜, 얼마나, 어떤 조건으로 복사할 수 있는가”를 다시 정해야 한다. AI agent는 바로 그 초고속 복사기이자, 때로는 대신 책을 읽고 결론을 내리는 연구 비서다.

사용자 질문/실행

사용자의 Cloudflare/GitHub static publishing 방향에서는 이 신호가 중요하다. 앞으로 공개 wiki나 webbook을 만들 때 사람 독자만이 아니라 agent reader도 고려해야 한다. robots 정책, source attribution, 요약 허용 범위, AI-use notice, machine-readable index가 필요해질 수 있다. 다만 지금 당장 복잡한 monetization을 붙일 단계는 아니다. 먼저 공개 산출물의 출처와 저작권 문구, AI-assisted notice, canonical URL을 일관화하는 것이 현실적인 medium-priority 작업이다.

Chapter 5. 추론 비용의 바닥은 조용히 낮아지고 있다

문제 제시

AI가 운영체계가 되려면 비용이 낮아져야 한다. 한 번의 멋진 답변은 비싸도 괜찮다. 그러나 agent가 매일 문서를 읽고, 여러 모델을 라우팅하고, 실패하면 재시도하고, 배경에서 긴 작업을 돌리려면 추론(inference) 비용과 속도가 workflow의 현실적 한계가 된다.

뉴스 근거

Hugging Face는 7월 8일 “Native-speed vLLM transformers modeling backend”를 공개했다. 글은 vLLM의 transformers modeling backend가 runtime에서 inference-specific layer fusions를 적용해 custom code implementation에 가까운 속도를 얻도록 개선했다고 설명한다. 기술 언론 The Decoder도 같은 날 Grok 4.5 비용과 성능, Claude 계열 모델의 비용 delegation pattern을 다루며 모델 선택이 “최고 성능 하나”보다 비용 대비 task routing 문제로 바뀌고 있음을 보도했다. 해당 보도는 보조 신호이며, 핵심 사실은 각 회사의 공식 발표로 재확인되어야 한다.

하부 원리

추론(inference)은 이미 훈련된 모델이 실제 답을 만드는 단계다. 자동차 공장에 비유하면 훈련은 자동차 설계와 공장 구축이고, 추론은 매일 도로 위를 달리는 운행이다. agent 시대에는 운행 횟수가 폭증한다. 그래서 엔진 효율, 연료비, 정비성이 중요해진다.

vLLM 같은 추론 엔진은 모델을 더 빠르고 효율적으로 serving하기 위한 인프라다. Hugging Face 글의 핵심은 모델 작성자가 transformers에 모델을 통합하면 vLLM에서도 더 적은 별도 custom port 부담으로 native-speed에 가까운 실행을 기대할 수 있다는 점이다. 이것은 open-source 생태계에서 중요하다. 모델이 많아질수록 모든 모델을 각 serving engine에 손으로 최적화하는 방식은 병목이 된다.

비개발자용 직관적 모델링

비개발자는 이것을 “AI 도로의 포장 품질”로 이해하면 좋다. 좋은 자동차가 있어도 도로가 울퉁불퉁하면 빨리 달릴 수 없다. vLLM backend 개선은 특정 모델의 headline 능력보다, 여러 모델이 실제 서비스 도로 위에서 덜 흔들리고 빨리 달리게 하는 포장 공사에 가깝다.

사용자 질문/실행

Hermes Agent 운영에서는 모델 라우팅(model routing)과 대체 경로(fallback)가 핵심이다. 모든 작업을 최고가 모델에 맡길 필요는 없다. 뉴스 수집, HTML 구조 생성, 링크 검증, glossary 보강, 최종 편집은 서로 다른 능력과 비용 profile을 가진다. 따라서 “어떤 모델이 최고인가?”보다 “어떤 task를 어떤 provider/model에 맡기고, 실패하면 어디로 fallback할 것인가?”가 더 좋은 질문이다.

Epilogue. 내 AI 운영체계로 내려오는 실행 설계

Today · 높음

• High AI 뉴스 digest artifact마다 source extraction limit을 지금처럼 명시한다. 특히 403, RSS-only, press-only 근거는 HTML과 최종 응답에 분리한다.
• High Link-to-Book / YouTube-to-Book / AI-news HTML에 공통 검증 항목을 유지한다: 파일 크기, source link count, reader controls, copy button, browser console error.

This Week · 높음/보통

• High `AI News Insight HTML Eval`을 실제 cron output 기준으로 점검한다. 평가 항목은 “뉴스 나열 방지”, “chapter-style depth”, “비개발자 설명”, “wiki promotion 후보”, “source reliability notes”를 포함해야 한다.
• Medium Hermes 작업흐름(workflow)에 task-state convention을 붙인다. 예: source gathering → extraction → synthesis → HTML write → verification → final delivery.

This Month · 보통

• Medium 모델 라우팅(model routing) 문서를 실제 작업 유형별로 보강할 후보를 모은다. 고비용 모델은 최종 synthesis와 판단, 저비용 모델은 extraction/checking, 실패 시 fallback은 provider별로 정의한다.
• Medium 공개 webbook/Cloudflare publishing 방향에서는 사람 독자와 agent reader 모두를 위한 source attribution, canonical URL, AI-use notice template을 정리한다.

Defer / 보류

• 보류 GPT-Live, Grok 4.5, Claude Fable 5 같은 새 모델명만 보고 workflow migration을 결정하지 않는다. 실제 병목이 voice capture인지, coding autonomy인지, cost routing인지 먼저 분리한다.
• 보류 Cloudflare x402 monetization은 공개 산출물의 독자 규모와 재사용 패턴이 확인되기 전까지 실험 우선순위가 아니다.

Appendix A. 표면 뉴스 vs 깊은 신호

Appendix B. Source & Reliability Notes

AI-assisted notice: 이 HTML은 Hermes Agent가 공개 웹/RSS를 수집해 작성했다. 접근 제한이 있는 본문은 확정 근거로 과도하게 사용하지 않았고, social-only rumor는 core thesis에 포함하지 않았다.

Appendix C. Recap: 오늘의 3개 신호

1. Agent runtime 신호: background execution, MCP, sandbox, credential refresh가 agent의 기본 인프라로 올라오고 있다.
2. Eval/data 신호: benchmark 숫자보다 실제 workflow failure와 recovery를 담은 데이터와 평가 출처성이 중요해지고 있다.
3. Interface/economy 신호: voice turn-taking과 agentic Internet payment/access rule이 AI를 사람의 대화와 웹 경제 속으로 더 깊이 넣고 있다.

Appendix D. AI 시대의 단어장: 맥락으로 이해하기

작업흐름(workflow)

• 사전적 뜻: 일이 진행되는 순서와 절차.
• AI 맥락: source 수집, 도구 호출, 중간 저장, 검증, 산출물 생성처럼 AI가 따라야 하는 전체 업무 흐름.
• 뉘앙스: prompt 하나보다 훨씬 크다. agent 시대의 기본 단위는 답변이 아니라 workflow다.

배경 실행(background execution)

• 사전적 뜻: 화면 앞에서 기다리지 않아도 뒤에서 계속 실행되는 일.
• AI 맥락: 오래 걸리는 agent 작업을 서버에서 비동기로 계속 진행하는 능력.
• 뉘앙스: AI를 “채팅 상대”에서 “작업자”로 바꾸는 핵심 조건이다.

모델 컨텍스트 프로토콜(Model Context Protocol, MCP)

• 사전적 뜻: 모델이 외부 context/tool과 연결되는 규약.
• AI 맥락: agent가 데이터베이스, API, 파일, 검색 같은 도구를 표준 방식으로 호출하게 해 주는 연결 규격.
• 뉘앙스: 플러그인보다 깊은 layer다. agent 생태계의 USB-C 같은 표준 콘센트가 될 수 있다.

평가 기준(eval)

• 사전적 뜻: 어떤 결과가 좋은지 판단하는 시험과 기준.
• AI 맥락: 정답률뿐 아니라 출처 구분, 도구 사용, 실패 복구, 비용, 안전을 함께 보는 품질 검사.
• 뉘앙스: leaderboard가 아니라 위임 가능성의 안전장치다.

평가 출처성(eval provenance)

• 사전적 뜻: 평가가 어디서 왔고 어떻게 만들어졌는지의 이력.
• AI 맥락: benchmark 데이터가 실제 업무를 반영하는지, 오염되었는지, 어떤 한계를 갖는지 기록하는 것.
• 뉘앙스: 숫자를 믿기 전에 숫자의 혈통을 봐야 한다는 뜻이다.

합성 데이터(synthetic data)

• 사전적 뜻: 자연적으로 수집한 것이 아니라 인공적으로 만든 데이터.
• AI 맥락: 모델이나 시뮬레이션으로 만든 질문, 답변, tool trace, user simulation 등.
• 뉘앙스: 규모를 키우는 연료이지만, 현실과 구분되는 선을 문서화하지 않으면 eval과 훈련을 오염시킬 수 있다.

실시간 음성 AI(real-time voice AI)

• 사전적 뜻: 거의 지연 없이 듣고 말하는 음성 AI.
• AI 맥락: 사용자의 말을 글자로 바꾸고 답하는 수준을 넘어, 대화의 리듬과 중단, 침묵을 처리하는 interface.
• 뉘앙스: 핵심은 목소리의 감정이 아니라 turn-taking이다.

추론(inference)

• 사전적 뜻: 이미 아는 것을 바탕으로 결론을 내는 과정.
• AI 맥락: 훈련된 모델이 실제 입력을 받아 답변을 생성하는 실행 단계.
• 뉘앙스: agent가 많이 일할수록 inference cost가 운영비가 된다.

모델 라우팅(model routing)

• 사전적 뜻: 요청을 적절한 경로로 보내는 것.
• AI 맥락: 작업의 난이도·비용·속도·위험에 따라 다른 모델/provider를 선택하는 운영 방식.
• 뉘앙스: 최고의 모델 하나를 고르는 문제가 아니라, 작업 포트폴리오를 설계하는 문제다.

대체 경로(fallback)

• 사전적 뜻: 실패하거나 사용할 수 없을 때 돌아갈 예비 선택지.
• AI 맥락: 특정 모델/API/tool이 막히거나 품질이 낮을 때 workflow가 멈추지 않도록 준비한 대체 모델·provider·절차.
• 뉘앙스: 단순 백업보다 “실패를 예상하고 설계해 둔 회복 경로”에 가깝다.

Appendix E. 오늘의 위키 반영 후보