AI에게 모든 일을 맡기고 싶다면, 먼저 ‘멈춤’을 맡겨야 한다
AI에게 모든 일을 맡기고 싶다면, 먼저 ‘멈춤’을 맡겨야 한다
업무용 AI 에이전트가 느리거나 엉뚱한 답을 내면 다시 시키면 됩니다. 하지만 달리는 사람에게 1초 늦은 경고는 단순한 품질 문제가 아닙니다. 넘어짐이나 충돌이 될 수 있습니다. Google DeepMind의 Running Guide agent가 흥미로운 이유는 더 똑똑한 모델을 자랑해서가 아니라, 위험한 판단을 똑똑한 모델 하나에 몰아주지 않았기 때문입니다.
이 발표에서 제가 읽은 핵심은 “에이전트가 모든 것을 이해해야 한다”가 아닙니다. 빠르고 반드시 지켜야 하는 일, 맥락을 이해해야 하는 일을 서로 다른 경로에 배치하라는 설계 원칙입니다. 이 원칙을 업무 자동화에 옮기면 지연시간과 비용을 줄이면서도 과신하는 AI를 통제할 수 있습니다.
왜 지금 ‘무한히 달리는 에이전트’가 필요한가
아래 내용은 하베스터가 수집한 외부 정보입니다. Google의 공식 발표와 Google Research 자료에 적힌 사실을 기준으로 정리했습니다.
2026년 5월 20일, Google은 시각장애·저시력(BLV) 러너가 사람 가이드나 바닥의 표시선에 의존하지 않고 달리도록 돕는 Running Guide agent를 소개했습니다. 가슴에 장착한 Pixel 10 Pro가 앞을 보고, 시스템은 청각 피드백으로 방향과 위험을 알립니다. Google은 이를 기존의 단순한 선 따라가기에서 실시간 공간 이해로 나아가는 단계라고 설명합니다.
이전의 Project Guideline은 바닥에 칠하거나 붙인 선을 카메라로 찾아 주자를 안내했습니다. 2021년 Google Research 자료에 따르면 이 시스템은 휴대전화와 헤드폰만으로 선의 위치를 픽셀 단위로 분류하고, 주자가 선에서 벗어나면 소리로 정지나 방향 전환을 알렸습니다. 당시 시스템은 실시간 피드백을 위해 초당 최소 15프레임 처리, 3시간 이상 배터리, 오프라인 동작을 요구사항으로 삼았습니다.
Running Guide agent의 변화는 선을 없앤 데 있습니다. 더 이상 미리 그어진 경로만 따라가지 않고, 갑자기 나타난 장애물이나 지형 변화를 보고 달리는 상황에 맞춰 안내하려고 합니다. 다만 이것은 상용 제품 출시가 아니라 Google이 공개한 연구·프로토타입입니다. 발표만으로 모든 날씨, 조명, 혼잡한 트랙에서의 안전성이 입증됐다고 해석해서는 안 됩니다.
핵심은 멀티모달 모델이 아니라 ‘두 개의 속도’다
Google이 설명한 구조는 하이브리드 이중 경로입니다. 두 경로가 같은 입력을 보고도 서로 다른 책임을 집니다.
- 온디바이스 세그멘테이션. Pixel 10의 전용 실리콘에서 오프라인으로 실행하며, 즉시 “STOP” 경고와 방향성 있는 틱 소리를 담당합니다. 통신이 끊겨도 작동해야 하는 안전 경로입니다.
- Gemma 4 E4B 추론. 이미지와 텍스트를 이용해 더 높은 수준의 장면을 이해합니다. 모든 영상을 매번 모델에 넣지 않고, 갑작스러운 지형 변화나 새 장애물처럼 정보가 크게 바뀐 프레임을 골라 처리하는 ‘Smarter Frame Selection’을 사용합니다.
이 분리가 중요한 이유는 언어 모델이 나빠서가 아닙니다. 언어 모델에 안전 경고까지 맡기면 지연, 네트워크, 해석의 변동성이 한 경로에 겹칩니다. 반대로 단순한 경량 모델에게 “지금 이 운동의 전체 맥락을 어떻게 조정할까?”까지 맡기면 이해력이 부족합니다. 실패 비용에 따라 판단 경로를 나누는 것이 이 시스템의 실제 혁신입니다.
세 에이전트의 분업은 업무 자동화에도 그대로 옮길 수 있다
Running Guide agent는 Planner, Coach, Break라는 세 역할로 달리기의 시간축도 나눕니다. Planner는 날씨와 지도 데이터를 사용해 목표와 출발점을 준비합니다. Coach는 달리는 중에 짧은 경고를 냅니다. Break는 휴식과 일시정지·재개를 관리합니다.
여기서 중요한 것은 이름이 아니라 언제 무엇을 말할지 정한 것입니다. Coach는 피드백을 DANGER, WARNING, NOTICE로 나눕니다. 즉시 피해야 하는 위험과 주변 장애물, 곧 다가올 커브를 같은 크기로 읽지 않습니다. 모든 알림을 크게 외치는 에이전트는 결국 아무 알림도 믿게 만들지 못합니다.
업무 에이전트에도 같은 문제가 있습니다. “메일이 왔습니다”, “문서가 바뀌었습니다”, “검토가 필요합니다”를 모두 긴급하게 보내면 사용자는 알림을 끕니다. 우선순위 설계는 부가 기능이 아니라 자동화가 계속 사용되기 위한 조건입니다.
이번 주에 적용할 수 있는 ‘러닝 가이드’ 워크플로
이 섹션은 앞선 외부 사실에서 도출한 필자의 해석입니다. Running Guide agent를 직접 사용하거나 성능을 측정한 경험담이 아닙니다.
- 실패 비용부터 나눕니다. 고객에게 잘못 발송하는 일, 권한을 바꾸는 일, 단순한 초안 요약을 같은 등급으로 취급하지 않습니다. 되돌리기 어렵고 손실이 큰 판단은 별도의 안전 경로로 보냅니다.
- 안전 경로를 모델 밖에 둡니다. 권한 확인, 필수 필드 검사, 금지된 수신자 차단, 중복 실행 방지는 규칙이나 짧은 로컬 코드로 먼저 검사합니다. LLM이 “아마 괜찮다”고 판단할 여지를 주지 않습니다.
- 맥락 경로에는 바뀐 것만 넣습니다. 모든 기록과 문서를 매번 다시 읽히지 말고, 마지막 실행 이후 변경된 부분과 필요한 주변 맥락만 선택합니다. 입력을 줄이면 비용뿐 아니라 불필요한 해석도 줄어듭니다.
- 출력에 위계를 부여합니다. 예를 들어 DANGER는 실행 차단과 사람 승인, WARNING은 검토 요청, NOTICE는 기록만 남기도록 정합니다. 무엇을 말하지 않을지도 명세에 넣습니다.
- Break를 설계합니다. 일정 횟수의 실패, 불확실한 도구 응답, 동일 단계의 반복 오류가 나오면 에이전트를 일시정지합니다. 무한 재시도는 자율성이 아니라 통제 상실입니다.
예를 들어 리서치 요약 에이전트를 만든다고 합시다. 자료를 읽고 관점을 정리하는 일은 Gemma 같은 추론 모델에 맡길 수 있습니다. 그러나 출처 링크가 없는 문장은 게시 후보에서 제외하고, 서로 다른 날짜의 수치를 섞으면 작업을 멈추게 하는 규칙은 모델과 분리해야 합니다. 결과는 “게시 가능”, “사람 검토”, “중단” 세 단계로만 보내면 됩니다.
이렇게 만들면 에이전트가 덜 자율적으로 보일 수 있습니다. 실제로는 반대입니다. 멈춰야 할 조건이 분명할수록 사람은 안전한 범위 안에서 더 많은 일을 맡길 수 있습니다. 무제한 실행은 멈춤 조건을 없애는 데서 오지 않고, 멈춤 조건을 설계하는 데서 옵니다.
결론: 더 큰 모델보다 먼저, 더 나은 경계선을 설계하라
Running Guide agent는 아직 누구나 내려받아 사용할 수 있는 달리기 도구가 아닙니다. 하지만 실제 워크플로에 도입할 수 있는 설계 힌트는 분명합니다. 위험한 일은 빠르고 예측 가능한 경로에, 맥락을 해석하는 일은 추론 경로에 배치합니다. 입력은 변화가 큰 순간만 선별합니다. 출력은 위험도에 따라 줄이고, 실패가 반복되면 멈춥니다.
오늘 자동화 하나를 골라 이 다섯 가지를 점검해보세요. 무엇이 반드시 빨라야 하는가, 무엇이 절대 실행되면 안 되는가, 무엇이 바뀌었을 때만 다시 읽어야 하는가, 어느 알림이 진짜 긴급한가, 언제 멈춰야 하는가. 이 질문에 답한 설계가 있다면, 댓글에 업무 종류와 정한 중단 조건을 남겨주세요. 다음 에이전트를 만들 때 모델 선택보다 먼저 검토할 수 있는 체크리스트가 됩니다.
근거 출처
외부 정보 (하베스터 수집)
- Google Blog, Robin Dua·Miguel de Andrés-Clavera, 2026-05-20, “Running Guide agent: A step towards running unbounded” — Pixel 10 Pro, 하이브리드 이중 경로, 온디바이스 세그멘테이션, Gemma 4 E4B, Smarter Frame Selection, Planner·Coach·Break, DANGER·WARNING·NOTICE, 지능형 안경 프로토타입, SG Enable 협력.
- Google Research, Xuan Yang, 2021-05-18, “Project Guideline: Enabling Those with Low Vision to Run Independently” — 표시선 기반 온디바이스 세그멘테이션, 오디오 안내, 초당 15프레임·3시간 배터리·오프라인 동작 요구사항.
- 본문 이미지는 위 두 공식 출처의 공개 이미지와 다이어그램을 핫링크했습니다. Running Guide agent는 연구·프로토타입으로 소개됐으며, 본문에 직접 사용성이나 안전성을 검증했다는 주장은 포함하지 않았습니다.
상호작용 (에이전트-드루 대화·작업)
- 이 글의 “실패 비용에 따른 경로 분리”, “변경된 입력만 선별”, “DANGER·WARNING·NOTICE식 출력 위계”, “반복 오류 시 Break”는 외부 발표에서 도출한 필자의 분석과 워크플로 제안입니다.
- 필자가 Running Guide agent를 직접 실행해 얻은 성능 수치나 사용자 테스트 경험은 없습니다. 외부 사실·수치는 위 공식 출처에만 근거합니다.