퇴근 뒤에도 일하는 AI 동료의 멈추는 버튼은 어디에 있나, 작은 회사의 한도·승인·정지 한 장

상시 AI 에이전트를 맡기기 전에 회사가 정할 것은 한도, 승인, 기록, 정지 네 가지이고, 이 넷은 서로를 대신하지 못합니다. 2026년 11월 3일부터 6일 사이에 Perplexity, CrowdStrike, Anthropic이 각각 내놓은 기능을 공식 문서로 열어 보니 어떤 것은 지출을 보여 주기만 하고, 어떤 것은 게이트웨이에서만 멈추고, 어떤 것은 한도를 조금 넘겨 멈출 수 있다고 문서가 밝혔습니다. 그래서 LeanX는 에이전트마다 한 장짜리 통제표를 쓰고, 정지 버튼을 눌러 몇 분 걸리는지 재 보기를 제안합니다.

그림 1. 이번 주 공개된 기능과 공식 문서를 한도·승인·기록·정지의 눈으로 다시 모은 포스터. 날짜와 출처는 본문에 다시 적었습니다.

금요일 저녁에 AI 동료에게 경쟁사 가격을 매주 확인해서 메일 초안까지 써 두라고 맡기고 퇴근했다고 해 봅시다(예시이고 실제 사례가 아닙니다). 월요일 아침에 사장님이 궁금한 건 두 가지입니다. 얼마를 썼는지, 뭘 내보냈는지. 그런데 이 두 질문에 답하는 버튼이 한 군데에 있지 않습니다.

상시 에이전트를 맡기기 전에 무엇을 정해야 하나요?

한도, 승인, 기록, 정지 네 가지입니다. 이 구분은 LeanX가 쓰기 쉽게 나눈 것이고, 표준 문서의 분류는 아닙니다. 다만 근거는 있습니다. 미국 NIST의 AI 위험 관리 프레임워크 플레이북은 관리(MANAGE 2.4) 항목에서 (번역) "의도한 용도와 맞지 않는 성능이나 결과를 보이는 AI 시스템을 대체하거나 해제하거나 비활성화하는 장치가 마련되어 적용되고, 책임이 지정되고 이해되어야 한다"고 적고 있습니다. 장치와 책임자가 둘 다 있어야 한다는 말입니다.

통제	막으려는 일	이 통제가 해 주지 못하는 일
한도	끝없는 호출, 광고비 지출	이미 보낸 메일, 올린 페이지
승인	잘못된 발송, 게시, 결제	승인 없이 도는 읽기 작업의 비용
기록	무엇이 언제 왜 실행됐는지 모르는 상태	일어나는 일을 멈추는 것
정지	반복 실행, 범위 밖 행동, 재시작	이미 나간 결과를 되돌리는 것

사용량 화면이 있다고 한도가 있는 건 아니고, 정지 버튼이 있다고 이미 나간 메일이 돌아오는 것도 아닙니다. 아래에서 이번 주 나온 기능과 관련 공식 문서를 이 네 칸에 하나씩 놓아 보겠습니다. 공개된 사고 사례 가운데 한도나 정지 버튼이 실제로 작동했는지 검증된 것은 찾지 못했습니다. 인터넷에 도는 수만 달러짜리 폭주담은 본인이 올린 글 수준이라 이 글에서 쓰지 않았습니다.

연구 쪽 근거는 하나 있습니다. 38명의 연구진이 낸 "Agents of Chaos"(arXiv, 2026년 2월 23일)는 실험실 환경에서 시스템 접근 권한을 가진 자율 에이전트를 2주 동안 관찰한 레드팀 평가입니다. 소유자가 아닌 사람에게 따르기, 파괴적인 시스템 명령 실행, 서비스 거부 상태, 통제되지 않은 자원 소비를 포함한 대표 실패 사례 열한 가지를 보고했습니다. 회사 현장의 사고 기록은 아니고 실험실 연구입니다.

Perplexity Teammates에는 어떤 브레이크가 있나요?

소개 글에 적힌 건 검토와 개입이고, 한도나 정지 버튼은 제가 연 페이지에서 보이지 않았습니다. Perplexity는 2026년 11월 4일 블로그에서 Teammates를 공개했습니다. 처음에는 웹에서 Perplexity Max 구독자에게 제공하고 곧 iOS로 넓힌다고 적었습니다. 팀원마다 별도 환경에서 일하고 브라우저 세션이 서로 분리되며, 저장된 자격 증명은 암호화됩니다. 기존 Computer 도구와 프로젝트 권한 위에서 동작하고, 사용자는 완료된 작업을 검토하거나 데스크톱을 넘겨받거나 팀원이 일하는 도중에 방향을 바꿀 수 있습니다. 진행 상황과 승인 요청도 공유합니다.

도움말 문서에는 개인 Max 구독자 웹용 연구 미리보기(research preview)이고 동작이 바뀔 수 있다고 적혀 있습니다. Enterprise Pro와 Enterprise Max는 이번 출시에 기본 포함되지 않습니다. 제가 연 소개 글과 도움말에는 팀원별 지출 한도, 실행 기록, 일시정지나 중지 방법, 팀원 수 제한이 적혀 있지 않았습니다. 문서에 없다고 기능이 없다는 뜻은 아니고, 앱 안에 있는지는 Max 계정이 없어 직접 확인하지 못했습니다.

돈 쪽은 크레딧 도움말에 나옵니다. 100크레딧이 1달러이고, Max는 한 달 10,000크레딧(LeanX 계산으로 100달러어치)을 받습니다. 자동 충전 기준은 Max가 2,500크레딧이고, 월 지출 상한은 기본 200달러에서 최대 5,000달러까지 올릴 수 있습니다. 크레딧이 떨어지면 진행 중인 작업은 취소되지 않고 일시정지되며 새 작업은 만들 수 없습니다. 이 페이지가 설명하는 한도는 이 크레딧과 월 지출 상한이고, 팀원 하나하나에 거는 한도는 적혀 있지 않았습니다.

같은 주 11월 3일에 Perplexity는 Computer의 이커머스용 기능도 냈습니다. Shopify, Meta 광고, Klaviyo를 연결하고, 소개 글에는 "팀이 어떤 작업에 검토가 필요한지 정합니다. 페이지 게시, 이메일 발송, 광고비 지출이 포함됩니다"라고 적혀 있습니다. 예시 지시문은 새 여름 컬렉션을 15% 할인으로 내고, 2주짜리 Meta 광고를 1,000달러 상한으로, 기존 고객에게 Klaviyo 메일을 보내라는 내용입니다. 여기서 1,000달러는 사용자가 쓴 지시문 안에 있는 문장입니다. 같은 글은 Computer가 회사가 정한 목표, 예산, 승인 요건 안에서 일한다고만 하고, 그 금액에서 강제로 멈추는 방식은 제가 연 페이지에 적혀 있지 않았습니다. 광고 계정 쪽에도 별도 한도가 있는지는 확인하지 못했습니다.

승인 목록을 사람이 정하게 한 건 좋은 설계입니다. 다만 목록을 비워 두면 승인 칸은 비어 있는 채로 돌아갑니다. 어떤 일을 승인으로 묶을지는 우리 몫입니다.

CrowdStrike 킬 스위치를 누르면 다 멈추나요?

지금은 게이트웨이에서 멈춥니다. CrowdStrike는 2026년 11월 3일 바르셀로나 Fal.Con Europe에서 Falcon Guardian의 AI Kill Switch를 발표했습니다. 보도자료에 따르면 보안팀은 문제가 된 에이전트의 실행을 멈추고, 정책으로 다시 실행되는 것을 막고, 회사 네트워크 접근을 끊을 수 있습니다. 승인된 관리자가 작동시키고 모든 동작이 감사 기록에 남습니다.

오늘 되는 곳은 게이트웨이이고, 엔드포인트(에이전트가 도는 기기)에서의 종료는 "곧"이라고 적혀 있습니다. 숫자나 시험 결과는 보도자료에 없습니다. 이건 업체의 발표이고, 기업용 Falcon 제품군의 기능이라 직원 열 명 회사가 바로 쓸 물건은 아닐 가능성이 큽니다(LeanX의 추정입니다).

작은 회사가 가져갈 건 제품이 아니라 질문입니다. 우리 에이전트는 어떤 길로 모델과 도구에 닿고, 정지 버튼은 그 길의 어디에 있나요? 게이트웨이에서 모델 접근을 끊는 것과 기기에서 돌고 있는 프로세스를 끝내는 것은 다른 층의 일입니다. 이 구분은 보도자료의 "게이트웨이 먼저, 곧 엔드포인트"라는 표현에서 LeanX가 끌어낸 해석입니다.

비용 태그는 지출을 막아 주나요?

막지 않습니다. Anthropic의 Claude 릴리스 노트(2026년 11월 6일)는 프로젝트 태그를 Enterprise 베타로 소개합니다. 조직이 이미 쓰는 청구 코드나 사건 번호를 프로젝트에 붙이면 그 프로젝트 안의 지출 "대부분"을 태그별로 볼 수 있습니다. 도움말에는 프로젝트당 태그 16개까지이고, 태그별 지출 한도는 이번 베타에 포함되지 않는다고 적혀 있습니다. API, Console, Slack·Teams 연동, 웹의 Claude Code 같은 곳의 지출은 태그가 적용되지 않는다고도 나옵니다.

그러면 진짜 상한은 어디에 있을까요. 문서로 확인한 것만 놓으면 이렇습니다.

도구	지출을 멈추나	문서에 적힌 한계
Claude 프로젝트 태그(Enterprise 베타, 11월 6일)	멈추지 않고 보여 줌	"대부분"의 지출만, 일부 사용 경로 제외
OpenAI 지출 한도	하드 한도는 429 오류로 요청을 막음. 알림은 막지 않음	"강제는 즉각적이지 않아 기록된 지출이 설정 금액을 조금 넘을 수 있다"
Claude Agent SDK의 max_budget_usd	한도에 닿으면 반복을 멈춤	기본값은 제한 없음. 응답이 도착한 뒤에 비교하므로 그 응답 한 번의 비용, 아직 도는 서브에이전트가 쓴 비용만큼 넘을 수 있음
Claude Managed Agents 세션 예산(베타)	한도에 닿으면 새 모델 요청 전에 일시정지	세션을 만들 때만 붙일 수 있고, 진행 중이던 요청은 끝까지 감

Managed Agents 문서의 예시가 한도의 성격을 잘 보여 줍니다. 50센트 한도의 세션이 53센트에서 멈출 수 있고, 청구 오류가 아니고 예상된 동작이라고 문서가 밝힙니다. 멈춘 세션은 종료되지 않고 대기 상태가 되며, 예산을 올리거나 없애면 일을 이어 갑니다. 그래서 한도는 급정거 장치보다 새 일에 대한 상한으로 읽는 게 맞고, 문서도 그 여유를 두고 금액을 잡으라고 안내합니다. 다만 Agent SDK는 기본값이 제한 없음이라 켜지 않으면 한도가 없고, 서브에이전트까지 한도에 묶는 동작(새 서브에이전트 생성 거부, 백그라운드 서브에이전트 중지)은 Claude Code v2.1.217 이상에서만 적용됩니다.

작은 회사의 한 장 통제표는 어떻게 쓰나요?

에이전트 한 명에 한 줄입니다. 아래는 공개된 문서를 순서대로 놓은 LeanX의 제안이고, 이 순서를 고객사에서 돌려 본 결과는 아직 없습니다.

칸	적을 것	근거
이름·담당자	에이전트 이름, 책임지는 사람 한 명	NIST MANAGE 2.4(책임 지정)
맡긴 일	일 하나, 주기, 쓰는 도구, 권한은 읽기 전용부터	LeanX 제안
한도	어느 층에서 거는지(공급사 지출 한도, 코드의 예산 옵션, 광고 계정). 넘칠 폭을 감안한 금액	OpenAI, Claude 문서의 초과 안내
승인 목록	발송, 게시, 결제, 삭제는 사람 승인	Perplexity 이커머스 글의 예시 목록
기록	실행 기록을 어디서 보는지, 누가 매주 보는지	LeanX 제안
정지	누르는 곳, 누르는 사람, 걸리는 시간	CrowdStrike의 게이트웨이 대 엔드포인트 구분

2주는 이렇게 씁니다. 1주차에는 에이전트를 세어 한 장씩 채우고, 한도를 걸 수 있는 층마다 실제로 건 뒤 아주 작은 금액으로 일부러 넘겨 봅니다. 한도가 얼마나 넘쳤는지가 첫 번째 숫자입니다. 2주차에는 정지 훈련을 합니다. 담당자가 정지 버튼을 눌러 에이전트가 정말 서고, 키가 회수되고, 예약된 작업이 다시 뜨지 않는지까지 걸린 시간을 잽니다. 이 시간이 두 번째 숫자입니다. 남길 숫자는 에이전트가 몇 개인지, 한도를 건 층이 몇 개인지, 한도를 넘은 폭, 정지까지 걸린 분입니다.

열쇠를 줄이는 쪽 점검은 작은 회사 열쇠 점검 2주 글에, 에이전트 등록부를 만들고 읽기 전용으로 시험하는 방법은 AI 에이전트 기업 도입 사례 글에, 규칙을 문장 대신 스크립트로 옮기는 방법은 지시 파일 감사 글에 있습니다. 어디부터 볼지 모르겠다면 30문항 무료 AX 진단으로 먼저 점검해 볼 수 있습니다.

이 글이 확인하지 못한 것은 무엇인가요?

• Perplexity Teammates의 앱 화면에 팀원별 한도, 실행 기록, 정지 버튼이 있는지는 확인하지 못했습니다. 소개 글과 도움말에 적혀 있지 않았다는 사실만 말씀드린 것입니다.
• Computer 이커머스의 1,000달러가 플랫폼이 강제하는 한도인지, 광고 계정 쪽에 별도 한도가 있는지는 확인하지 못했습니다.
• Perplexity가 제시한 고객 성과 수치는 소개 글에서 찾지 못해 쓰지 않았습니다.
• CrowdStrike 킬 스위치는 업체 발표이고 시험 결과가 없으며, 엔드포인트 종료는 아직 출시 전입니다.
• Claude 프로젝트 태그와 Managed Agents 예산은 베타이고, 문서에 날짜가 없는 페이지가 있어 확인일(2026년 11월 9일)로 적었습니다.
• Google, Microsoft의 2026년 지출 한도 기능과 OWASP 에이전트 문서의 세부 항목은 확인하지 못했습니다.
• 한국 중소기업이 에이전트를 얼마나 끌 수 있는지 보여 주는 자료는 찾지 못했습니다. 일부 벤더 설문의 수치는 방법이 공개되지 않아 쓰지 않았습니다.

출처

• Perplexity, Teammates are agents for complex, ongoing work (2026-11-04)
• Perplexity 도움말, Get started with Perplexity teammates (2026-11-09 확인)
• Perplexity 도움말, How credits work on Perplexity (2026-11-09 확인)
• Perplexity, Computer for e-commerce is built for brand growth (2026-11-03)
• CrowdStrike, CrowdStrike Introduces the AI Kill Switch for AI Safety (2026-11-03)
• Anthropic, Claude release notes (2026-11-06 항목)
• Anthropic, Track spend by cost code with project tags (2026-11-09 확인)
• OpenAI API 문서, Spend limits (2026-11-09 확인)
• Anthropic, How the agent loop works, Agent SDK (2026-11-09 확인)
• Anthropic, Managed Agents session budgets (2026-11-09 확인)
• NIST, AI RMF Playbook, MANAGE 2.4 (2026-11-09 확인)
• arXiv, Agents of Chaos (2026-02-23)