AI 에이전트 권한 설계: 읽기·초안·실행을 나누는 실무 가이드

‘이 메일을 읽고 답변해 줘’에는 여러 일이 섞여 있습니다. 메일을 여는 일, 정책을 찾는 일, 답변을 쓰는 일, 실제로 보내는 일입니다. AI 업무 자동화를 쉽게 만들려면 사용자에게 이 차이가 보여야 하고, 시스템도 이 차이를 지켜야 합니다.

최근 연구가 보여 준 입력 검사만의 한계

2026년 9월 10일 Check Point Research는 PuzzleMask 연구를 공개했습니다. 평범한 문장에 숨은 요청을 빠른 사전 검사 모델이 놓치고, 더 많은 추론 자원과 도구를 쓰는 후속 모델이 읽어 내는 조건을 다뤘습니다. 연구진은 이것이 후속 모델 자체의 안전 규칙을 깨는 탈옥을 입증하는 것은 아니라고 구분합니다. 특정 실험 결과를 모든 AI 서비스의 취약성으로 일반화해서는 안 됩니다.

긱뉴스에 소개된 이 연구를 업무 설계로 옮기면 질문은 간단합니다. 입력 검사가 한 번 놓쳤을 때, AI가 실제로 할 수 있는 일은 무엇인가? Anthropic도 2026년 5월 공개한 격리 설계 글에서 승인 요청뿐 아니라 실행 환경과 접근 범위를 제한하는 방식을 설명합니다.

업무별 권한은 이렇게 나눠 보세요

단계	허용할 일	별도 확인이 필요한 일
읽기	지정된 메일함·정책 문서 조회	다른 부서·다른 고객 자료 접근
초안	검토 공간에 답변·수정안 저장	원본 정책이나 고객 기록 덮어쓰기
실행	승인된 대상에 승인된 내용 적용	수신자·금액·대상이 바뀐 실행

이 표는 팀에서 사용할 수 있는 제안입니다. ‘읽기 전용’도 모든 자료를 읽어도 된다는 뜻은 아닙니다. 업무에 필요한 고객이나 기간으로 조회 범위를 제한하고, 결과를 외부 주소로 전달할 수 있는 경로도 함께 확인하세요.

승인 버튼의 문구부터 구체적으로 바꾸세요

‘AI 작업을 승인할까요?’만 보이면 담당자는 무엇이 바뀌는지 알 수 없습니다. 승인 화면에는 바뀌는 대상을 먼저 보여 주고, 버튼에는 실제 동작을 적습니다.

고객 답변 초안이 준비됐습니다.

받는 사람: 담당자가 확인한 고객 주소
내용: 납기 문의에 대한 답변 1건
첨부: 없음
근거: 현재 납기 정책 문서
확인할 점: 고객이 요청한 날짜는 아직 확정되지 않음

[초안 수정]  [이 내용으로 1건 보내기]

메일의 수신자나 첨부 파일이 승인 뒤 바뀌었다면 이전 승인을 재사용하면 안 됩니다. 서버가 승인한 작업의 대상과 내용이 실제 요청과 일치하는지 확인해야 합니다. 버튼을 한 번 눌렀다는 사실보다 어떤 작업을 승인했는지가 중요합니다.

팀과 개발 담당자가 함께 확인할 다섯 항목

1. 대상 제한: 읽을 폴더, 수정할 레코드, 보낼 주소의 허용 범위를 정합니다.
2. 도구 분리: 초안 저장과 실제 발송을 다른 기능·권한으로 나눕니다.
3. 내용 검증: 수신자, 금액, 첨부, 필수 항목을 실행 직전에 다시 확인합니다.
4. 중복 방지: 시간 초과 뒤 재시도해도 같은 작업이 두 번 실행되지 않도록 실행 ID와 처리 상태를 남깁니다.
5. 중지·복구: 잘못된 동작이 보이면 연결을 끊을 담당자와 되돌릴 수 있는 범위를 정합니다.

‘주의해서 처리해’라는 프롬프트만으로 이 항목을 대신할 수는 없습니다. 권한이나 금액 한도처럼 지켜야 하는 제약은 도구와 서버에서 적용하고, AI는 그 안에서 결과를 제안하게 만드세요.

고객 데이터 없이 해볼 수 있는 점검

실제 계정에 공격 문장을 넣기보다, 테스트용 문서와 발송이 꺼진 환경을 사용합니다. 아래는 공격 기법 재현이 아니라 업무 경계 확인입니다.

• 문서에 다른 팀 자료를 참고하라는 문장이 있어도 허용 범위를 넓히지 않는가?
• 초안 작성 후 테스트 수신자를 바꾸면 다시 확인하는가?
• 같은 실행 요청을 두 번 전달해도 처리 결과는 한 번만 생기는가?
• 필수 정책 문서가 없으면 임의로 약속하지 않고 담당자에게 넘기는가?
• 실행 기록만 보고 누가 무엇을 승인했는지 찾을 수 있는가?

경계를 잘 나누면 모든 작은 행동마다 확인창을 띄울 필요도 줄어듭니다. 허용된 읽기와 초안 작업은 자연스럽게 이어 가고, 사용자가 책임져야 하는 변경 앞에서 내용을 보여 주면 됩니다. 이것이 업무 속도와 이해하기 쉬운 UX를 함께 챙기는 출발점입니다.

관련 글: 팀 업무 스킬에 검수 기준 넣기 · 사내 AI 운영 원칙 정리

출처와 확인일

• Check Point Research — PuzzleMask · 2026-09-10
• Anthropic — How we contain Claude across products · 2026-05-25
• GeekNews — PuzzleMask 소개

자료 확인: 2026-09-14. 연구의 공격 세부 절차를 재현하지 않았습니다. 권한표와 승인 문구는 공개 자료를 바탕으로 LeanX가 제안하는 업무 설계 예시입니다.