에이전틱 UI 설계법: AI가 행동하기 전에 사람이 승인할 화면을 만드는 기준
AI 에이전트의 UX는 채팅창을 예쁘게 만드는 문제가 아닙니다. 계획·도구 호출·불확실성·승인·취소·복구를 사용자가 이해하고 통제할 수 있게 보여주는 인터페이스 설계법을 정리했습니다.
한 줄 답변: 에이전틱 UI는 AI의 최종 문장만 보여주는 화면이 아니라 현재 목표, 진행 상태, 사용한 근거, 다음 행동, 위험도, 사람 승인과 취소 지점을 보여주는 운영 인터페이스다. 외부 효과가 큰 행동은 자동 실행보다 미리보기·승인·복구를 기본값으로 설계해야 한다.
AI 기능이 들어간 제품의 첫 화면은 대개 채팅창입니다. 하지만 AI가 검색하고, 문서를 만들고, CRM을 수정하고, 메일을 보내기 시작하면 채팅만으로는 상태를 설명하기 어렵습니다. 사용자는 에이전트가 무엇을 했는지, 무엇을 하려는지, 언제 멈출 수 있는지 알아야 합니다.
챗봇 화면만으로 부족해지는 순간
AI가 정보만 답하면 채팅 UI로 충분할 수 있습니다. 그러나 외부 시스템에 행동을 일으키면 사용자가 알아야 할 상태가 늘어납니다. 일정 변경, 티켓 생성, 고객 메일 발송, 데이터 삭제는 결과 문장보다 대상·범위·근거·되돌리기 가능성이 중요합니다.
| AI 단계 | 사용자에게 보여줄 것 | 숨기면 생기는 문제 |
|---|---|---|
| 계획 | 하려는 단계와 예상 결과 | 엉뚱한 목표를 늦게 발견 |
| 조회 | 사용한 자료와 시점 | 오래된 정보 신뢰 |
| 실행 전 | 대상·변경값·위험 | 동의 없는 변경 |
| 실행 후 | 결과·로그·복구 | 사고 원인 재현 불가 |
에이전트의 내부 상태를 사용자 언어로 번역한다
모델의 추론 전문을 화면에 모두 노출할 필요는 없습니다. 대신 현재 단계, 사용한 도구, 확인된 사실, 불확실한 항목, 사람에게 필요한 결정을 명확히 보여줍니다. '생각 중' 대신 'CRM에서 최근 문의 3건을 조회했습니다'처럼 행동과 근거를 설명하는 편이 낫습니다.
승인 화면에 꼭 들어가야 할 필드
| 필드 | 질문 |
|---|---|
| 행동 | AI가 실제로 하려는 일은 무엇인가? |
| 대상 | 누구의 어떤 데이터에 적용되는가? |
| 변경값 | 기존 값과 새 값은 무엇인가? |
| 근거 | 왜 이 행동을 추천했는가? |
| 영향 | 실패하면 누구에게 어떤 손실이 생기는가? |
| 복구 | 취소·되돌리기가 가능한가? |
승인 버튼만 크게 만들면 사람은 내용을 읽지 않고 통과시키기 쉽습니다. 변경 전후와 영향 범위를 보여주고, 위험한 행동에는 기본 선택을 승인 대기로 둡니다.
자동 실행과 승인 실행을 나누는 기준
모든 행동을 사람 승인으로 보내면 자동화의 이점이 줄고, 모든 행동을 자동 실행하면 사고가 커집니다. 금액, 개인정보, 외부 발송, 삭제, 권한 변경, 고객 약속처럼 되돌리기 어렵거나 영향이 큰 행동은 승인 구간에 둡니다. 내부 초안 생성이나 읽기 전용 조회는 자동화 범위를 넓혀도 됩니다.
취소와 복구는 버튼 하나가 아니다
- 실행 전: 계획과 대상 변경을 취소한다
- 실행 중: 추가 도구 호출과 외부 전송을 중단한다
- 실행 후: 변경 이력과 원래 값을 확인한다
- 실패 시: 부분 완료 상태와 재시도 가능 여부를 표시한다
- 사고 시: 담당자와 복구 runbook을 호출한다
AI는 여러 도구를 순서대로 호출할 수 있으므로 이미 완료된 단계와 아직 실행되지 않은 단계를 구분해야 합니다.
불확실성을 숨기지 않는 인터랙션
확신도 숫자 하나만 보여주는 것으로는 부족합니다. 어떤 필드가 불확실한지, 무엇을 확인하면 확정되는지, 확인하지 않으면 어떤 행동을 할 수 없는지를 보여줍니다. 모르면 질문하거나 승인 대기로 보내는 것이 실패 화면보다 나은 경험입니다.
에이전틱 UI의 평가 지표
사용자가 AI를 얼마나 오래 대화했는지보다 올바른 행동을 얼마나 쉽게 확인했는지를 봅니다. 승인 후 취소율, 잘못된 승인, 수동 수정량, 계획을 수정한 횟수, 오류 복구 시간, 도움말 없이 완료한 비율을 기록합니다.
2주 파일럿 체크리스트
- 외부 효과가 있는 에이전트 행동 하나를 고르고 대상·변경값·복구 방법을 적는다.
- 계획·근거·위험·승인·결과를 보여주는 최소 UI를 만든다.
- 정상·모호·부분 실패·취소 사례를 포함해 10명의 실제 사용을 관찰한다.
- 승인 후 수정·취소·오류 복구에 걸린 시간과 잘못된 승인 수를 기록한다.
- 자동 실행으로 올릴 행동과 계속 사람 승인으로 둘 행동을 정책으로 고정한다.
에이전틱 UI는 AI가 사람처럼 보이게 만드는 장식이 아닙니다. AI가 행동하는 제품에서 사용자가 책임 있는 결정을 내릴 수 있도록 상태, 근거, 영향, 승인, 복구를 보여주는 운영 화면입니다. 이 화면이 있어야 자율성도 단계적으로 키울 수 있습니다.
공식 참고 자료
자주 묻는 질문
에이전틱 UI는 일반 챗봇 UI와 어떻게 다른가요?
일반 챗봇이 답변 중심이라면 에이전틱 UI는 계획·도구 호출·현재 상태·근거·위험·승인·복구를 사용자가 통제할 수 있도록 보여줍니다.
모든 AI 행동에 사람 승인이 필요한가요?
읽기 전용 조회나 내부 초안은 자동화할 수 있지만 금액·개인정보·외부 발송·삭제·권한 변경처럼 영향이 큰 행동은 사람 승인 구간으로 두는 것이 안전합니다.
승인 화면에는 무엇을 보여줘야 하나요?
행동, 대상, 변경 전후 값, 근거, 영향, 복구 가능성을 보여줘야 사람이 결과 문장만 보고 승인하지 않습니다.
AI의 추론 전문을 화면에 보여줘야 하나요?
필요하지 않습니다. 대신 현재 단계, 사용한 근거, 불확실한 필드, 다음 행동, 승인 이유를 사람이 확인할 수 있는 언어로 보여주는 편이 좋습니다.
에이전틱 UI 성과는 무엇으로 측정하나요?
잘못된 승인, 승인 후 수정량, 취소율, 복구 시간, 계획 수정 횟수, 도움말 없이 완료한 비율을 측정하는 것이 유용합니다.
우리 팀의 AI 업무를 어디까지 자동화할 수 있는지, 그리고 어떤 승인·로그·평가가 필요한지 먼저 점검해보세요.
AX 셀프리뷰 시작하기