Human Managed 사례: 보안 경보에 신뢰도와 설명을 붙이는 AX

경보가 많은 조직의 문제는 탐지가 안 되는 것이 아니라, 무엇을 먼저 봐야 하는지 모르는 데서 시작됩니다. 담당자가 같은 로그와 알림을 반복해서 열고, 맥락을 붙이고, 누가 대응할지 정하는 동안 실제 위험 신호도 늦게 다뤄질 수 있습니다. 이때 AI의 역할은 ‘전부 자동 대응’이 아니라, 경보를 검토 가능한 판단 카드로 만드는 것입니다.

Google Cloud가 공개한 Human Managed 사례에 따르면 이 회사는 통계적 로직 모델과 생성형 AI를 함께 써 경보의 신뢰도와 그 이유를 제시합니다. 사례는 수동 트리아지가 60% 이상 줄고 경보 분류 시간이 30분에서 1분 미만으로 줄었다고 보고합니다. 이 결과는 해당 공급사 사례의 보고값이며, 모든 보안 환경에서 재현된다는 뜻은 아닙니다.

사례의 포인트는 ‘경보를 닫는 것’이 아니라 판단 근거를 남기는 일입니다

Human Managed는 탐지와 대응 사이에 의사결정이 있다는 관점을 설명합니다. AI가 신뢰도 점수를 만들고, 왜 그렇게 본 것인지 설명하며, 필요한 경우 맥락을 더해 담당자가 다음 조치를 고르게 돕습니다. 이 패턴은 보안뿐 아니라 고객 부정 사용, 품질 이상, 거래 검토처럼 신호는 많지만 사람의 판단이 필요한 업무에 적용할 수 있습니다.

중요한 것은 AI의 설명을 장황한 문장으로 받는 것이 아닙니다. 어떤 데이터와 규칙이 신뢰도를 높였는지, 어떤 정보가 빠졌는지, 어떤 담당자에게 언제 넘겨야 하는지가 짧게 보이면 됩니다. 사람은 그 근거를 원본에서 다시 확인할 수 있어야 합니다.

경보 판단 카드를 네 구간으로 나누세요

신뢰도가 높아도 자동 차단처럼 되돌리기 어려운 행동으로 곧장 연결하지 마세요. 처음에는 조회와 조사 초안만 허용하고, 영향도 높은 행동은 별도 승인으로 남깁니다. 이 경계가 있어야 담당자가 AI의 점수를 실제로 신뢰하거나 수정할 이유가 생깁니다.

첫 대표 사례에는 오탐과 정보 부족을 꼭 넣으세요

정상적인 고위험 사례만 넣으면 AI는 그럴듯해 보일 수 있습니다. 실제 운영에서 더 중요한 것은 오탐, 오래된 로그, 서로 충돌하는 신호, 권한이 없어 확인하지 못하는 경우입니다. 이 사례에서 AI가 점수를 낮추고 어떤 정보를 요청하며 누구에게 넘기는지를 검수하세요.

처음에는 민감한 원문을 그대로 쓰지 않아도 됩니다. 사건 구조와 판단에 필요한 신호만 익명화해 20건 정도의 대표 사례를 만드세요. 업무의 영향도와 검수 가능성을 정리하려면 AX 자가진단에서 후보를 좁힐 수 있습니다.

경보 판단 카드 양식

사건 ID / 대상 / 발생 시각:
AI 신뢰도: 낮음 / 중간 / 높음
신뢰도를 만든 근거 2~3개:
확인하지 못한 정보·불확실성:
원본 로그·문서 링크:
다음 확인 질문과 담당 팀:
허용 행동 / 반드시 승인할 행동:
최종 결정과 수정 이유:

이 카드의 품질은 점수 정확도 하나로만 보지 않습니다. 사람이 원본을 더 빨리 확인했는지, 이관이 맞았는지, 불필요한 경보가 줄었는지, 중요한 경보를 놓치지 않았는지 봐야 합니다. 새로운 공격이나 업무 규칙이 생기면 대표 사례에 추가해 기준을 갱신합니다.

설명은 책임 회피가 아니라 검수 인터페이스입니다

AI가 ‘의심스러움’이라고만 말하면 담당자는 그 결과를 믿거나 버릴 수밖에 없습니다. 근거와 누락 정보를 보여 주면 담당자는 더 빠르게 동의·수정·보류할 수 있습니다. 이 설명은 모델의 내부 사고 과정을 길게 노출하는 것이 아니라, 업무상 확인 가능한 신호와 정책 조건을 표시하는 것입니다.

보안·품질·운영 신호를 실제 승인 체계와 연결하려면 AX 컨설팅에서 대표 사례와 사람 이관 규칙부터 설계할 수 있습니다.

자주 묻는 질문

신뢰도 점수가 높으면 자동 대응해도 되나요? 처음에는 사람이 우선순위를 확인하는 보조 단계가 적합합니다. 외부 차단이나 계정 변경은 영향도와 되돌리기 기준을 따로 둬야 합니다.

AI 설명에는 무엇이 있어야 하나요? 사용한 신호, 비교 기준, 빠진 정보, 다음 확인 질문과 원본 위치가 있어야 합니다.

출처: Google Cloud, “Human Managed uses Vertex AI and Google SecOps to triage security alerts 97% faster”를 2026년 9월 22일 확인했습니다. 페이지에 게시일은 표시되지 않았습니다. 시간·트리아지 감소와 신뢰도·설명 방식은 Google Cloud/Human Managed 공개 사례를 요약한 것이며, 판단 카드와 검수 방식은 LeanX의 제안입니다.