AI 에이전트가 회사 시스템에 닿기 전에,
확인하고 판정하고 기록합니다.
Graatii는 AI 에이전트와 회사의 도구 · 데이터 · API 사이에 서는 보안 게이트웨이를 만들고 있습니다.
한눈에
- 자리
- 에이전트와 도구 · 데이터 · API 사이
- 하는 일
- 신원 전달 · 정책 판정 · 자격 증명 중개 · 철회 · 감사 증거
- 기본 동작
- 확인되지 않은 요청은 거부
- 지금
- 설계 · 검증 단계, 출시된 제품 없음
01문제
에이전트가 일을 맡으면, 권한이 질문이 됩니다
AI 에이전트는 사람을 대신해 메일을 보내고, 파일을 고치고, 결제 API를 부릅니다. 그때 회사가 답해야 할 질문은 「모델이 얼마나 똑똑한가」보다 「이 요청을 누가, 어디까지 허락했나」에 가깝습니다.
-
누구의 뜻인지 흐려집니다
에이전트는 사람을 대신해 움직입니다. 도구 쪽에서는 그 요청이 어느 사용자의 뜻인지, 어떤 업무를 위해 허락된 것인지 구별하기 어렵습니다.
-
비밀이 오래, 넓게 남습니다
API 키와 토큰을 에이전트 설정에 그대로 넣어 두면, 그 비밀은 한 번의 작업에 필요한 것보다 넓은 범위에서 오래 쓰입니다.
-
읽은 내용이 행동을 바꿉니다
문서 · 웹 페이지 · 도구 설명에 섞인 지시가 에이전트의 다음 행동을 바꿀 수 있습니다(프롬프트 인젝션). 모델의 판단만으로 이를 확실히 걸러 내기는 어렵습니다.
-
일어난 일을 증명하기 어렵습니다
무엇이 허용되고 무엇이 막혔는지, 권한을 거둔 뒤에도 남은 길이 없는지를 나중에 증거로 보여 주기 어렵습니다.
02방식
에이전트와 시스템 사이에서,
요청마다 판정합니다
Graatii 게이트웨이는 에이전트의 요청이 도구 · 데이터 · API로 가는 길목에 섭니다. 아래는 지금 설계하고 검증하는 동작입니다.
-
신원 전달Identity
어떤 에이전트가, 어느 사용자를 대신해, 어떤 일로 요청하는지 확인하고 그 신원을 요청과 함께 전달합니다. 이 연결을 확인하지 못한 고위험 요청은 보내지 않습니다.
-
정책 판정Policy decision
요청을 실행 전에 허용 · 거부 · 승인 대기 가운데 하나로 판정합니다. 최종 근거는 사람이 읽을 수 있는 정책이고, AI 모델의 판단은 참고 재료로만 씁니다.
-
자격 증명 중개Credential brokering
에이전트에게 오래가는 비밀을 맡기지 않습니다. 판정을 통과한 호출 하나, 목적지 하나에 필요한 만큼만 짧게 빌려주고, 비밀은 분리된 영역에 둡니다.
-
철회Revocation
권한을 거두면 새 요청뿐 아니라 이미 열린 연결과 발급된 자격 증명까지 막혔는지 확인합니다. 확인이 끝날 때까지는 「철회 적용 중」으로 보입니다.
-
감사 증거Audit evidence
무엇을 판정했고, 실제로 전달했는지, 근거가 무엇이었는지를 기록으로 남깁니다. 보호 수준은 그 증거가 뒷받침하는 만큼만 표시합니다.
03원칙
설계를 붙잡는 네 가지 원칙
기능을 더할 때마다 이 네 가지에 비추어 봅니다.
-
기본은 거부
확인된 허락만 지나갑니다. 해석할 수 없거나 모호한 요청은 거부하고, 등록되지 않은 작업은 허용으로 넘어가지 않으며, 고위험 요청은 판정에 실패하면 닫힙니다.
-
「완료」는 증거가 있을 때만
권한 철회는 모든 경로가 막혔다는 증거가 남은 뒤에만 완료로 표시합니다. 새 연결이 막힌 것만으로는 부족합니다. 이미 열린 연결로 옛 권한이 지나갈 수 있기 때문입니다.
보호 표시도 같습니다. 증거가 없으면 「안전함」이라고 쓰지 않습니다.
-
철회 요청
권한을 거두라는 요청을 받습니다
-
철회 적용 중
경로마다 막혔는지 확인합니다
확인할 경로
- 새 연결
- 이미 열린 연결
- 발급된 자격 증명
- 다시 시작한 서버
-
철회 완료
모든 경로가 막혔다는 증거가 남은 뒤
그림 2. 철회 상태가 바뀌는 조건. 하나라도 확인되지 않으면 「적용 중」에 머뭅니다. -
-
독립 검증
설계를 서로 다른 검토자와 실측으로 거듭 확인합니다. 시험이 실패를 정말 잡아내는지 보려고 일부러 망가뜨린 구성으로도 돌려 봅니다. 겉으로는 통과하지만 실제로는 권한이 새는 경우를 찾으면, 그 경우를 규칙과 시험에 넣습니다.
-
복잡함은 수면 아래
판정과 증거의 깊이는 시스템 안에 둡니다. 사람이 보는 곳에는 위험 · 이유 · 영향 · 다음 행동이 바로 읽히도록 설계합니다.
04단계
지금은 설계 · 검증 단계입니다
단계마다 다른 증거로 판정하고, 한 단계의 증거로 다음 단계를 주장하지 않습니다. 출시된 제품은 아직 없습니다.
-
1지금
설계 · 검증
보안 계약과 신뢰 경계를 문서로 정하고, 독립 검토와 작은 실측으로 확인합니다.
-
2
구현
계약대로 만들고, 미리 정해 둔 합격 시험으로 확인합니다.
-
3
독립 검증
만든 사람과 다른 검증자가 같은 조건으로 다시 실행해 같은 결과를 얻습니다.
-
4
운영 준비
장애 대응과 고객 간 분리 같은 운영 기준을 확인한 뒤에야 고객 환경에 둡니다.
05연락