AI 탐지 API 구현 가이드

자주 묻는 질문

AI 탐지 API의 위험 등급 임계값은 어떻게 정하나요?

먼저 탐지기의 신뢰도 점수를 자동 승인, 자동 플래그, 수동 검토라는 세 가지 동작에 매핑하세요. 자체 라벨링된 문서 표본으로 임계값을 보정한 뒤, 검토 물량이 관리 가능한 수준으로 유지되도록 '불확실' 구간을 조정합니다.

AI 탐지 API에 제출한 원문 텍스트를 저장해야 하나요?

원문에는 민감한 내용이 포함되는 경우가 많으므로, 워크플로와 감사 요건이 실제로 필요로 하는 것만 저장하세요. 많은 경우 문서 ID, 위험 등급, 신뢰도, 검토 결정만 보관해도 충분하며 원문은 짧게 보관하거나 아예 제외할 수 있습니다.

중복 제출이나 재시도를 안전하게 처리하려면 어떻게 하나요?

문서 ID에 연결된 멱등성 키를 사용해 중복 제출 시 새 레코드를 만들지 않고 원래 결과를 반환하도록 하세요. 재시도는 타임아웃 같은 일시적 오류에만 사용하고, 여전히 해결되지 않은 건은 자동 승인하지 말고 수동 검토로 보냅니다.

정책 라벨을 탐지기의 신뢰도 점수와 분리하는 이유는 무엇인가요?

탐지 점수는 모델의 신호를 나타내고 정책 라벨은 조직의 거버넌스 결정을 나타내며, 둘은 서로 다른 이유로 바뀝니다. 분리해 두면 탐지 모델을 다시 통합하거나 재배포하지 않고도 정책 규칙을 업데이트할 수 있습니다.