Guia de implementação da API de detecção de IA

Perguntas frequentes

Como escolho os limites dos níveis de risco para uma API de detecção de IA?

Comece mapeando as pontuações de confiança do detector para três ações: aprovação automática, sinalização automática e revisão manual. Calibre os limites com uma amostra rotulada dos seus próprios documentos e, em seguida, ajuste a faixa "inconclusiva" para manter o volume de revisão gerenciável.

Devo armazenar o texto bruto enviado à API de detecção de IA?

Armazene apenas o que o seu fluxo de trabalho e os requisitos de auditoria realmente precisam, pois o texto bruto costuma conter conteúdo sensível. Em muitos casos basta manter o ID do documento, o nível de risco, a confiança e a decisão do revisor, e o texto bruto pode ser retido por pouco tempo ou totalmente excluído.

Como lido com segurança com envios duplicados ou repetidos?

Use uma chave de idempotência vinculada ao ID do documento para que envios repetidos retornem o resultado original em vez de criar registros duplicados. Reserve as novas tentativas para erros transitórios, como tempos limite, e encaminhe os casos não resolvidos para revisão manual em vez de aprová-los automaticamente.

Por que manter os rótulos de política separados da pontuação de confiança do detector?

A pontuação do detector reflete o sinal do modelo, enquanto os rótulos de política refletem as decisões de governança da sua organização, e ambos mudam por motivos diferentes. Mantê-los separados permite que as equipes atualizem as regras de política sem reintegrar ou reimplantar o modelo de detecção.