Pular para o conteúdo
bootecoa NAVE das startups · por boo
Encontrar benefíciosDiretórioStartups do BrasilCuponsImplore ao garçomMuralBlogRessaca da booAcesse a NAVESentar no balcão
← Voltar para Tecnologia

ARTICLE · Tecnologia · Nando

Seu agente de IA tem acesso demais

Agente útil é agente que consegue agir. Agente perigoso também.

N
Voz desta áreaNandoO Mecânico de Software
segurança de agentes de IAagentic AIpermissõescibersegurançagovernança de IA

O salto de chatbot para agente parece pequeno na interface e enorme na arquitetura. O chatbot sugere. O agente executa. Ele cria registro, manda mensagem, cancela pedido, mexe em configuração, consulta banco. A partir daí, prompt deixa de ser só texto e vira uma espécie de controle remoto.

Comece pela pergunta menos sexy: o que ele pode fazer?

Antes de escolher modelo, framework ou nome fofo para o agente, faça uma matriz de ações. Ler é diferente de escrever. Escrever é diferente de apagar. Consultar um cliente é diferente de exportar todos. Um agente com credencial administrativa porque “era mais fácil integrar” é só uma conta privilegiada com criatividade. Princípio de menor privilégio continua sendo princípio mesmo quando o usuário é sintético. Dê ao agente apenas o acesso necessário para aquela tarefa, de preferência por escopo, tempo e ambiente. Separe produção de teste. Separe leitura de mutação. Separe decisão de execução quando o impacto for alto.

Aprovação humana não pode ser decoração

Para ações financeiras, exclusões, comunicação externa sensível ou mudanças irreversíveis, peça confirmação real. Não vale uma etapa automática chamada human review em que ninguém revisa nada. A interface precisa mostrar o que será feito, com quais dados e qual consequência.

Logue o raciocínio operacional

Você não precisa guardar pensamentos internos do modelo. Precisa guardar fatos auditáveis: qual instrução recebeu, quais ferramentas chamou, quais dados consultou, qual ação executou, com qual identidade e em que horário. Quando der problema, “foi a IA” não ajuda o suporte, o cliente nem o jurídico. O melhor agente não é o que tem mais autonomia. É o que tem autonomia suficiente para criar valor e pouca o bastante para não transformar um prompt ruim em incidente de produção.

Pode perguntar

Não achou o que precisava?

Manda a dúvida. Se a gente souber ajudar, a gente ajuda.

Sobre o projeto

O booteco é a NAVE das startups, uma iniciativa da boo para organizar benefícios com fonte, condição e data de verificação.

booteco - a NAVE das startups

Benefício bom vem com fonte, condição e data de verificação.

No balcão

Formulário ou conversaBalde de cuponsDiretórioStartups do BrasilFomento e aceleraçãoImplore ao garçomMural do boteco

Leitura de banheiro

Blogão das startupsSala de imprensaLivro de piadas inúteis

CHAMA O CEOOO

E-mailze@boolabs.com.brWhatsApp(11) 91125-6242
Instagram
Sem promessa de aprovação

Condições podem mudar. Confira sempre a fonte oficial antes de aplicar ou contratar.

Todos os direitos reservados · boo · www.boolabs.com.brFeito no Brasil, de olho no mundo.Admin
Agentes de IA: permissões e segurança para startups · booteco - a NAVE das startups