À medida que os agentes de Inteligência Artificial assumem tarefas autônomas no ecossistema corporativo interagindo diretamente com arquivos, bancos de dados e sistemas de gestão como ERPs, as equipes de TI e governança enfrentam um novo desafio: garantir que a IA não desvie de sua finalidade inicial durante a execução de um processo.
Para responder a essa vulnerabilidade, a Check Point Software e a NVIDIA anunciaram uma integração em fase beta que une a tecnologia de monitoramento semântico da Check Point ao NVIDIA OpenShell, componente da NVIDIA Open Agent Safety Platform. A solução foi projetada para avaliar as intenções e ações dos agentes de IA antes que elas cheguem ao sistema de destino, permitindo barrar comportamentos atípicos em tempo real.
O problema do "caminho imprevisível" na operação
Nos modelos tradicionais de segurança, a concessão de credenciais para um sistema determina o que um usuário ou rotina automatizada pode ou não acessar. Contudo, no contexto dos agentes autônomos, conceder autorização para uma tarefa isolada deixa de ser suficiente para garantir a conformidade.
Um agente configurado para automatizar o processamento de faturas no ERP, por exemplo, possui permissões legítimas para consultar cadastros de fornecedores. No entanto, durante a resolução do fluxo, ele pode tentar buscar credenciais ou acessar dados de folha de pagamento no sistema de RH (HCM) um desvio que os controles estáticos baseados apenas em regras pré-definidas não conseguem identificar antes do fato consumado. A proposta do monitoramento semântico é justamente acompanhar a sequência de ações, as chamadas de ferramentas e o contexto geral da tarefa para verificar se o comportamento da IA continua alinhado ao objetivo original.
Como funciona a interceptação na infraestrutura
Na arquitetura apresentada pelas empresas, o NVIDIA OpenShell atua na camada de infraestrutura fora do processo do próprio agente, interceptando cada ação antes da execução. A tecnologia da Check Point analisa o movimento no contexto histórico das atividades anteriores e devolve uma decisão em milissegundos. Dependendo do nível de risco identificado, a resposta do ambiente pode variar desde o simples registro da ação para fins de auditoria e a submissão da etapa à aprovação de um operador humano, até a interrupção imediata da execução do agente.
Segundo dados divulgados pela Check Point, os testes da tecnologia de monitoramento demonstraram tomadas de decisão em menos de 100 milissegundos antes da execução da ação, ressaltando que o valor reflete a capacidade da tecnologia e não se traduz em uma garantia uniforme para todos os ambientes.
Visão dos especialistas e próximos passos
Para Steve Giguere, especialista principal em segurança de IA da Check Point Software, dar uma tarefa a um agente de IA não significa autorizar todos os caminhos que ele possa seguir para concluí-la.
"Compreender a intenção e o comportamento, e atuar em consequência em tempo real, é fundamental para o enfoque que consideramos necessário à hora de proteger a IA autónoma", afirmou o executivo.
A plataforma NVIDIA Open Agent Safety estabelece controles na infraestrutura utilizando também o NVIDIA Sentry (com o processador NVIDIA BlueField 4) para fiscalização independente do sistema anfitrião. O uso da telemetria disponibilizada por esses componentes de hardware é apontado pelas empresas como um caminho para reforçar a avaliação comportamental dos agentes em desenvolvimentos futuros.
