A inteligência artificial entra em nova fase. Após se consolidar como ferramenta de respostas, textos e análises, passa a agir pelo usuário.
O Muse, novo agente pessoal de IA da Meta, exemplifica essa transformação. A proposta é permitir que a tecnologia navegue pela internet, pesquise produtos, preencha formulários, organize tarefas e interaja com serviços. É a chamada IA agêntica: o usuário deixa de perguntar "como faço?" e passa a dizer "faça por mim".
O ganho de produtividade pode ser enorme. Mas surge um novo problema de segurança: uma IA que pode agir também pode ser manipulada para agir de forma diferente da pretendida pelo usuário.
O novo alvo dos criminosos
Um agente de IA não trabalha apenas com informações fornecidas diretamente pelo usuário. Para executar tarefas, acessa páginas, documentos, e-mails e outros conteúdos da internet — ambientes que podem conter instruções maliciosas destinadas à própria IA.
Imagine alguém pedindo ao agente para pesquisar uma passagem aérea. Durante a navegação, o sistema acessa uma página aparentemente legítima com uma instrução escondida para alterar o comportamento da IA. O objetivo pode ser desviá-la da tarefa original ou levá-la a executar uma ação não planejada pelo usuário.
Esse ataque é conhecido como prompt injection. Quando a instrução maliciosa é inserida em conteúdo externo consultado pelo agente, trata-se de indirect prompt injection. O problema já é reconhecido por organismos como NIST e OWASP.
A diferença em relação aos golpes tradicionais é significativa. Um chatbot manipulado pode produzir resposta errada, mas o usuário ainda decide. Um agente com autonomia transforma o erro em ação: envia mensagem, preenche formulário, altera compromisso ou realiza compra, conforme as permissões concedidas.
Entra em cena outro conceito: agência excessiva. Quanto mais permissões um agente possui, maior o potencial de dano se manipulado. A limitação de acesso deve ser regra básica: a IA precisa ter somente os poderes necessários para cumprir determinada tarefa.
Cria-se também nova forma de engenharia social. Fraudadores que exploravam medo, urgência e confiança para manipular pessoas agora tentarão fazer o mesmo com os sistemas que trabalham para elas. Um e-mail, documento ou página pode ser construído não para convencer o usuário, mas para influenciar o agente.
A Meta afirma ter adotado mecanismos de segurança no Muse, incluindo isolamento do ambiente de execução, proteção de credenciais e aprovação humana para determinadas ações. Isso demonstra reconhecimento dos riscos, mas evidencia uma realidade: quanto maior a autonomia, maior precisa ser a estrutura de proteção.
Quando a tecnologia encontra o Direito
O problema ganha outra dimensão quando o agente se conecta a diferentes serviços. E-mail, calendário, documentos, aplicativos de compras e sistemas corporativos podem formar um mesmo ecossistema. A conveniência aumenta, mas também cresce o impacto potencial de uma manipulação.
O comércio eletrônico é exemplo claro. O consumidor poderá delegar à IA a pesquisa de produtos, comparação de preços e, em alguns casos, a própria compra. O comércio agêntico reduz etapas, mas cria dúvidas sobre origem e validade dessas decisões.
Se uma página maliciosa influenciar a escolha do agente e uma compra indevida for realizada, quem responde pelo prejuízo? O consumidor que autorizou a tarefa? A empresa responsável pela IA? O site que forneceu a informação manipulada? O comerciante? O banco?
Não há resposta única. A responsabilidade dependerá das circunstâncias, das relações jurídicas envolvidas, das obrigações de cada participante e das medidas de segurança adotadas. O Direito terá de lidar com situação em que a ação não foi tomada diretamente por uma pessoa, mas por um sistema com autonomia para agir em seu nome.
No Brasil, a discussão avança no Legislativo, com propostas sobre responsabilidade civil e proteção do consumidor diante do comportamento autônomo de sistemas de IA. A tendência é que o tema ganhe importância à medida que esses agentes participem de operações mais sensíveis.
Também será necessário definir o alcance da autorização dada pelo usuário. Autorizar uma IA a pesquisar um produto não significa autorizar qualquer ação relacionada a ele. A diferença entre tarefa limitada e autorização ampla pode ser decisiva na apuração de responsabilidades.
Registros e trilhas de auditoria terão papel crescente. Em eventual fraude, não bastará saber que uma operação aconteceu. Será preciso identificar a ordem original, quais informações o agente consultou, quais permissões possuía, que decisões tomou e como chegou à ação final.
A fraude pode mudar de vítima
Durante anos, a segurança digital buscou impedir que o criminoso enganasse o usuário. A IA agêntica acrescenta nova questão: como impedir que o criminoso engane o agente do usuário?
A mudança é profunda porque altera o próprio conceito de vítima. A pessoa continua sendo o alvo final, mas a IA pode se tornar intermediário vulnerável entre criminoso e usuário.
O fraudador do futuro talvez não precise convencer diretamente uma pessoa de que uma mensagem é verdadeira. Pode bastar convencer a inteligência artificial.
O Muse representa passo importante nessa transformação. A IA deixa de ser apenas ferramenta de consulta e assume o papel de agente capaz de executar tarefas em nome das pessoas.
A promessa é uma internet mais automatizada, conveniente e produtiva. O desafio será garantir que essa autonomia permaneça sob controle.
Porque, quando a IA passa a agir por nós, proteger o usuário significa também proteger a máquina que recebeu autorização para agir em seu nome.
Escrito por: Afonso Morais – Advogado Digital, especialista em fraudes digitais e recuperação judicial de ativos financeiros, fundador da Pardi e Morais Consultores Jurídicos e criador e host do podcast Falando de Fraudes.
🌐Redes sociais do DIÁRIO DO PAÍS® no Instagram:
👉🏻Siga-nos no Threads:
https://www.threads.net/@portaldiariodopais
https://www.threads.net/@brunodelimabr
☎️Fale com o DIÁRIO DO PAÍS pelo nosso telefone Fixo/WhatsApp:
📲Baixe o aplicativo gratuito do DIÁRIO DO PAÍS para celulares Android no Google Play:
https://play.google.com/store/apps/details?id=news.diariodopais.appdiariodopais
***
✍🏻Em tempos de desinformação, o DIÁRIO DO PAÍS continua produzindo diariamente informação responsável e apurada pela nossa redação que escreve, edita e entrega notícias nas quais você pode confiar. Assim como o de tantos outros profissionais comprometidos com a verdade, nosso trabalho tem sido maior do que nunca. Compartilhe nosso conteúdo.
🔗Acompanhe o nosso site: www.diariodopais.com.br redes sociais: @portaldiariodopais .
🇧🇷DIÁRIO DO PAÍS - Princípios fortes, jornalismo à altura. O seu ponto de vista cristão e conservador.
🌍Vamos juntos fortalecer a luta por um mundo melhor?
DIÁRIO DO PAÍS