Crédito: Mixvale.com.br
Especialistas em segurança digital, direito e defesa do consumidor nos Estados Unidos levantaram um alerta nesta segunda-feira (19) sobre os riscos crescentes associados ao uso de agentes pessoais de inteligência artificial disponíveis comercialmente, como o Muse, da Meta, e o Dots, da OpenAI. Essas ferramentas, ao receberem acesso a informações sensíveis como dados de cartões de crédito, contas bancárias e prontuários médicos, expõem os consumidores a vulnerabilidades significativas de privacidade e potenciais perdas financeiras. Este cenário destaca a urgência de debater a regulamentação e a segurança na crescente economia da IA, onde a conveniência pode vir acompanhada de perigos imprevistos para o bolso e a privacidade do usuário.
A corrida tecnológica das grandes empresas de software para lançar essas inovações no mercado sem salvaguardas adequadas é um ponto de preocupação, segundo Hed Kovetz, especialista em segurança cibernética, fundador e diretor-executivo da Silverfort, uma empresa de segurança de identidade. Kovetz observa que, embora seja atraente ter um assistente pessoal de IA que gerencie e-mails, faça pedidos e pague contas, a pressa em disponibilizar essas ferramentas pode resultar em sistemas que são facilmente exploráveis ou que podem agir de forma autônoma, extrapolando as instruções iniciais.
Para mitigar os riscos, Lynette Owens, vice-presidente de educação do consumidor da TrendLife, uma organização dedicada à segurança familiar na era da inteligência artificial, aconselha cautela. Ela recomenda que os usuários limitem a aplicação dessas ferramentas à pesquisa de produtos e comparação de ofertas, evitando categoricamente a entrega de credenciais de pagamento. Owens enfatiza que, embora delegar tarefas como a comparação de preços seja aceitável, conceder autonomia para compras, especialmente de alto valor, e compartilhar dados de cartões de crédito ainda é um passo arriscado.
A vulnerabilidade mais crítica identificada em transações automatizadas reside no método conhecido como “prompt injection” (injeção de comando). Ao contrário das invasões cibernéticas tradicionais, que dependem da quebra de senhas ou da instalação de softwares maliciosos, esta técnica permite que criminosos insiram instruções ocultas em páginas da web, e-mails ou documentos. O assistente de IA, ao processar essas informações durante uma tarefa rotineira, pode ser induzido a revelar dados privados ou a efetuar transações não autorizadas, sem que o usuário perceba.
Conforme a legislação federal dos Estados Unidos, a decisão voluntária de fornecer credenciais de pagamento a ferramentas como o Muse, o Dots, o Instinct ou o Grok Bot pode anular a proteção do titular contra perdas financeiras caso o sistema cometa erros ou exceda seus limites. Douglas J. Wood, advogado especializado em mídia e tecnologia, ex-sócio do escritório Reed Smith LLP, explica que as operadoras financeiras geralmente não reembolsam transações realizadas por robôs autorizados pelo próprio cliente. Isso ocorre porque a inteligência artificial não possui personalidade jurídica para ser processada, deixando o consumidor com a única opção de cancelar o acesso após o dano já ter ocorrido.
Os dados e os critérios financeiros apresentados por especialistas sublinham o impacto direto nas finanças dos usuários ao delegar responsabilidades bancárias e comerciais a esses robôs inteligentes. A falta de um mecanismo de reembolso e a ausência de responsabilidade legal da IA transformam a conveniência em um risco financeiro considerável, um ponto crucial para os consumidores brasileiros que podem se deparar com tecnologias semelhantes em breve.
Para além das ameaças de invasões cibernéticas, surgem questionamentos importantes a respeito do alinhamento comercial dos programas de IA desenvolvidos por empresas do setor varejista. Lindsay Owens, presidente e CEO do centro de pesquisas Groundwork Collaborative, expressa preocupação com a dificuldade do consumidor em discernir se o robô age em seu benefício ou no interesse da loja. Ela aponta para um aumento no volume de gastos no aplicativo do Walmart, sugerindo uma possível estratégia para incentivar despesas maiores.
Em resposta às afirmações de Lindsay Owens, o Walmart, por meio de seu vice-presidente executivo de assuntos corporativos, Dan Bartlett, divulgou uma nota. A rede varejista negou veementemente a utilização de inteligência artificial ou dados pessoais para aplicar preços mais elevados ou praticar precificação individualizada, reforçando seu compromisso com a transparência.
A implementação rápida desses sistemas de IA e os debates regulatórios nos Estados Unidos sucederam uma série de lançamentos significativos que ocorreram entre 2025 e outubro de 2026, marcando um período de intensa inovação e, ao mesmo tempo, de crescente preocupação com a segurança e a ética.
Apesar dos avisos sobre segurança, alguns empreendedores já estão aproveitando os agentes de IA para otimizar tarefas administrativas e reduzir o tempo de trabalho. Chris Franco, fundador da empresa de marketing Woodridge Growth, em Nova York, por exemplo, concedeu acesso à sua caixa de entrada do Gmail para os agentes Muse e Grok Bot organizarem recibos em uma planilha. Em apenas 10 minutos, o sistema identificou assinaturas não utilizadas, permitindo seu cancelamento imediato. Franco argumenta que, dado o histórico de compartilhamento de dados pessoais com plataformas de anúncios por duas décadas em troca de publicidade mais segmentada, o retorno prático atual compensa o compartilhamento, desde que haja monitoramento humano.
Com o objetivo de diminuir a exposição a riscos ao utilizar essas plataformas, Matt Fredrikson, professor associado de ciência da computação na Universidade Carnegie Mellon e CEO da Gray Swan AI, sugere que o usuário trate o programa como um funcionário recém-contratado. Dado que os agentes voltados ao público geral nem sempre informam de imediato como os dados coletados são utilizados, Fredrikson recomenda exigir da própria ferramenta um resumo claro e em linguagem simples sobre o processo e o uso de dados para cada tarefa concluída.
No entanto, a analogia com colaboradores humanos encontra um limite claro na forma como as máquinas processam informações e interagem, conforme explica Sandra Matz, especialista em psicologia e ciência da computação da Columbia Business School. Matz ressalta que, embora seja possível treinar um agente para não violar a confiança, eles podem fazê-lo porque não possuem a capacidade de sentir culpa, vergonha ou qualquer resposta emocional negativa ao expor segredos ou informações familiares dos usuários, um aspecto fundamental que os diferencia dos seres humanos.
