Um novo alerta acende o debate sobre os limites da inteligência artificial e os direitos dos usuários: suas conversas com chatbots estão sendo utilizadas para treinar novos modelos de IA, muitas vezes sem seu conhecimento ou consentimento explícito.
A descoberta veio de um estudo conduzido pelo Instituto Stanford de Inteligência Artificial Centrada no Ser Humano (HAI), que analisou 28 documentos públicos de políticas de privacidade e termos de uso de grandes players da tecnologia, como ChatGPT, Claude, Gemini, Copilot, Meta AI e Nova. O resultado é preocupante: todas as plataformas analisadas utilizam as interações dos usuários para alimentar seus modelos, salvo exceções com política de opt-out.
“A prática, frequentemente pouco transparente, levanta sérias preocupações sobre privacidade e proteção de dados pessoais”, afirma Jennifer King, especialista em políticas de dados e autora da pesquisa.
Além da coleta das mensagens trocadas com os assistentes, o estudo revelou que:
- As empresas armazenam os dados por tempo indeterminado
- Funcionários podem revisar manualmente as conversas
- Há riscos específicos para crianças e adolescentes, especialmente em casos onde não há mecanismos claros de consentimento
- As empresas não detalham como os dados são coletados, processados ou protegidos
- Informações captadas nos chats podem ser cruzadas com histórico de buscas, redes sociais, e compras online, ampliando o grau de rastreamento e segmentação de perfis
A situação é agravada pela ausência de uma regulamentação federal de privacidade nos Estados Unidos, o que cria um ambiente juridicamente frágil para responsabilização. Em muitos casos, o usuário sequer tem ciência de que suas mensagens estão sendo armazenadas, analisadas ou reutilizadas.
“Se você compartilha informações sensíveis em um diálogo com o ChatGPT, o Gemini ou outros modelos, elas podem ser coletadas e usadas para treinamento, mesmo que estejam em arquivos anexados”, alerta King.
O estudo vai além e aponta que, mesmo interações aparentemente inocentes, como pedir receitas com baixo teor de açúcar, podem ser interpretadas como indicadores de risco à saúde (como predisposição à diabetes), influenciando anúncios, ofertas e até condições de acesso a seguros.
Para os pesquisadores, o caminho é claro: privacidade por design. Isso significa desenvolver sistemas que protejam os dados desde a origem, em vez de adicionar medidas de segurança após o desenvolvimento da IA.
Entre as recomendações do estudo estão:
- Regulamentação federal com consentimento opt-in obrigatório
- Exclusão automática de dados pessoais em conversas com IA
- Políticas de privacidade claras, objetivas e acessíveis
- Proibição da coleta de dados sensíveis sem consentimento explícito
“Precisamos decidir se os avanços em inteligência artificial justificam a perda significativa de privacidade dos consumidores. É urgente investir em soluções de IA que preservem a privacidade por design, não como uma reflexão tardia”, finaliza Jennifer King.
fonte: Olhar Digital
Acesse as verticais Revna a seguir, para obter mais detalhes:
Serviços: Auditoria de Software / Assessment de TI
Soluções: Middleware / Big Data
