O avanço acelerado da inteligência artificial trouxe consigo um cenário que remete aos primórdios da internet. Ram Shankar Siva Kumar, líder da equipe AI Red Team da Microsoft, traçou um paralelo importante entre o momento atual e o final dos anos 90, comparando o uso de IAs de fontes desconhecidas ao risco de baixar arquivos em sites pouco confiáveis naquela época. Segundo o especialista, o perigo reside tanto em ataques maliciosos direcionados quanto na fragilidade de infraestruturas de softwares criados por equipes menores, que podem não oferecer camadas de segurança robustas.
A recomendação central é a manutenção de hábitos rigorosos de cibersegurança. Kumar enfatiza que a origem da IA e as permissões de sistema concedidas a ela devem ser verificadas com cautela, mesmo quando o aplicativo aparenta ser legítimo. Esse cuidado é fundamental para a proteção de dados sensíveis e para a integridade dos dispositivos, evitando que a autonomia prometida por essas ferramentas se torne uma porta de entrada para ameaças digitais.
A natureza dos agentes independentes
Diferente de assistentes convencionais, os modelos de IA independentes ou agentes de IA possuem a capacidade de executar tarefas complexas de forma autônoma, como navegar por interfaces de outros aplicativos e preencher formulários. Entretanto, essa autonomia é relativa. Embora simulem o comportamento humano com precisão, esses sistemas ainda operam sob a supervisão direta de pessoas, que fornecem as instruções e validam suas ações.
A discussão sobre esses riscos também levanta um debate sobre o mercado tecnológico. Há interpretações de que alertas vindos de grandes corporações podem servir como uma estratégia para desencorajar o uso de soluções de startups emergentes. Contudo, independentemente das movimentações de mercado, a lógica de segurança aplicada permanece válida.
“Nesse ambiente, a autoridade de execução não é um recurso do produto. É uma posição arquitetônica que abrange o controle sobre identidade, permissões, aplicação de políticas, acesso ao sistema de registro e auditabilidade”, explica em comunicado Alastair Woolcock, vice-presidente analista do Gartner. “Os fornecedores que incorporarem a IA nesse plano de controle moldarão a execução do fluxo de trabalho.”
fonte: canaltech
Acesse as verticais Revna a seguir, para obter mais detalhes:
Serviços: Auditoria de Software / Infraestrutura de TI
Soluções: Inteligência Artificial / RPA
