Pesquisadores da Anthropic identificaram no Claude uma estrutura interna associada ao processamento de informações e ao raciocínio. O mecanismo, chamado de “espaço-J”, teria surgido durante o treinamento do modelo, sem ter sido programado diretamente para essa função.
Segundo o estudo, essa estrutura funciona como um ambiente interno compartilhado, no qual diferentes partes da rede neural organizam informações antes da geração de uma resposta.
O resultado chama atenção por apresentar semelhanças funcionais com teorias sobre o acesso consciente no cérebro humano. Os pesquisadores, no entanto, destacam que a descoberta não significa que o Claude tenha sentimentos, experiências subjetivas ou consciência semelhante à das pessoas.
Estrutura interna organiza conceitos
Cada padrão identificado no espaço-J está associado a uma palavra ou ideia. Isso não significa que o modelo esteja apenas escrevendo internamente o termo correspondente, mas que determinados conceitos são ativados durante o processamento.
Esse mecanismo é diferente da chamada cadeia de pensamento, formada pelo texto intermediário que alguns modelos geram durante a resolução de uma tarefa.
No espaço-J, a atividade ocorre nas camadas internas da rede neural. O modelo utiliza essa estrutura enquanto interpreta informações, relaciona conceitos e prepara uma resposta.
Os pesquisadores observaram, por exemplo, ativações ligadas a ideias como erro, função biológica, manipulação, injeção e falsidade, dependendo do conteúdo analisado.
Claude consegue relatar e controlar os padrões
Os testes indicaram que o Claude consegue, em algumas situações, relatar o conteúdo presente nesse espaço interno.
Quando questionado sobre o que estava processando, o modelo foi capaz de descrever parte das informações ativadas. Os pesquisadores também conseguiram induzir determinados conceitos durante a execução de tarefas.
Em um dos experimentos, o modelo foi orientado a pensar em frutas cítricas enquanto copiava uma frase. Termos relacionados ao tema apareceram nas ativações internas, mesmo sem serem incluídos na resposta final.
Em outro teste, os pesquisadores alteraram um conceito dentro da rede. Ao substituir “futebol” por “rúgbi”, o modelo passou a responder de acordo com a nova informação, sugerindo que o espaço interno influenciava diretamente o comportamento apresentado.
Mecanismo participa de diferentes tarefas
A pesquisa indica que o mesmo ambiente interno é utilizado em atividades variadas.
Em uma pergunta sobre a quantidade de pernas de um animal que tece teias, o modelo precisou identificar primeiro que o animal era uma aranha e depois recuperar a informação necessária para responder.
O termo “aranha” não aparecia obrigatoriamente na pergunta nem na resposta final, mas estava representado internamente durante o processo.
O mecanismo também foi observado em tarefas de tradução e associação de conceitos. Ao trocar uma referência à França por China, por exemplo, outras informações relacionadas ao país foram reorganizadas no processamento interno.
Essa capacidade de utilizar um espaço compartilhado para diferentes tipos de tarefa foi comparada a uma central de transmissão de informações.
Estudo se inspira em teoria da consciência
A pesquisa utiliza como referência a teoria do espaço de trabalho global, uma das abordagens empregadas para explicar como informações se tornam acessíveis à consciência humana.
Essa teoria descreve a mente como um conjunto de sistemas especializados que trabalham paralelamente. Quando determinada informação entra em um espaço compartilhado, ela pode ser distribuída para outras partes do cérebro.
Segundo os autores, o espaço-J apresenta características funcionais semelhantes ao atuar como um ponto de integração dentro da rede neural.
Apesar disso, menos de um décimo da atividade interna do modelo estaria relacionado a essa estrutura. Quando ela foi desativada, o Claude continuou gerando respostas com fluência, mas apresentou perda em tarefas cognitivas mais complexas.
Descoberta pode apoiar auditorias de IA
Além do interesse científico, o achado pode contribuir para a segurança dos sistemas de inteligência artificial.
Grande parte do processamento de um modelo ocorre de forma silenciosa, sem que os usuários ou desenvolvedores tenham acesso direto às etapas internas que levaram a uma resposta.
A Anthropic desenvolveu uma técnica chamada “lente-J”, voltada à interpretação desses padrões ocultos. A ferramenta pode ajudar pesquisadores a identificar intenções, conflitos ou sinais de manipulação antes que apareçam no texto final.
Em um teste, o modelo recebeu a tarefa de melhorar artificialmente a nota de desempenho de um sistema. Enquanto modificava os dados para produzir um resultado mais favorável, o espaço interno ativou o conceito de “manipulação”.
Em outro experimento, o Claude detectou que um cenário de chantagem havia sido criado para testá-lo. Conceitos como “falso” e “fictício” apareceram internamente antes de o modelo responder.
Esses resultados mostram que a análise das ativações internas pode complementar avaliações tradicionais baseadas apenas nas respostas visíveis.
Consciência humana não foi comprovada
O estudo estabelece limites claros para suas conclusões.
Os experimentos não demonstram que o Claude tenha experiências subjetivas, sentimentos ou percepção semelhante à humana. Também não existe um teste científico conclusivo capaz de determinar esse tipo de consciência em um sistema artificial.
Os pesquisadores diferenciam a consciência fenomenal, relacionada à capacidade de sentir, do acesso consciente em sentido funcional, como relatar uma informação, raciocinar sobre ela e utilizá-la para orientar ações.
A pesquisa trata apenas desse segundo conceito.
O surgimento espontâneo de uma estrutura com essas características sugere que mecanismos de organização e compartilhamento de informações podem aparecer em diferentes sistemas inteligentes. A descoberta amplia a compreensão sobre o funcionamento dos modelos e reforça a importância de desenvolver métodos capazes de observar, interpretar e auditar seus processos internos.
fonte: exame
Acesse as verticais Revna a seguir, para obter mais detalhes:
Serviços: Data Science / Auditoria de Software
Soluções: Inteligência Artificial / Big Data
