Tecnologia identifica erros de IA através de sinais cerebrais

*Da Redação*

Pesquisadores do Korea Advanced Institute of Science and Technology (KAIST) e Microsoft Research Asia criaram tecnologia inovadora. O sistema identifica quando inteligência artificial interpreta incorretamente intenções humanas. Utiliza sinais cerebrais para fazer máquinas perceberem erros sem verbalizações do usuário.

A solução, chamada Neural Value Alignment (NVA), emprega interface cérebro-computador. Analisa sinais de eletroencefalografia (EEG) em tempo real. Permite que IA ajuste comportamento automaticamente durante interações.

O problema da ambiguidade

A mesma ação humana representa objetivos completamente diferentes. Uma xícara pode ser pega para beber, entregar ou lavar. Objetivos idênticos são alcançados por múltiplos caminhos e métodos distintos.

Essa ambiguidade causa erros em sistemas de IA atuais. A máquina interpreta a ação corretamente mas erra sobre intenções reais. Ou compreende o objetivo mas escolhe método diferente do esperado.

Sinais neurais revelam o erro

O cérebro humano faz previsões constantes sobre eventos futuros. Quando resultados não correspondem ao esperado, sinais neurais específicos aparecem detectavelmente.

Os pesquisadores focaram em dois: erro de previsão de recompensa (RPE) e erro de previsão de estado (SPE). O RPE indica discrepância relacionada a resultados ou objetivos.

O RPE demonstra que IA não compreendeu intenção real. Um robô recebe pedido de bebida, entrega café quando esperava-se água. O resultado está errado, o cérebro gera sinal RPE.

O SPE funciona diferentemente, o objetivo está correto mas método escolhido não corresponde. A IA compreende que a pessoa quer água. Busca na cozinha em vez de usar garrafa próxima. Objetivo atingido, caminho inesperado.

IA aprende a distinguir objetivo de método

Experimentos identificaram padrões diferentes em ondas cerebrais durante RPE, SPE ou ambos simultaneamente. Técnicas de aprendizado profundo foram aplicadas aos sinais EEG capturados.

O sistema conseguiu classificar resposta da pessoa à atuação da IA com precisão. A tecnologia diferencia “você entendeu meu objetivo errado” de “você entendeu mas fez diferente”.

Sinais decodificados são utilizados como retorno para processos de decisão da inteligência artificial. Quando identifica SPE, a estratégia precisa ser modificada mantendo objetivo.

Um RPE indica que objetivo foi compreendido equivocadamente. A IA precisa tentar novamente descobrir intenção real da pessoa em questão.

O KAIST afirma que simulações mostraram adaptação mais rápida que abordagens existentes. Funcionou bem mesmo em incerteza, mudanças repentinas de objetivo ou ausência de retorno neural parcial.

O estudo foi publicado em agosto de 2026 na revista IEEE Transactions on Cybernetics. Título: “Neural Value Alignment: Human–AI Collaboration Under Goal–Action Ambiguity”.

Aplicações práticas em robótica

Os pesquisadores veem potencial em sistemas operando próximos a seres humanos. Robôs domésticos poderiam identificar interpretações incorretas via resposta cerebral do usuário.

Máquina modificaria comportamento sem esperar nova ordem verbal expressa explicitamente pelo operador. A mesma abordagem se aplica a robôs industriais e veículos autônomos.

Sistemas médicos, reabilitação, e ferramentas educacionais poderiam se beneficiar. Adaptar-se-iam ao estado cognitivo de pacientes ou estudantes em tempo real.

Sang Wan Lee, professor do KAIST responsável pela pesquisa, destaca importância do trabalho. A IA vai além de interpretar intenção baseada apenas em comportamentos observáveis visíveis.

O sistema permite utilizar sinais cognitivos produzidos pelo cérebro durante interação entre pessoas e máquinas inteligentes, segundo pesquisador.

Desafios importantes permanecem

A tecnologia ainda está distante de aplicações práticas imediatas em ambiente real descontrolado. Sistema foi demonstrado em simulações laboratoriais, não em robô operando livremente no mundo.

EEG depende de eletrodos para medir sinais elétricos minúsculos do cérebro. Esses sinais apresentam ruído e são mais difíceis de captar fora de laboratórios.

Será necessário verificar desempenho da NVA em interações naturais. Pessoas se movimentam e enfrentam situações muito menos previsíveis que experimentos laboratoriais.

Fonte: Olhar Digital

Radar364 – O Seu Portal de Notícias de Rondonópolis e Região.

The post Tecnologia identifica erros de IA através de sinais cerebrais appeared first on Radar 364.