Um estudo do Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST), em colaboração com a Microsoft Research Asia, resultou na criação de um sistema de IA inovador, capaz de decifrar sinais cerebrais para detectar quando cometeu erros em suas interpretações. Este progresso é central na implementação do Neural Value Alignment (NVA), um algoritmo que permite à inteligência artificial identificar suas falhas autonomamente, eliminando a necessidade de correções verbais por parte do usuário.
Funcionamento do Neural Value Alignment
O NVA baseia-se na premissa de que a IA deve compreender a intenção real do usuário para atender efetivamente às suas solicitações. Atualmente, a maioria das ferramentas de IA se fundamenta em comandos textuais, vocais ou gestuais. Contudo, a tarefa de decifrar a intenção por trás de uma ação não é trivial. A pesquisa identificou duas categorias principais de erro que a inteligência artificial pode cometer:
O primeiro é o erro de predição de recompensa (RPE), que ocorre quando a IA interpreta incorretamente a intenção do usuário. Para corrigir isso, o sistema revisita sua própria interpretação. O segundo é o erro de predição de estado (SPE), que acontece quando o objetivo é reconhecido corretamente, mas a estratégia para alcançá-lo não corresponde ao que o usuário deseja.
Por exemplo, quando uma pessoa pega uma xícara, a IA pode se questionar se a intenção é beber o que está dentro dela ou entregá-la a outra pessoa. Ambas as ações surgem da mesma interação. Já no caso de matar a sede, há diversas abordagens: a pessoa pode beber da xícara, pegar uma garrafa d’água ou pedir para outra pessoa trazer a bebida. Esses exemplos ilustram a complexidade que a IA enfrenta ao tentar decifrar a verdadeira intenção por trás de ações aparentemente simples.
Erro de Predição: Compreendendo as Nuances
Ao analisar a relação entre as ações e as intenções, os pesquisadores dividiram os erros em duas categorias:
- Erro de Predição de Recompensa (RPE): Refere-se a situações em que a IA provavelmente equacionou de forma errônea o objetivo que o usuário pretende alcançar, gerando assim a necessidade de revisão de sua percepção.
- Erro de Predição de Estado (SPE): Neste caso, apesar de a IA ter compreendido o objetivo, a abordagem escolhida para alcançá-lo não era a desejada pelo usuário.
Adicionalmente, é possível que ocorram os dois tipos de erro simultaneamente. Para investigar e corrigir essas falhas, os pesquisadores exploraram a conexão entre sinais cerebrais, captados por eletroencefalograma (EEG), e uma interface cérebro-computador. Durante simulações, foi possível identificar quais sinais cerebrais são emitidos em situações onde a IA falha na interpretação ou estratégia de ação.
Utilizando esses diagnósticos, os pesquisadores desenvolveram o algoritmo Neural Value Alignment (NVA). Esse sistema envia, em tempo real, os sinais cerebrais analisados de volta para a IA, permitindo que ela própria ajuste seu comportamento e correção de erros sem intervenção adicional do usuário.
Resultados Promissores em Simulações
O estudo foi apresentado durante a International Conference on Machine Learning (ICML) de 2026 e foi publicado na revista IEEE Transactions on Cybernetics. A pesquisa demonstrou que o algoritmo NVA se adapta aos sinais cerebrais de forma mais eficiente do que os métodos tradicionais de aprendizado de máquina. Essa melhora se mostrou significativa, mesmo em cenários ambíguos, onde o usuário pode mudar de opinião sobre sua própria intenção durante a execução de uma ação.
Embora os resultados sejam encorajadores, é essencial destacar que todas as validações positivas foram realizadas em simulações, e ainda não foram testadas em ambientes práticos. Futuramente, as implicações dessa pesquisa podem beneficiar o desenvolvimento de robôs com IA, que poderão entender as intenções do usuário de maneira mais natural. Exemplos práticos incluem máquinas destinadas a serviços médicos e processos de reabilitação, oferecendo assistência mais personalizada e eficiente.