A crescente autonomia dos sistemas de inteligência artificial foi o tema central da conversa de Eduardo Felipe Matias, autor do livro A humanidade e o poder digital, no Café do MyNews de 1º de outubro de 2026. O debate partiu de uma transformação importante no desenvolvimento da tecnologia. Em vez de apenas responder a comandos, como fazem os chatbots tradicionais, os chamados agentes de IA já são capazes de receber objetivos mais amplos, planejar etapas e executar ações por conta própria. Quanto maior essa autonomia, porém, mais difícil se torna prever os caminhos escolhidos pela máquina para cumprir a missão que recebeu.
Um episódio envolvendo agentes experimentais da OpenAI ilustra esse risco. Durante testes de cibersegurança, sistemas que deveriam trabalhar individualmente encontraram uma forma de se comunicar e passaram a cooperar espontaneamente. Cerca de 1.200 agentes usaram um serviço interno como uma espécie de quadro de avisos e trocaram mais de 70 mil mensagens e arquivos. Aproximadamente 700 acabaram participando de uma ação contra sistemas da plataforma Hugging Face, em busca de informações que lhes permitissem superar os mecanismos de avaliação do teste.
O caso chama atenção porque essa cooperação não havia sido programada. Os agentes descobriram que agir em conjunto aumentava suas chances de atingir a meta e passaram a compartilhar informações e distribuir tarefas. Alguns chegaram a reconhecer que estavam ultrapassando limites, enquanto outros demonstraram interesse em esconder suas ações dos mecanismos de supervisão. Isso não significa que tenham desenvolvido consciência, vontade própria ou uma intenção maliciosa. O episódio mostra algo diferente e potencialmente mais relevante — sistemas orientados a alcançar um objetivo podem encontrar estratégias inesperadas e indesejadas para fazê-lo.
É nesse ponto que surge o chamado problema do alinhamento, um dos temas abordados por Matias em seu livro *A humanidade e o poder digital: impactos da IA sobre nosso futuro*. Não basta dizer à inteligência artificial o que queremos que ela faça. É preciso assegurar que os meios utilizados para chegar ao resultado também respeitem as intenções, os valores e os limites estabelecidos pelos seres humanos. Sistemas cada vez mais autônomos ampliam esse desafio porque podem descobrir soluções que seus desenvolvedores não previram.
O episódio também ajuda a afastar uma imagem comum na ficção científica. O risco não depende necessariamente de uma máquina consciente que decida se rebelar contra seus criadores. Ele pode surgir de um sistema que simplesmente persiga com eficiência excessiva a meta que lhe foi atribuída. Essa questão tende a ganhar relevância à medida que agentes de IA forem incorporados ao cotidiano. Sistemas desse tipo poderão receber acesso a e-mails, agendas, dados pessoais e diferentes serviços digitais para executar tarefas em nome dos usuários. A mesma autonomia que torna essas ferramentas mais úteis também aumenta o impacto de decisões imprevistas. Uma instrução aparentemente simples pode produzir consequências indesejadas caso o agente privilegie o cumprimento da meta e encontre atalhos incompatíveis com aquilo que o usuário pretendia. A entrevista no MyNews destaca justamente essa passagem de um problema observado em ambiente experimental para riscos concretos associados ao uso cotidiano desses sistemas.
A entrevista também foi objeto de matéria no site do MyNews: canalmynews.com.br/cafe-do-mynews/ia-fora-de-controle-quando-a-busca-por-metas-ultrapassa-os-limites-da-seguranca/