Inteligência artificial volta ao centro do debate após pesquisadores alertarem para riscos de sistemas que aprendem sozinhos

Cientistas dizem que corrida entre empresas pode acelerar desenvolvimento de tecnologias mais autônomas sem controles suficientes

MUNDO – O desenvolvimento acelerado da inteligência artificial voltou ao centro das discussões internacionais após pesquisadores ligados a grandes laboratórios de tecnologia alertarem para os riscos da criação de sistemas capazes de aperfeiçoar suas próprias capacidades.

Pesquisadores atuais e antigos de organizações como OpenAI e Google DeepMind manifestaram preocupação com o ritmo em que empresas desenvolvem sistemas cada vez mais autônomos. 

Um dos principais pontos de discussão é a chamada autoaperfeiçoamento recursivo, situação em que uma inteligência artificial poderia ajudar a desenvolver versões progressivamente mais capazes de si mesma.

Na prática, sistemas de IA já são utilizados para escrever códigos, analisar informações, executar tarefas digitais e auxiliar pesquisadores.

A preocupação surge quando essas ferramentas recebem autonomia suficiente para modificar processos complexos sem supervisão humana constante.

Especialistas ouvidos em discussões sobre segurança de IA afirmam que empresas enfrentam uma corrida competitiva para desenvolver modelos mais poderosos.

Essa disputa envolve gigantes do setor tecnológico e também governos que consideram a inteligência artificial estratégica para a economia e para a segurança nacional.

Empresas anunciam compromissos

Nos Estados Unidos, empresas de tecnologia também assinaram um acordo voluntário voltado à segurança de sistemas de inteligência artificial.

Entre os compromissos estão medidas para impedir que agentes de IA realizem acessos ou ações não autorizadas em sistemas digitais. 

A discussão se tornou ainda mais importante com a expansão dos chamados agentes autônomos, programas capazes de executar diversas tarefas praticamente sem intervenção constante do usuário.

Esses sistemas podem organizar projetos, utilizar softwares, buscar informações e executar sequências de ações.

Ao mesmo tempo, especialistas defendem mecanismos de auditoria, testes de segurança e maior transparência sobre o funcionamento dessas ferramentas.

O debate deixou de ser apenas sobre o que a inteligência artificial consegue fazer e passou a incluir uma pergunta mais delicada: até onde esses sistemas devem ter liberdade para agir sozinhos?