A corrida pelo desenvolvimento de sistemas cada vez mais avançados de inteligência artificial levou um pesquisador britânico a abandonar o setor e fazer críticas públicas às principais empresas da área.
Jacob Coxon, de 27 anos, anunciou sua saída da indústria nesta terça-feira (8), depois de trabalhar por cerca de três anos com pré-treinamento de modelos de IA. Ele passou pela OpenAI e, posteriormente, pela Anthropic, empresa que havia escolhido por considerar que adotava uma postura mais cautelosa diante dos riscos da tecnologia.
Segundo Coxon, as duas companhias estariam avançando em direção a sistemas de inteligência artificial muito mais poderosos sem que existam garantias suficientes para controlar os possíveis riscos.
“Estão apostando com nossas vidas”, afirma pesquisador
Ao anunciar sua decisão nas redes sociais, Coxon afirmou que não considera responsável a maneira como as empresas estão conduzindo o desenvolvimento da inteligência artificial.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu.
O pesquisador também afirmou que profissionais envolvidos no desenvolvimento da tecnologia levam a sério a possibilidade de sistemas avançados representarem riscos extremos para a humanidade.
“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, acrescentou.
As declarações ocorrem em um momento de intensa disputa entre empresas de tecnologia pelo desenvolvimento de modelos cada vez mais capazes.
Anthropic também admite preocupação com riscos
A saída de Coxon ocorre enquanto a Anthropic se prepara para abrir capital na Bolsa.
Procuradas pela AFP, OpenAI e Anthropic não haviam respondido às declarações até a publicação das informações.
No entanto, Evan Hubinger, diretor de segurança da Anthropic, comentou a publicação de Coxon na rede social X e concordou que a empresa considera possível que a inteligência artificial represente riscos fatais.
Em uma avaliação pessoal, Hubinger estimou em mais de 10% a possibilidade de esse tipo de risco se concretizar ao longo da próxima década.
O comentário reforça a existência de um debate dentro da própria indústria sobre os limites e os riscos associados ao avanço de sistemas de IA.
O que é o autoaperfeiçoamento recursivo?
Um dos pontos centrais dessa discussão é o chamado autoaperfeiçoamento recursivo.
O conceito descreve um cenário hipotético no qual sistemas de inteligência artificial poderiam participar do desenvolvimento de versões mais avançadas de si mesmos, projetando ou treinando novas gerações de modelos com participação humana cada vez menor.
Líderes e pesquisadores do setor discutem a possibilidade de a indústria se aproximar dessa etapa à medida que os sistemas ganham capacidade para realizar tarefas complexas de pesquisa e desenvolvimento.
Para Coxon, entretanto, uma empresa isoladamente não teria condições de desenvolver de maneira responsável uma inteligência artificial superior à capacidade humana sem a existência de mecanismos de supervisão governamental ou de uma desaceleração coordenada entre os principais participantes do setor.
Crítica à corrida entre empresas
O pesquisador também direcionou críticas especificamente à dinâmica competitiva entre as empresas.
Segundo Coxon, profissionais da Anthropic reconheceriam a dimensão dos riscos, mas estariam pressionados pela necessidade de avançar antes dos concorrentes.
“Na Anthropic, eles compreendem bem o que está em jogo, mas estão presos em uma corrida para chegar lá primeiro”, afirmou.
Na avaliação dele, essa lógica estaria baseada no receio de que outras empresas avancem sem adotar medidas de segurança suficientes, criando uma espécie de corrida tecnológica.
Mudanças nas políticas de segurança
A discussão ganhou força após mudanças nas próprias políticas das empresas.
Em fevereiro, a Anthropic retirou de sua carta de segurança o compromisso de suspender o desenvolvimento de seus modelos caso não conseguisse controlar os riscos.
Meses depois, em julho, mais de mil profissionais ligados ao setor, entre eles o CEO da Anthropic, Dario Amodei, pediram ao governo dos Estados Unidos que desenvolvesse um mecanismo capaz de frear o avanço da inteligência artificial quando necessário.
Mais recentemente, o diretor científico da OpenAI, Jakub Pachocki, afirmou que o cenário atual exige “extrema cautela” e coordenação internacional.
As manifestações mostram que, paralelamente à disputa pelo desenvolvimento de modelos mais avançados, cresce também o debate sobre segurança, regulamentação e controle da inteligência artificial.
A decisão de Coxon de deixar o setor coloca novamente em evidência uma questão que divide pesquisadores e empresas: até onde a corrida por sistemas mais poderosos deve avançar e quais mecanismos precisam existir antes que essas tecnologias alcancem níveis ainda maiores de autonomia.
