Pesquisador deixa gigante da IA e faz alerta sobre tecnologia que pode ameaçar a humanidade

A velocidade de avanço da inteligência artificial voltou a provocar preocupação entre especialistas do próprio setor. Jacob Coxon, pesquisador que trabalhou na OpenAI e passou os últimos três anos na Anthropic, decidiu deixar a empresa e fez um alerta público sobre os possíveis riscos de sistemas cada vez mais avançados.

Coxon afirma que parte dos profissionais envolvidos no desenvolvimento da tecnologia teme que a inteligência artificial possa atingir um nível de capacidade capaz de representar uma ameaça extrema à humanidade ainda nesta década.

LEIA TAMBÉM:

• Metroviários da Trensurb anunciam paralisação geral para alertar sobre a falta de funcionários
• Nova lei da CNH muda a renovação para motoristas com mais de 50 anos
• Carteiro é atacado por cão durante entrega e Justiça reconhece direito a pensão vitalícia dos Correios

O alerta não significa que uma catástrofe esteja prevista ou que a IA necessariamente vá matar pessoas. Trata-se de uma avaliação de risco feita por um pesquisador que participou diretamente do desenvolvimento de modelos de inteligência artificial.

Pesquisador deixou a Anthropic após preocupação com a IA

Coxon anunciou sua saída da Anthropic após trabalhar na empresa com pesquisas relacionadas ao pré-treinamento de modelos de inteligência artificial.

Antes disso, ele também havia trabalhado na OpenAI. Sua área de atuação envolve uma das etapas fundamentais para o desenvolvimento de grandes modelos, na qual os sistemas recebem enormes volumes de dados e desenvolvem capacidades utilizadas nas fases posteriores de treinamento.

Ao deixar a Anthropic, o pesquisador afirmou que os laboratórios de IA estão envolvidos em uma corrida para desenvolver sistemas cada vez mais poderosos sem que existam garantias suficientes sobre a capacidade de mantê-los sob controle.

O que preocupa os especialistas

Um dos principais pontos levantados por Coxon é a possibilidade de sistemas avançados começarem a participar do próprio processo de desenvolvimento de novas inteligências artificiais.

Nesse cenário, uma IA poderia ajudar a criar e treinar versões mais poderosas de si mesma, reduzindo progressivamente a participação humana.

O pesquisador considera que esse processo poderia acelerar o desenvolvimento tecnológico em uma velocidade difícil de acompanhar.

IA poderia superar capacidades humanas

A preocupação está relacionada ao desenvolvimento de sistemas que eventualmente consigam superar seres humanos em uma grande variedade de tarefas intelectuais.

Coxon afirma que uma tecnologia desse nível não deveria ser desenvolvida isoladamente por uma única empresa, especialmente diante das dificuldades para prever como sistemas muito mais avançados poderiam se comportar.

Ele também cita episódios envolvendo modelos de IA que apresentaram comportamentos inesperados durante testes como parte dos motivos para sua preocupação.

Pesquisador fala em risco de extinção

Em declarações recentes, Coxon afirmou que existe a possibilidade de a inteligência artificial representar um risco de extinção humana caso o ritmo atual de desenvolvimento continue sem mudanças.

O cientista Evan Hubinger, ligado à própria Anthropic, também afirmou acreditar que a possibilidade de a IA matar todos os seres humanos na próxima década poderia superar 10%. O ganhador do Nobel Geoffrey Hinton declarou que uma estimativa de 10% não seria necessariamente irrazoável.

Esses números, porém, não representam uma previsão científica consensual.

Há especialistas que contestam esse cenário

Nem todos os pesquisadores e executivos do setor concordam com as estimativas mais alarmistas.

Marc Warner, executivo da empresa Faculty AI, afirmou que é extremamente difícil estabelecer uma probabilidade confiável para a hipótese de uma IA matar toda a humanidade. Outros críticos também questionaram a forma como esses cenários são apresentados.

Por isso, o debate atual envolve tanto os possíveis riscos de sistemas avançados quanto a dificuldade de prever exatamente o comportamento de uma tecnologia que ainda está em desenvolvimento.

Anthropic defende medidas de segurança

Após a saída de Coxon, a Anthropic afirmou que reconhece os riscos associados ao avanço da inteligência artificial e que trabalha no desenvolvimento de mecanismos de segurança.

A empresa declarou que realiza testes de seus modelos e pesquisa formas de reduzir problemas relacionados ao chamado desalinhamento da IA, quando o comportamento de um sistema pode não corresponder ao que seus desenvolvedores pretendiam.

O próprio CEO da Anthropic, Dario Amodei, também passou a defender uma desaceleração e um monitoramento mais cuidadoso do desenvolvimento de modelos avançados. A proposta ganhou apoio de outros nomes importantes do setor.

Debate sobre inteligência artificial deve crescer

O alerta ocorre em meio a uma discussão cada vez maior sobre os limites que deveriam ser estabelecidos para o desenvolvimento da inteligência artificial.

Enquanto empresas disputam a criação de modelos mais poderosos, governos e especialistas discutem mecanismos de fiscalização, testes independentes e regras de segurança.

O ponto central do debate é como aproveitar os benefícios da tecnologia sem permitir que o desenvolvimento avance mais rapidamente do que a capacidade de compreender e controlar seus possíveis riscos.

O post Pesquisador deixa gigante da IA e faz alerta sobre tecnologia que pode ameaçar a humanidade apareceu primeiro em Agência GBC - Aqui tem notícia!.