OpenAI se preocupa com ‘Super IA’ capaz de extinguir a humanidade

Nine
07161653935320.jpg

- PATROCINADO -

A OpenAI está criando uma equipe para garantir que a versão avançada do ChatGPT não supere a inteligência humana. Preocupada com os riscos potenciais que uma inteligência artificial (IA) ainda mais inteligente pode trazer para a humanidade, a desenvolvedora revelou detalhes sobre o trabalho na última quarta-feira (5).

- PATROCINADO -

Conforme a startup americana, a IA superinteligente é apenas uma ideia, no momento, mas não deve demorar para que este sistema, capaz de superar o raciocínio humano, esteja disponível. A empresa acredita que o mecanismo seja lançado em no máximo uma década.

Os riscos da IA para o futuro da humanidade voltaram a ser alertados pela OpenAI.Os riscos da IA para o futuro da humanidade voltaram a ser alertados pela OpenAI.Fonte:  GettyImages 

“Atualmente, não temos uma solução para direcionar ou controlar uma IA potencialmente superinteligente e impedir que ela se torne desonesta”, afirma a companhia no comunicado assinado pelo seu cofundador, Ilya Sutskever, e o chefe da nova equipe, Jan Leike. O objetivo é ter um mecanismo de controle antes que o sistema estreie.

No texto, os dois especialistas citam que a Super IA tem potencial para se tornar a tecnologia de maior impacto já inventada, auxiliando na resolução de muitos dos principais problemas da atualidade. Mas, ao mesmo tempo, ela traz riscos e pode “levar ao enfraquecimento da humanidade ou até mesmo à extinção humana”.

Mitigando riscos

A equipe de “superalinhamento”, como o grupo é chamado, terá a missão de desenvolver novos avanços técnicos e científicos para controlar a IA superinteligente. Segundo a OpenAI, o plano inclui construir um pesquisador de alinhamento automatizado de nível humano nos próximos quatro anos.

Para esta tarefa, a startup reservará 20% do seu poder computacional, contando com o auxílio de pesquisadores de outras áreas. A companhia, inclusive, abriu vagas de emprego para os profissionais interessados em fazer parte do projeto, informando que está à procura das “melhores mentes do mundo”.

Esta não é a primeira vez que a criadora do ChatGPT alerta sobre os riscos de extinção da humanidade potencializados pela IA. Em maio, o CEO da empresa, Sam Altman, se juntou a outros nomes importantes do mercado, solicitando a regulamentação imediata da tecnologia, cujos perigos foram comparados aos de pandemias e guerras nucleares.

Compartilhe esta história
Deixe um comentário

Apoios

Baixe o Aplicativo do NINE!

Um portal que vai te apresentar experiências em Turismo, Música, Gastronomia e muito mais.

Para acessar no celular, baixe o App do NINE.

Para IPHONE,
Clique em: