Uma carta aberta assinada por líderes de tecnologia e pesquisadores de Inteligência Artificial pediu que laboratórios e empresas “pausassem imediatamente” seu trabalho. Assinada por gigantes da tecnologia, como Steve Wozniak (co-fundador da Apple) e Elon Musk (Tesla), os líderes concordam que os grande riscos pedem uma pausa mínima de seis meses na produção de tecnologia além do GPT-4.
O intuito da “pausa” é repensar o aproveitamento dos sistemas de IA existentes, permitir que as pessoas se ajustem, buscando garantir que beneficiem a todos. A carta tem como ponto central que o cuidado e premeditação são pontos extremamente necessários para garantir a segurança dos sistemas de IA, e que isso está sendo ignorado.
O anúncio vem em meio a uma corrida das grande empresas para a implementação do GPT-4 , um modelo da OpenAI que pode responder com texto a mensagens escritas ou visuais, em seus sistemas de bate-papo e atendimento, com respostas e ações mais complexas, podendo afetar em cheio a mão de obra humana.
A Microsoft, por exemplo, confirmou recentemente que seu renovado mecanismo de busca Bing foi alimentado pelo modelo GPT-4, enquanto o Google estreou recentemente o Bard , seu próprio sistema de IA generativo alimentado pela tecnologia LaMDA. O desconforto em torno da IA circula há muito tempo, mas a aparente corrida para implantar a tecnologia de IA mais avançada, gerou preocupações em muitos especialistas em tecnologia.
“Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, embora nos últimos meses tenhamos visto os laboratórios de IA travados em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender. , prever ou controlar de forma confiável”, afirma a carta.
A publicação foi feita pela Future Life Institute (FLI), organização dedicada a minimizar os riscos e o uso indevido de novas tecnologias. Além de Musk e Wozniak, os signatários incluem Marc Rotenberg presidente do Centro para Inteligência Artificial e Polícia Digital, o físico do MIT e presidente do Instituto Future da Vida, Max Tegmark e o filósofo do Forúm Econômico Mundial, Yuval Noah Harari, que co-escreveu artigo de opinião no New York Times semana passada, alertando para os riscos da corrida tecnológica.
A Creation First se juntou aos signatários da carta, compartilhando da preocupação sobre a velocidade e a segurança da produção das ferramentas de IA.
