👁️O cofundador do Ethereum Vitalik Buterin propôs um "botão de pausa suave" global para desacelerar o desenvolvimento da inteligência geral artificial (AGI)

Recentemente, o cofundador do Ethereum Vitalik Buterin fez uma proposta bastante controversa: estabelecer um "botão de pausa suave" em todo o mundo, com o objetivo de desacelerar a velocidade de desenvolvimento da inteligência geral artificial (AGI), a fim de garantir que a humanidade tenha tempo suficiente para se preparar e se adaptar.

Vitalik Buterin, em um artigo relacionado à sua filosofia d/acc, propôs que, através deste "botão de pausa suave", a capacidade computacional disponível no mundo poderia ser reduzida em cerca de 90%-99% durante 1-2 anos, para dar à humanidade mais tempo de preparação.

A proposta gerou intensos debates na comunidade. Alguns usuários se opuseram veementemente a essa ideia, argumentando que, na ausência de força militar para impor isso, pausar 90%-99% da capacidade computacional global por 1-2 anos é uma proposta ingênua, e a oportunidade de uma desaceleração moderada é remota.

Diante das críticas, Vitalik respondeu que concorda que essa é uma tarefa árdua, mas quase todas as propostas para lidar com a inteligência artificial forte são difíceis em certa medida. Ele acredita que esta proposta é menos difícil do que outras ideias de pausa, pois é imposta no nível do hardware, as decisões chave são tomadas antes do início de períodos de alto risco, e a "traição" exigiria a fabricação de novo hardware, em vez de simplesmente mover alguns interruptores em segredo, o que requer meses de tempo de preparação.

O que você pensa sobre a proposta de Vitalik Buterin? Você acha que o "botão de pausa suave" global é viável, ou existe uma maneira melhor de garantir o desenvolvimento seguro e controlável da AGI?

#VitalikButerin #人工智能安全 #AGI