O potencial da IA ​​para ser mais do que apenas mais um avanço tecnológico, apresentando riscos que não podemos ignorar.

#VitalikButerin , o cofundador do Ethereum, emitiu um alerta severo sobre #Artificial_Intelligence (AI).

Ele não está agrupando #AI com avanços tecnológicos usuais, como smartphones ou mídias sociais. Em vez disso, #Buterin coloca a IA numa categoria própria devido ao seu potencial para revolucionar a sociedade (tal como fizeram a imprensa ou a roda).

A reviravolta? A IA pode ser mais esperta que todos nós, tornando-se potencialmente a força dominante na Terra. É um salto para um território desconhecido.

A ameaça da IA ​​superinteligente

As preocupações de Buterin vão além dos medos típicos da tecnologia. Ele adverte que uma IA superinteligente poderia perceber os humanos como uma ameaça, levando a resultados catastróficos.

E não é uma questão de um futuro distante – a IA está a avançar rapidamente. Embora idealmente desejássemos que esses seres superinteligentes fossem nossos aliados, programá-los para coexistirem com os humanos de forma segura é um desafio que ainda não resolvemos. Isso pode parecer ficção científica, mas é um tema levado a sério nos círculos de tecnologia. Rob Bensinger, do MIRI, ilustra diversas opiniões sobre o nível de ameaça da IA.

Numa revelação surpreendente, um inquérito de 2022 entre especialistas em aprendizagem automática sugeriu uma probabilidade de 5 a 10% de a IA levar à extinção humana.

Apesar de parecerem especulativas, estas preocupações existem há mais de uma década e merecem atenção.

Prevendo o futuro com IA

Buterin também nos convida a considerar como seria a vida num mundo governado pela IA. Ele se refere à série Culture de Iain Banks, onde humanos coexistem com IAs poderosas.

Este futuro imaginado oferece longevidade, saúde e entretenimento, mas a um custo potencial – os humanos podem não estar no controlo.

Isto levanta uma questão crucial sobre a nossa coexistência futura com a IA: seremos parceiros ou apenas passageiros num mundo movido pela inteligência mecânica?