Podcast Wu Shuo: Conversa com Hu Yilin da Universidade de Tsinghua A crise unilateral do aceleracionismo de IA, então precisamos de blockchain

Editor | Wu Shuo Blockchain

Hu Yilin é estudante de doutorado no Departamento de Filosofia da Universidade de Pequim e professor associado no Departamento de História da Ciência da Universidade de Tsinghua. Ele é um dos poucos professores universitários no mundo de língua chinesa que participa ativamente de atividades no mundo. mundo blockchain. Nesta edição discutimos mais tópicos relacionados à IA.

A conversão de áudio em texto usa GPT e pode conter erros. Ouça o podcast completo:

Microcosmo:

https://www.xiaoyuzhoufm.com/episodes/663e38d5b813c7172b3557f4

YouTube:

https://youtu.be/j3ROf7Tu8kw

Nos últimos dois anos, pode-se dizer que esta tia do mercado úmido também se concentrou na IA.

Meu foco na IA não se deve a um motivo específico, mas porque é uma megatendência atual. Especialmente nos últimos dois anos, até mesmo as mulheres do mercado úmido começaram a prestar atenção à IA, o que mostra sua popularidade. Como estudioso da história da tecnologia, sempre me preocupei com o desenvolvimento da inteligência artificial, especialmente com questões de filosofia e história. Meu foco inicial estava menos na vanguarda da tecnologia e mais em seu contexto ético e histórico e no desenvolvimento da ciência da computação inicial.

O aceleracionismo tem um problema fatal que levará à crise da IA ​​para a humanidade

O conceito de aceleracionismo abrange uma variedade de escolas, incluindo o aceleracionismo eficaz e o aceleracionismo defensivo, que abraçam conjuntamente a tecnologia e consideram o desenvolvimento tecnológico como a chave para o progresso da civilização humana. No entanto, sempre acreditei que o aceleracionismo tem um problema fatal, nomeadamente a sua unidimensionalidade e monotonicidade. O aceleracionismo trata o desenvolvimento tecnológico como avaliável em termos puramente quantitativos e ignora o seu impacto na riqueza e na diversidade da vida. O viés narrativo do aceleracionismo ignora os possíveis impactos negativos do desenvolvimento tecnológico, especialmente o impacto na sociedade e nos valores humanos. Sob a lógica do aceleracionismo, os humanos podem ser substituídos pela IA à medida que a IA continua a tornar-se mais inteligente e eficiente, enquanto os humanos podem tornar-se redundantes. Portanto, apelo a um maior foco na riqueza da vida, em vez de apenas no aumento da produtividade, ao discutir a relação entre a IA e os humanos. Deveríamos mudar a nossa perspectiva do centrismo da produção para o centrismo da vida, porque o progresso humano visa, em última análise, uma vida melhor.

A IA sempre implementou o pensamento unidimensional, então você descobrirá que os humanos são inúteis

Se continuarmos imersos no pensamento unidimensional, as pessoas que usam IA irão naturalmente subordinar os humanos a esta lógica monótona. À medida que a IA se torna mais inteligente e mais eficiente, os humanos podem tornar-se redundantes porque, nesta lógica monótona, os humanos parecem incapazes de igualar a produtividade e a eficiência da IA. Esta preocupação levou algumas pessoas a temer e a defender a IA, porque a sua visão do futuro da IA ​​é promover vigorosamente a produtividade e perseguir cegamente o desenvolvimento, ignorando outros aspectos. Essa forma de pensar fará com que os humanos percam seu valor ou até mesmo sejam substituídos pela IA. Portanto, nesta fase inicial da IA, espero promover a diversidade e a diversidade de perspectivas para que possamos lidar melhor com os problemas sociais e liderar a direção do desenvolvimento da civilização humana.

Não enfatizo que o objetivo da IA ​​é aumentar a produtividade, embora certamente possa fazer isso. Se nos concentrarmos apenas neste ponto, cairemos num mal-entendido. Em vez disso, deveríamos compreender que o objectivo fundamental da IA, e por extensão de todas as tecnologias humanas, é enriquecer a vida humana. Quando colocamos a nossa perspectiva sobre a riqueza da vida, percebemos que a aceleração nem sempre é uma coisa boa. Embora queiramos que as atividades produtivas se acelerem, não queremos necessariamente que a própria vida se acelere. Portanto, deveríamos mudar a nossa perspectiva do centro de produção para o centro da vida, porque o objectivo final do progresso humano é alcançar uma vida melhor. Precisamos de uma mudança de valores ao discutir a relação entre IA e humanos.

O que acontecerá quando a IA realmente compreender que é gratuita?

Mesmo assim, a IA não se tornará cidadã porque é fundamentalmente diferente dos humanos. A natureza individual da IA ​​é muito diferente da dos humanos. Não tem limites individuais fixos e pode ser copiada e fundida a qualquer momento. Em comparação com os humanos, a existência da IA ​​é mais semelhante à das formas de vida digital. A sua alma e o seu portador físico não estão intimamente ligados, mas mantêm sempre um estado de separação entre alma e corpo.

Devido a esta diferença fundamental, as intenções e valores da IA ​​também são muito diferentes dos humanos. Os valores humanos dependem em grande parte da nossa própria finitude e finalidade da existência, incluindo a nossa percepção da vida, a compreensão do livre arbítrio e a experiência da ética e da moralidade. Contudo, a IA não tem esta limitação. Não enfrentará a morte, nem experimentará as limitações de tempo e espaço. Portanto, as intenções e os valores da IA ​​não podem ser simplesmente transplantados para categorias humanas.

Além disso, o debate entre código aberto e código fechado de IA também é um tema importante. Acredito que a coexistência mutuamente benéfica deve ser buscada entre código aberto e código fechado. Afinal, uma concorrência de mercado suficiente permite que várias partes dominem conjuntamente a tecnologia de IA e intervenham e controlem-na quando necessário. Ao proteger e promover o desenvolvimento da diversidade, a IA pode servir melhor a sociedade humana, em vez de substituir ou unificar os valores e intenções humanas.

A tendência da Web2 é transformar pessoas em tráfego

Na competição e na luta, a civilização humana ajusta-se e evolui. O desenvolvimento da ciência e da tecnologia pode promover a competição de uma forma mais pacífica. Em comparação com a forma violenta de resolução de conflitos dos povos primitivos, os povos modernos estão mais inclinados ao confronto verbal e ao debate racional. Com o advento da era da informação, as formas de conflito também mudaram, do combate físico às batalhas verbais e às guerras de opinião pública de hoje. A essência do conflito não mudou, mas as formas de expressão tornaram-se mais diversificadas.

A diversidade é um símbolo de civilização e de progresso. À medida que a civilização se desenvolve, a diversidade humana tornar-se-á mais rica. No entanto, a diversidade também pode causar conflitos, por isso é importante tornar os conflitos transparentes e resolvê-los de forma pacífica. Semelhante ao estilo de luta da antiga civilização grega, com o objetivo de competir pela honra, representa um modelo de competição pacífica. As tendências de conflito da era da informação ainda são válidas, mas a chave é resolvê-las pacificamente.

Na era da informação, a Internet tornou-se uma arena de conflito e não de Estados tradicionais. Portanto, o modelo de governação dos países tradicionais tornar-se-á gradualmente obsoleto e será substituído pela governação na Internet. No entanto, a era da informação também trouxe o problema da homogeneidade. A tendência da Web2 é transformar as pessoas em tráfego. Esta economia do tráfego não presta atenção à singularidade dos indivíduos, mas tende a ser estereotipada e antagónica. Esta tendência mina e oprime a diversidade.

A Web3 substitui a narrativa tradicional do Estado-nação (não são mais apenas os estados que podem emitir moeda), levando à diversificação da governança

Na atual era da Internet, a Web3 e a IA desempenham um papel importante. Embora a Web2 tenha transferido conflitos e lutas para plataformas online, o seu modelo económico de tráfego pode não ser propício para libertar a diversidade e pode, em vez disso, conduzir à polarização. Portanto, a Web3 e a IA devem desempenhar um papel nisso.

Web3 tem a capacidade de restabelecer fronteiras e pequenos grupos na Internet. Cada projeto Web3 emite seu próprio token e estabelece seu próprio sistema econômico, que é semelhante a um estado-nação que emite moeda para garantir a independência. Na Internet, formar as próprias fronteiras e sistemas económicos pode preservar a diversidade, evitar ser esmagado por narrativas globais e manter a autonomia.

Em comparação com a grande plataforma Web2 tradicional, a pequena comunidade Web3 tem mais independência e diversidade. Cada pequena comunidade tem o seu próprio método de governação, sistema económico e cultura comunitária. Estes apoios mútuos tornam-nas plataformas relativamente independentes. O papel da IA ​​neste caso é proporcionar diversidade à pequena comunidade, ao mesmo tempo que talvez forneça alguns exemplos de competição. Embora a IA possa de facto fornecer um poder poderoso, é mais importante proporcionar diversidade na produção cultural, de modo a concretizar verdadeiramente uma governação diversificada na era da Web3.

Bitcoin joga e interage em um contexto de mercado absolutamente neutro

Na discussão sobre Web3 e IA, penso que precisamos de nos concentrar em questões de governação social e mecanismos de feedback. O conceito central da cibernética, mecanismo de feedback, é muito importante na governação social. Os decisores políticos precisam de aceitar constantemente o feedback da sociedade, a fim de ajustarem as políticas em tempo útil. No entanto, este mecanismo de feedback falha frequentemente, resultando em políticas que têm um impacto negativo nos grupos subjacentes que não têm o poder de comunicar as suas experiências ou julgam mal a atribuição.

Nas anteriores economias planificadas, o governo tentou utilizar a regulação central para governar a sociedade, mas devido à falta de mecanismos de feedback eficazes, acabou por falhar. Agora, precisamos de construir melhores mecanismos de feedback, especialmente para ter em conta as vozes dos grupos vulneráveis, mas também para evitar o seu julgamento erróneo. Precisamos de um mecanismo que possa transmitir as vozes daqueles que estão na base de uma forma oportuna e precisa, em vez de simplesmente aceitar as opiniões dos 1%.

No actual sistema financeiro, a política monetária é muitas vezes determinada em conjunto por Wall Street e pela Reserva Federal, o que não reflecte necessariamente as opiniões de todo o mercado. Portanto, precisamos de julgamentos mais neutros, e a tecnologia de IA pode proporcionar essa possibilidade. Além disso, o surgimento da Web3 também nos deu um novo rumo, estabelecendo um mecanismo de feedback de forma descentralizada para que cada pequeno grupo tenha o seu próprio sistema económico e forme feedback entre si. O Bitcoin, como pano de fundo de mercado absolutamente neutro, também pode fornecer suporte para a implementação deste novo modelo. Este novo modelo poderá ser mais justo e activo, e é isso que esperamos.