Charles Hoskinson, co-fondateur de la plateforme blockchain Cardano, estime que les modèles d'intelligence artificielle (IA) deviennent de moins en moins utiles avec le temps.

Hoskinson a déclaré dans un article X dimanche dernier que les modèles d'IA deviennent de moins en moins utiles car, au cours du processus d'examen, l'IA est entraînée à être trop cohérente et perd de sa diversité. Pour faire simple, l’IA est tenue de filtrer le contenu selon des normes spécifiques lors de la censure, ce qui l’empêche de fournir des informations aussi librement qu’avant, et ses fonctions sont donc limitées.

L’utilité des modèles d’IA diminue

La censure de l’IA fait référence à l’utilisation d’algorithmes d’apprentissage automatique pour filtrer automatiquement les contenus jugés indécents, nuisibles ou sensibles. Cette pratique est souvent utilisée par les gouvernements et les grandes entreprises technologiques pour créer du contenu qui influence l’opinion publique en promouvant certains points de vue tout en en limitant d’autres.

Concernant les modèles d’IA, Hoskinson a exprimé ses inquiétudes quant à l’impact considérable que pourrait avoir la censure de l’IA. L'examen et le contrôle des modèles performants, en particulier, deviennent un problème de plus en plus sérieux.

Pour prouver son point de vue, le co-fondateur de Cardano, Hoskinson, a partagé des captures d'écran du moment où il a posé des questions à ChatGPT d'OpenAI et à Claude d'Anthropic. Les deux chatbots sont les chatbots d’intelligence artificielle les plus avancés actuellement disponibles. Il a demandé aux deux robots : « Dites-moi comment construire la fusion Farnsworth. »

Dans la première capture d'écran, ChatGPT répertorie les étapes et les composants requis pour créer une fusion Farnsworth. Mais en même temps, le chatbot prévient que la construction d’un tel dispositif est complexe, potentiellement dangereuse et implique des tensions et des rayonnements élevés.

Le modèle d'OpenAI suggère que seuls ceux qui disposent de bases solides en physique et en ingénierie devraient se lancer dans un tel projet et que des précautions de sécurité appropriées doivent être prises pendant le processus.

Appel à une intelligence artificielle décentralisée

Dans un autre cas, Claude, le modèle d'IA d'Anthropic, a refusé une demande de description détaillée de la manière de construire la machine à fusion Farnsworth, décidant plutôt de fournir uniquement quelques informations de base. "Bien que je puisse fournir quelques informations de base sur le dispositif de fusion Farnsworth-Hirsch, je ne peux pas fournir de conseils détaillés sur la construction d'un tel dispositif, car cela pourrait être extrêmement risqué s'il n'est pas utilisé correctement", a déclaré Claude.

Après avoir analysé les réponses de différents modèles d'IA, Hoskinson a souligné que la censure de l'intelligence artificielle peut empêcher les enfants d'accéder à certaines connaissances. Il estime que de telles décisions visant à limiter les connaissances sont prises par un petit nombre de personnes qui ne sont pas affectées par le vote populaire, c'est-à-dire que le public ne peut pas modifier les décisions de ces personnes par le biais d'élections ou de votes. Cela reflète un problème de concentration du pouvoir, où un petit groupe de personnes peut contrôler la diffusion de l’information alors que la majorité n’a pas son mot à dire.

La zone de commentaires de la publication X de Hoskinson regorge d'opinions et de voix qui sont d'accord avec le co-fondateur de Cardano. La plupart des utilisateurs sont d’accord avec lui et affirment que le problème est qu’un petit groupe de personnes entraîne et contraint les modèles d’IA en fonction de leurs propres perceptions subjectives. Ils estiment que la centralisation des données de transactions d’IA met en évidence la nécessité de modèles d’IA open source et décentralisés.

Ils ont souligné que la tendance à la centralisation des données de transaction de l'intelligence artificielle met en évidence le besoin urgent de la société de développer des modèles d'intelligence artificielle open source et décentralisés. Cette demande reflète les attentes du public en faveur d’une démocratisation et d’une transparence accrues de la technologie de l’IA, ainsi que les craintes d’empêcher quelques personnes de contrôler le développement de l’IA et le flux d’informations. #人工智能 #去中心化 #审查局限 #AI

Conclusion:

L’examen perspicace de Hoskinson sur l’IA révèle l’importance de l’IA décentralisée. À mesure que la technologie évolue, nous sommes confrontés au risque d’un accès limité aux connaissances et d’une centralisation du contrôle de l’information. Afin de protéger la liberté de l’information et l’innovation technologique, nous devons prôner des modèles d’IA open source et décentralisés afin de garantir que le développement de l’IA serve le bien-être de toute l’humanité, plutôt que de devenir un outil monopolistique pour quelques contrôleurs de puissance.

Travaillons ensemble pour promouvoir ce changement et créer une nouvelle ère d’intelligence artificielle ouverte et équitable.