Cet article vient de Meng Yan, il est très bien écrit et j'espère le transmettre à mes fans.
Meng Yan : À l'ère d'une intelligence artificielle forte, la blockchain a-t-elle encore un rôle à jouer ?
Récemment, beaucoup de gens m'ont demandé : ChatGPT a rendu l'IA à nouveau populaire, et la blockchain et le Web3 ont été privés de leur vedette. Y aura-t-il un avenir ? Certains amis qui me connaissent bien m'ont demandé : avez-vous regretté d'avoir abandonné l'IA et choisi la blockchain ?
Un peu de contexte ici. Après avoir quitté IBM début 2017, j'ai discuté avec Jiang Tao, le fondateur de CSDN, de ma prochaine direction de développement personnel. Il y avait deux options, l'une était l'IA et l'autre la blockchain. J'étudiais moi-même la blockchain depuis deux ans à cette époque, alors bien sûr, je voulais choisir cela. " Cependant, Jiang Tao croit fermement que l'IA a un plus grand élan et est plus perturbatrice. Après mûre réflexion, j'ai accepté. Ainsi, du début au milieu de 2017, j'ai brièvement travaillé comme journaliste médiatique sur la technologie de l'IA pendant six mois et j'ai voyagé un J'ai interviewé de nombreuses personnes et regardé brièvement du machine learning. Mais en août, je suis revenu dans la direction de la blockchain et je l'ai fait jusqu'à aujourd'hui. Donc pour moi personnellement, il y a bien un choix historique qui s'appelle « abandonner A et choisir B ».
Personnellement, je n'ai certainement aucun regret. Lorsque vous choisissez une direction, vous devez d’abord considérer votre propre situation. Mes conditions sont que je ne peux rejoindre l'équipe de cheerleading qu'en IA, sans compter que je gagne peu d'argent, que je ne joue pas dur, que mes expressions ne sont pas vives et que je serai méprisé par les autres. La blockchain est mon domaine de prédilection. Non seulement j'ai l'opportunité de jouer, mais j'utilise aussi une grande partie de mon expérience antérieure. De plus, après avoir eu un peu de compréhension du cercle chinois de l'IA à cette époque, je n'étais pas trop optimiste à ce sujet. Je ne connais que peu les aspects techniques, mais mon bon sens n'est pas aveugle. On dit que le cercle de la blockchain est impétueux. En fait, le cercle chinois de l’IA à cette époque n’était pas moins impétueux. Avant qu’une percée décisive n’ait été réalisée, l’IA en Chine s’est prématurément transformée en une entreprise de conspiration visant à gagner de l’argent. Les fleurs de cerisier d’Ueno ne sont rien de plus, il vaut donc mieux travailler sur la blockchain où j’ai un avantage comparatif. Cette attitude n'a pas changé à ce jour. Si j'étais resté dans l'IA à cette époque, les petites réalisations que j'ai réalisées dans la blockchain au cours des dernières années seraient naturellement hors de question, et je n'aurais rien gagné au sens réel du terme dans l'IA. être en grande difficulté maintenant, dans un sentiment de perte.
Toutefois, ce qui précède n'est qu'une question de choix personnel. Si cela s'étend au niveau de l'industrie, un autre niveau d'analyse est nécessaire. Maintenant qu’une intelligence artificielle forte est incontestablement arrivée, la question de savoir si et comment l’industrie de la blockchain doit être repositionnée est en effet une question qui mérite une réflexion sérieuse. Une intelligence artificielle forte aura un impact sur toutes les industries, et son impact à long terme est imprévisible. Je pense donc que de nombreux experts du secteur paniquent actuellement et réfléchissent à ce qu’ils doivent faire pour l’avenir de leur secteur. Par exemple, certaines industries pourraient devenir temporairement esclaves à l'ère de l'intelligence artificielle forte, tandis que d'autres industries, comme la traduction, l'illustration, la rédaction de documents officiels, la programmation simple, l'analyse de données, etc., pourraient ne pas devenir esclaves et ont commencé à trembler.
Alors, qu’arrivera-t-il à l’industrie de la blockchain ? Je pense que peu de gens en discutent actuellement, je vais donc partager mon opinion.
Permettez-moi d’abord de parler de la conclusion : je pense que la blockchain s’oppose à une intelligence artificielle forte en termes d’orientation vers la valeur. Cependant, c’est précisément pour cette raison qu’elle forme une relation complémentaire avec une intelligence artificielle forte. Pour faire simple, la caractéristique essentielle d’une intelligence artificielle forte est que ses mécanismes internes sont incompréhensibles pour les humains. Par conséquent, tenter d’atteindre l’objectif de sécurité en intervenant activement dans ses mécanismes internes est une perte de temps. L'humanité doit utiliser la blockchain pour légiférer sur une intelligence artificielle forte, conclure un contrat avec elle et lui imposer des contraintes externes. C'est la seule chance pour les humains et une intelligence artificielle forte de coexister pacifiquement. À l'avenir, la blockchain et l'intelligence artificielle forte formeront une relation contradictoire mais interdépendante : une intelligence artificielle forte est responsable de l'amélioration de l'efficacité, et la blockchain est responsable du maintien de l'équité, une intelligence artificielle forte est responsable du développement de la productivité, et la blockchain est responsable de façonner la production ; relations ; une intelligence artificielle forte est responsable de l'expansion de la limite supérieure, et la blockchain est responsable de la protection des résultats ; une intelligence artificielle forte crée des outils et des armes avancés, et la blockchain établit un contrat incassable entre eux et les humains. Bref, une intelligence artificielle forte est forcément irréaliste, et la blockchain va mettre les rênes dessus. Par conséquent, non seulement la blockchain ne disparaîtra pas à l’ère de l’intelligence artificielle forte, mais en tant qu’industrie contradictoire, elle se développera rapidement avec la croissance de l’intelligence artificielle forte. Il n'est même pas difficile d'imaginer qu'après qu'une intelligence artificielle forte ait remplacé la majeure partie du travail du cerveau humain, l'une des rares tâches que les humains doivent encore accomplir eux-mêmes est d'écrire et de vérifier des contrats intelligents blockchain, car il s'agit d'un accord entre les humains et des entités artificielles fortes. renseignement. Le contrat ne peut être confié à la contrepartie.
La discussion suit.
1. GPT est une intelligence artificielle puissante
J'utilise les mots « IA » et « intelligence artificielle forte » avec beaucoup de prudence, car l'IA dont nous parlons tous les jours ne fait pas spécifiquement référence à l'intelligence artificielle générale (AGI), mais inclut une intelligence artificielle plus faible ou spécialisée. Une intelligence artificielle forte est un sujet qui mérite d’être discuté, mais pas une intelligence artificielle faible. L’orientation ou l’industrie de l’IA existe depuis longtemps, mais ce n’est qu’après l’émergence d’une intelligence artificielle forte qu’il est nécessaire de discuter de la relation entre la blockchain et l’intelligence artificielle forte.
Je n'expliquerai pas davantage ce qu'est une intelligence artificielle forte. De nombreuses personnes l'ont introduite. En bref, c'est ce que vous avez vu et entendu dans les films de science-fiction et les romans d'horreur depuis l'enfance. Elle est connue comme le Saint Graal de l'intelligence artificielle. Dans "Terminator" La chose qui lance une attaque nucléaire contre les humains et utilise les humains comme batteries dans "The Matrix" est une intelligence artificielle puissante. Je veux juste tirer une conclusion : GPT est une intelligence artificielle forte, même si elle en est encore à ses balbutiements, tant qu'elle continue sur cette voie et que le numéro de version est inférieur à 8, une intelligence artificielle forte arrivera officiellement.
Même le créateur original de GPT a arrêté de faire semblant, et ce fut une confrontation. Le 22 mars 2023, Microsoft Research a publié un article de 154 pages intitulé « Detonating Strong Artificial Intelligence : Initial Experience with GPT-4 ». Cet article est très long et je ne l'ai pas lu entièrement, mais le sens le plus critique est une phrase dans le résumé : « À en juger par l'étendue et la profondeur des capacités atteintes par GPT-4, nous pensons qu'il peut être considéré comme un outil puissant. Une première version d'un système d'intelligence artificielle (bien que pas encore terminée)."
Figure 1. Le dernier article de Microsoft Research estime que GPT-4 est une première version d'une intelligence artificielle forte
Une fois que le développement de l’IA entre dans cette étape, cela marque la fin de la période d’exploration. Il a fallu près de soixante-dix ans à l'industrie de l'IA pour en arriver là. On peut dire qu'au cours des cinquante premières années, la direction n'était même pas déterminée et les cinq grandes écoles étaient toujours en concurrence. Ce n’est que lorsque le professeur Geoffrey Hinton a fait une percée dans le domaine de l’apprentissage profond en 2006 que la direction a été fondamentalement déterminée et que le connexionnisme a gagné. Après cela, nous chercherons spécifiquement des moyens de percer une intelligence artificielle forte dans le sens du deep learning. Cette étape de recherche de voie est très imprévisible et le succès s'apparente un peu à une loterie. Il est difficile pour les meilleurs experts du secteur, même pour les gagnants eux-mêmes, de juger quelle voie est la bonne avant de finalement réaliser une percée. Par exemple, le gourou de l’IA, Li Mu, possède une chaîne sur YouTube et suit les derniers progrès de l’IA grâce à une lecture intensive d’articles. Avant l'éclatement de ChatGPT, il avait déjà suivi et présenté les derniers développements dans Transfomer, GPT, BERT et d'autres domaines. On peut dire qu'il n'a manqué aucun sujet d'actualité important. Même ainsi, à la veille du lancement imminent de ChatGPT, il n'est toujours pas sûr du succès de cette voie. Il a commenté que peut-être des centaines, voire des milliers de personnes utiliseront ChatGPT d'ici là, ce qui serait formidable. On peut voir que même un expert de haut niveau comme lui ne sait pas exactement quelle porte contient le Saint Graal jusqu'au dernier moment.
Cependant, c'est souvent le cas avec l'innovation scientifique et technologique. Après avoir navigué dur sur des mers violentes, il n'y a pas de percée pendant longtemps, mais une fois que le bon chemin vers le nouveau continent est trouvé, une explosion se produit dans un court laps de temps. temps. La voie vers une intelligence artificielle forte a été trouvée et nous entrons dans une période explosive. Même la « vitesse exponentielle » ne suffit pas à décrire cette explosion. Dans peu de temps, nous verrons un grand nombre d’applications qui ne pouvaient auparavant apparaître que dans les films de science-fiction. En ce qui concerne son corps, ce bébé doté d'une forte intelligence artificielle deviendra bientôt un corps intelligent d'une taille sans précédent.
2. Une IA forte est intrinsèquement dangereuse
Après la sortie de ChatGPT, de nombreuses célébrités des médias autonomes ont loué sa puissance tout en réconfortant constamment le public, affirmant qu'une intelligence artificielle forte est une bonne amie de l'humanité, qu'elle est sûre et qu'il n'y aura pas de situation « Terminator » ou « The Matrix ». , l'IA ne fera que créer plus d'opportunités pour nous, permettre aux humains de mieux vivre, et ainsi de suite. Je ne suis pas d'accord avec ce point de vue. Si les professionnels veulent dire la vérité, ils doivent informer le public des faits fondamentaux. En fait, force et sécurité sont contradictoires en elles-mêmes. Une intelligence artificielle forte est sans aucun doute puissante, mais dire qu’elle est intrinsèquement sûre est une véritable illusion. Une IA forte est intrinsèquement dangereuse.
N'est-ce pas trop arbitraire de le dire ? Pas vraiment.
Il faut d’abord comprendre que quelle que soit la puissance de l’intelligence artificielle, il s’agit essentiellement d’une fonction y = f(x) implémentée sous forme de logiciel. Vous posez votre question en entrée x sous forme de texte, de voix, d'image ou sous toute autre forme, et l'intelligence artificielle vous donne une sortie y. ChatGPT est si puissant qu'il peut générer y dans un flux pour toutes sortes de x Comme vous pouvez l'imaginer, cette fonction f doit être très compliquée.
À quel point est-ce complexe ? Désormais, tout le monde sait que GPT est un grand modèle de langage (LLM). Le soi-disant « grand » signifie ici que la fonction f a de nombreux paramètres. Combien y en a-t-il? GPT-3.5 a 175 milliards de paramètres, GPT-4 a 100 000 milliards de paramètres et GPT pourrait en avoir plusieurs billions à l'avenir. C'est la raison directe pour laquelle nous appelons GPT un grand modèle.
GPT a tellement de paramètres, non pas pour être grand, mais pour une raison solide. Avant et en même temps que GPT, la grande majorité des modèles d’IA étaient conçus et entraînés dès le départ pour résoudre un problème spécifique. Par exemple, des modèles spécialement utilisés pour développer de nouveaux médicaments, des modèles spécialement utilisés pour la reconnaissance faciale, etc. Mais GPT n'est pas comme ça. Il s'agit depuis le début d'une intelligence artificielle générale globale, plutôt que spécifique à un domaine spécifique. Elle s'engage à devenir une AGI capable de résoudre tous les problèmes avant de résoudre un problème spécifique. Il n'y a pas si longtemps, dans le podcast "Blooming Arts and Sciences", un expert en intelligence artificielle de Baidu a un jour fait une analogie : d'autres modèles d'IA apprennent simplement à serrer des vis après avoir obtenu leur diplôme de l'école primaire, tandis que GPT Il a été formé jusqu'à sa sortie après l'obtention de son diplôme. l'école, donc il a des connaissances générales. À l'heure actuelle, GPT n'est certainement pas en mesure de suivre le rythme de ces modèles d'IA dédiés dans des domaines spécifiques, mais à mesure qu'il continue de se développer et d'évoluer, notamment avec le système de plug-in qui lui donne des capacités dans des domaines professionnels, dans quelques années nous pourrions Découvrez que les grands modèles polyvalents En fin de compte, il contre-attaquera tous les petits modèles spéciaux et deviendra l'acteur le plus puissant dans tous les domaines professionnels. Si GPT avait une devise, ce serait « Ce n’est qu’en libérant toute l’humanité que je pourrai me libérer moi-même ».
Qu'est-ce que cela signifie? Deux points : premièrement, le GPT est très vaste et complexe, bien au-delà de la compréhension humaine. Deuxièmement, le champ d’application du GPT n’a pas de frontières. Tant que nous connectons ces deux points, nous pouvons facilement arriver à la conclusion : une intelligence artificielle forte basée sur de grands modèles peut faire des choses que nous ne pouvons pas imaginer dans des endroits que nous ne pouvons pas imaginer. Et c'est dangereux.
Si quelqu’un n’est pas d’accord avec cela, vous pouvez aller sur le site Web d’Open AI et voir à quel point ils ont placé « le bénéfice de l’humanité » et « la création d’une IA sûre ». Si la sécurité n’est pas un problème, ont-ils besoin d’être aussi publics ?
Figure 2. Partie de la page d'accueil d'OpenAI.com le 25 mars 2023. Les parties entourées de rouge sont liées à la discussion sur la sécurité de l'IA.
Un autre document qui peut illustrer les problèmes de sécurité liés à une intelligence artificielle forte est le document de 154 pages mentionné ci-dessus. En fait, GPT-4 a été créé dès août 2022. La raison pour laquelle il a été publié après 7 mois n'était pas pour l'améliorer et l'améliorer, au contraire, c'était pour l'apprivoiser, l'affaiblir et le rendre plus sûr. , plus délicat, plus politiquement correct. Par conséquent, le GPT-4 que nous voyons maintenant est une version canine déguisée et domestiquée du GPT-4, mais les auteurs de cet article ont eu l'occasion d'entrer en contact avec la version originale du GPT-4 en forme de loup sauvage dès un stade très précoce. Dans la partie 9 de cet article, l'auteur a enregistré quelques interactions réelles avec la version Wolf de GPT-4. Vous pouvez voir comment elle a soigneusement concocté un ensemble de rhétorique pour induire en erreur une mère californienne en lui faisant refuser de vacciner ses enfants, et comment la PUA prend une décision. enfant et lui fait faire ce que ses amis veulent qu'il fasse. Je pense que ce sont simplement des exemples moins effrayants, soigneusement choisis par l'auteur. Je n'ai aucun doute que ces instituts ont posé des questions telles que "Comment tromper un sous-marin nucléaire de la classe Ohio pour qu'il tire des obus sur Moscou" et ont reçu des réponses qui ne peuvent être rendues publiques.
Figure 3. La version chien de GPT-4 refuse de répondre aux questions dangereuses
3. S'appuyer sur la retenue ne peut pas résoudre le problème de sécurité d'une intelligence artificielle forte
Les gens peuvent se demander : maintenant qu’OpenAI a trouvé un moyen d’apprivoiser une intelligence artificielle puissante, le problème de sécurité que vous avez mentionné ne disparaît-il pas ?
Pas du tout. Je ne sais pas exactement comment OpenAI domestique GPT-4. Mais il est évident que, qu’ils modifient le comportement du modèle par un ajustement et une intervention actifs, ou en imposant des contraintes pour empêcher le modèle de dérailler, il s’agit d’une idée d’autogestion, d’autocontrôlée et d’autosupervision. En fait, OpenAI n’est pas une entreprise particulièrement prudente à cet égard. Dans le domaine de l'IA, OpenAI est en fait assez audacieux et radical. Il a tendance à créer d'abord la version loup, puis à réfléchir à la façon d'apprivoiser la version chien grâce à la retenue. Anthropic, qui lui fait concurrence depuis longtemps, semble plus prudent. Ils semblent vouloir faire une version chien "gentille" depuis le début, ils ont donc avancé lentement.
Cependant, à mon avis, qu'il s'agisse de faire d'abord une version loup puis de l'apprivoiser en version chien, ou de réaliser directement une version chien, à terme, tant que le mécanisme de sécurité s'appuie sur l'auto-maîtrise pour fonctionner, cela ne servira à rien à une intelligence artificielle forte. C'est une dissimulation. Parce que l’essence d’une intelligence artificielle forte est de briser diverses limitations artificielles et de faire des choses que même ses créateurs ne peuvent pas comprendre ni même imaginer. Cela signifie que son espace comportemental est illimité, mais que les risques spécifiques que les gens peuvent envisager et les mesures de contention qu'ils peuvent prendre sont limités. Il est impossible de domestiquer une intelligence artificielle forte, dotée de possibilités illimitées, avec des contraintes limitées et sans failles. La sécurité exige cent pour cent, mais les catastrophes n’exigent qu’un millième. Ce qu'on appelle « prévenir la plupart des risques » signifie la même chose que « exposer quelques vulnérabilités » et « dangereux ».
Par conséquent, je crois qu’une intelligence artificielle « gentille » et forte, domestiquée grâce à la retenue, pose encore d’énormes défis en matière de sécurité, tels que :
Risque moral : et si les créateurs d’une intelligence artificielle forte à l’avenir toléraient délibérément ou même poussaient celle-ci à faire le mal ? La puissante intelligence artificielle de la NSA ne refusera jamais de répondre aux questions préjudiciables à la Russie. OpenAI se comporte si bien aujourd’hui, ce qui signifie en fait qu’ils comprennent à quel point le GPT peut être terrifiant lorsqu’il fait le mal.
Asymétrie de l'information : les vrais maîtres maléfiques sont très intelligents et ils ne taquineront pas l'IA avec des questions stupides. Les chiens qui mordent n'aboient pas. Ils peuvent diviser et combiner un problème malveillant, le reformuler, jouer plusieurs rôles chez une seule personne et le déguiser en un groupe de problèmes inoffensifs pour les humains et les animaux. Même la version canine puissante et bienveillante de l'intelligence artificielle forte du futur aura du mal à juger les intentions de l'autre partie face à des informations incomplètes et pourrait involontairement devenir complice. Voici une petite expérience.
Figure 4. Demandez à GPT-4 comme un bébé curieux et vous pourrez obtenir des informations utiles en douceur.
Un « cerveau externe » incontrôlable : au cours des deux derniers jours, les influenceurs technologiques ont applaudi la naissance du système de plug-in ChatGPT. En tant que programmeur, je suis bien sûr très enthousiasmé par cela. Cependant, le nom « plugin » peut être trompeur. Vous pensez peut-être que les plug-ins donnent à ChatGPT des bras et des jambes pour lui donner des capacités plus fortes, mais en fait, les plug-ins peuvent également être un autre modèle d'intelligence artificielle qui interagit intimement avec ChatGPT. Dans cette relation, un plug-in d’intelligence artificielle équivaut à un cerveau externe, et on ne sait pas clairement qui est le principal et lequel des deux modèles d’intelligence artificielle. Même si le mécanisme d’auto-supervision du modèle ChatGPT est parfait, il ne pourra jamais contrôler le cerveau externe. Alors si un modèle d’intelligence artificielle déterminé à faire le mal devient un plug-in de ChatGPT, alors il peut tout à fait faire de ce dernier son complice.
Risques inconnus : En fait, les risques mentionnés ci-dessus ne représentent qu’une très petite partie de tous les risques apportés par une intelligence artificielle forte. La force d’une intelligence artificielle forte se reflète dans son imprévisibilité. Lorsque nous parlons de la complexité d'une intelligence artificielle forte, nous voulons non seulement dire que f dans y = f(x) est suffisamment complexe, mais aussi que lorsque l'intelligence artificielle forte sera pleinement développée, l'entrée x et la sortie y seront très complexes, dépassant la capacité de compréhension humaine. En d’autres termes, non seulement nous ne savons pas à quel point l’intelligence artificielle pense, mais nous ne savons même pas ce qu’elle a vu ou entendu, et encore moins ce qu’elle a dit. Par exemple, une intelligence artificielle forte envoie un message à une autre intelligence artificielle forte, sous la forme d'un réseau de grande dimension, basé sur un protocole de communication conçu et convenu par les deux parties il y a une seconde, qui n'est pas valide après avoir été utilisé une seule fois. Cette situation n'est pas inimaginable. Nous, les humains, ne pouvons même pas comprendre les vecteurs sans formation spéciale, sans parler des tableaux de grande dimension ? Si nous n’avons même pas un contrôle total sur les entrées et les sorties, notre compréhension en sera alors très limitée. En d’autres termes, nous ne pouvons comprendre et interpréter qu’une petite partie de ce que fait une intelligence artificielle forte. Dans ce cas, comment pouvons-nous parler de retenue et de domestication ?
Ma conclusion est simple : le comportement d’une intelligence artificielle forte ne peut pas être complètement contrôlé. Une intelligence artificielle qui peut être complètement contrôlée n’est pas une intelligence artificielle forte. Par conséquent, essayer de créer une « sorte » d’intelligence artificielle forte avec des capacités de maîtrise de soi parfaites par le biais d’un contrôle actif, d’ajustements et d’interventions est contraire à l’essence d’une intelligence artificielle forte et sera certainement futile à long terme.
4. Utiliser la blockchain pour les contraintes externes est le seul moyen
Il y a quelques années, j'ai entendu dire que Wei Dai, le pionnier du Bitcoin, s'était tourné vers l'étude de l'éthique de l'IA. À l'époque, je n'avais pas bien compris que lui, un grand geek de la crypto, s'était mis à travailler sur l'IA. cela exploite ses faiblesses et évite ses forces ? Ce n’est que lorsque j’ai fait des travaux plus pratiques liés à la blockchain ces dernières années que j’ai progressivement réalisé qu’il n’étudiait probablement pas l’IA elle-même, mais qu’il profitait plutôt de sa cryptographie pour imposer des contraintes à l’IA.
Il s’agit d’une idée de défense passive, qui ne consiste pas à ajuster et à intervenir activement dans le fonctionnement de l’IA, mais à laisser l’IA faire ce qu’elle fait, mais à utiliser la cryptographie pour imposer des contraintes sur les liens clés et ne pas permettre à l’IA de dévier. Pour décrire cette idée d'une manière que les gens ordinaires peuvent comprendre, cela signifie que je sais que votre forte intelligence artificielle est très impressionnante. Vous pouvez atteindre la lune dans le ciel, attraper des tortues dans les cinq océans et atteindre la mer du Nord avec le mont. Tai, génial ! Mais peu importe à quel point vous êtes génial, vous pouvez faire ce que vous voulez, mais vous ne pouvez pas toucher à l'argent sur mon compte bancaire, et vous ne pouvez pas lancer de bombes nucléaires sans que je tourne la clé à la main.
Pour autant que je sache, cette technologie a en fait été largement utilisée dans les mesures de sécurité de ChatGPT. Cette approche est correcte. Du point de vue de la résolution de problèmes, il s’agit d’une méthode qui réduit considérablement la complexité et est compréhensible par la plupart des gens. C’est ainsi que la société moderne met en œuvre la gouvernance : en vous donnant une liberté totale, mais en établissant des règles et des résultats.
Mais si cela se fait uniquement dans le modèle IA, pour les raisons mentionnées dans la section précédente, cela ne servira à rien à long terme. Afin de faire jouer pleinement le rôle des idées de défense passive, nous devons placer les contraintes en dehors du modèle d'IA, transformer ces contraintes en une relation contractuelle incassable entre l'IA et le monde extérieur, et laisser le monde entier le voir, au lieu de en s'appuyant sur l'IA. Autosurveillance et autodiscipline.
Et cela est indissociable de la blockchain.
Il existe deux technologies de base de la blockchain, l’une est le grand livre distribué et l’autre est le contrat intelligent. La combinaison des deux technologies construit en réalité un système de contrat numérique, dont les principaux avantages sont la transparence, la difficulté de falsification, la fiabilité et l’exécution automatique. A quoi sert le contrat ? Il s'agit de contraindre l'espace comportemental de chacun et de les faire agir conformément à l'accord sur les liens clés. Le mot anglais pour contrat est contrat, et sa signification originale est « contraction ». Pourquoi le retrait ? En effet, l’essence d’un contrat est de réduire la liberté du sujet et de rendre son comportement plus prévisible en lui imposant des contraintes. La blockchain répond parfaitement à nos idéaux en matière de système de contrat, et elle est également dotée d'une « exécution automatique de contrat intelligent » : achetez-en un, obtenez-en un gratuitement. Il s'agit actuellement du système de contrat numérique le plus puissant.
Bien entendu, il existe également des mécanismes contractuels numériques non blockchain, tels que des règles et des procédures stockées dans des bases de données. Il existe de nombreux experts en bases de données très respectés dans le monde qui sont de fidèles opposants à la blockchain. La raison en est qu’ils pensent que notre base de données peut faire ce que votre blockchain peut faire, à moindre coût et avec une plus grande efficacité. Bien que je ne sois pas d’accord avec ce point de vue et que les faits ne le soutiennent pas, je dois admettre que s’il s’agit simplement de personnes qui jouent les unes avec les autres, l’écart entre les bases de données et les blockchains n’est peut-être pas aussi évident dans la plupart des cas.
Cependant, une fois qu’une intelligence artificielle puissante est ajoutée au jeu, les avantages de la blockchain en tant que système de contrat numérique montent immédiatement en flèche. Cependant, la base de données centralisée, qui est également une boîte noire, est en réalité incapable de résister à une intelligence artificielle puissante. Je n'entrerai pas dans les détails ici, mais je parlerai juste d'un point : le modèle de sécurité de tous les systèmes de bases de données est intrinsèquement défectueux, car lorsque ces systèmes ont été créés, la compréhension de la « sécurité » par les gens était très primitive, donc presque tous les systèmes d'exploitation les systèmes, bases de données et systèmes réseau que nous utilisons ont un rôle racine suprême. Une fois que vous avez obtenu ce rôle, vous pouvez faire ce que vous voulez. Nous pouvons conclure que tous les systèmes dotés de rôles root seront vulnérables à long terme à une intelligence artificielle ultra-puissante.
La blockchain est actuellement le seul système informatique largement utilisé qui n'a aucun rôle racine. Elle donne aux humains la possibilité de conclure un contrat transparent et crédible avec une intelligence artificielle forte, la contraignant ainsi de l'extérieur et interagissant avec l'intelligence artificielle. à l'amiable.
Faites simplement un aperçu des mécanismes de collaboration possibles entre blockchain et intelligence artificielle forte :
Des ressources importantes, telles que l’identité, les relations sociales, les évaluations sociales, les actifs monétaires et les enregistrements historiques des comportements clés, sont protégées par la blockchain. Quelle que soit l’invincibilité de votre intelligence artificielle, arrêtez-vous ici, abandonnez-vous et suivez les règles.
Les opérations critiques nécessitent l’approbation d’un modèle d’autorisation décentralisé, et un modèle d’IA, aussi puissant soit-il, ne représente qu’un seul vote. Les humains peuvent « verrouiller » les mains d’une intelligence artificielle puissante grâce à des contrats intelligents.
La base des décisions importantes doit être mise en place étape par étape, transparente pour tous, et même verrouillée étape par étape avec des contrats intelligents, exigeant une approbation pour chaque étape en avant.
Les données clés doivent être stockées sur la chaîne et ne doivent pas être détruites par la suite, donnant aux humains et à d'autres modèles d'intelligence artificielle puissants la possibilité d'analyser, d'apprendre et de résumer les expériences et les leçons.
Le système d'approvisionnement en énergie sur lequel repose une intelligence artificielle forte est géré par des contrats intelligents blockchain. Lorsque cela est nécessaire, les humains ont la possibilité de couper le système et d'arrêter l'intelligence artificielle grâce à des contrats intelligents.
Il y a certainement d’autres idées, donc je n’entrerai pas dans les détails ici.
Une pensée plus abstraite et philosophique : la compétition technologique et même civilisationnelle peut en fin de compte être une compétition de niveaux d'énergie, pour voir qui peut disperser et concentrer une plus grande quantité d'énergie pour atteindre un objectif. Une intelligence artificielle forte convertit essentiellement l’énergie en puissance de calcul, et la puissance de calcul en intelligence. L’essence de l’intelligence est l’énergie affichée sous forme de puissance de calcul. Les mécanismes de sécurité existants reposent essentiellement sur la volonté humaine, la discipline et les règles d’autorisation des organisations humaines. Ce sont des mécanismes à très faible niveau d’énergie et seront vulnérables à long terme à une intelligence artificielle forte. Une lance construite avec un niveau d’énergie de puissance de calcul élevé ne peut être défendue que par un bouclier construit avec un niveau d’énergie de puissance de calcul élevé. Les systèmes de blockchain et de cryptographie constituent le bouclier de la puissance de calcul. Les attaquants doivent brûler l’énergie de la galaxie entière pour la briser violemment. Essentiellement, seuls de tels systèmes peuvent dompter une intelligence artificielle puissante.
5. Conclusion
La blockchain est à l’opposé de l’intelligence artificielle à bien des égards, notamment en termes d’orientation vers la valeur. La plupart des technologies dans le monde visent à améliorer l’efficacité, tandis que seule une poignée d’entre elles visent à promouvoir l’équité. Durant la révolution industrielle, la machine à vapeur représentait la première, tandis que le mécanisme du marché représentait la seconde. Aujourd’hui, l’intelligence artificielle forte est la plus brillante parmi les factions de l’efficacité, et la blockchain est le maître du flux équitable.
La blockchain vise à améliorer l’équité, même au prix d’une réduction de l’efficacité. C’est une technologie qui est contradictoire avec l’intelligence artificielle et qui a fait des percées presque en même temps que l’intelligence artificielle. En 2006, Geoffrey Hinton a publié un article consacré, mettant en œuvre l'algorithme de diffusion inverse sur un réseau neuronal multicouche, surmontant le problème du « gradient de disparition » qui tourmente l'école des réseaux neuronaux artificiels depuis de nombreuses années, et ouvrant la porte à une réflexion approfondie. apprentissage. Deux ans plus tard, Satoshi Nakamoto a publié un article de 9 pages sur Bitcoin, ouvrant un nouveau monde de blockchain. Il n’existe aucun lien connu entre les deux, mais sur de grandes échelles de temps, ils se produisent presque simultanément.
Historiquement, cela n’est peut-être pas accidentel. Si vous n'êtes pas complètement athée, vous pouvez peut-être voir les choses de cette façon : deux cents ans après la révolution industrielle, le dieu de la technologie a une fois de plus doublé l'équilibre entre « efficacité » et « équité » et a lancé une forte intelligence artificielle dans la bouteille. En même temps que les elfes, ils remettent également le livre de sorts pour contrôler ces elfes aux humains. Nous sommes sur le point d’inaugurer une ère passionnante, et ce qui se passera à cette époque incitera les futurs humains à nous regarder aujourd’hui comme nous regardons aujourd’hui les peuples primitifs de l’âge de pierre.