Nous avons discuté avec Harry Yang, co-fondateur de Nesa, de l'avancement du projet et des choix personnels qu'il a faits en tant qu'expert dans le domaine de l'IA au milieu de la grande vague de l'époque.

Interviewé : Harry Yang, co-fondateur et CTO de Nesa

Interview et rédaction : Wendy, Foresight News

C’est une époque dorée pour les experts dans le domaine de l’IA (intelligence artificielle). Les talents en IA sont confrontés à de multiples choix : des géants traditionnels de l'Internet pour entrer dans de grandes sociétés d'IA représentées par OpenAI, utiliser Web2 pour créer de nouveaux scénarios d'application d'IA et diriger de nouvelles startups, ou chercher à utiliser l'IA et la blockchain/Crypto pour combiner Combiner des méthodes pour résoudre les problèmes du marché et créer de nouveaux modèles économiques et écologiques.

Harry Yang a choisi la troisième voie.

Nesa, co-fondé par lui et plusieurs autres talents de l'IA diplômés d'universités renommées telles que le MIT, l'Université Carnegie Mellon et l'Université de Cambridge, est l'un des projets sélectionnés pour le programme d'accélérateur MVB de la saison 7 de Binance Labs et sera sélectionné. en 2024. L’un des projets phares issus du parcours AI+Crypto. Sur le site officiel de l’entreprise, Nesa décrit sa vision visant à « mettre l’IA sur la chaîne du futur ».

Harry Yang, titulaire d'un doctorat en intelligence artificielle de l'Université de Californie du Sud, travaille depuis de nombreuses années au sein de l'équipe IA de Meta Corporation. Même si j’avais « peu de connaissances » sur le chiffrement et le Web3 auparavant, « plus j’y investissais et en apprenais, plus je l’aimais » car « l’idée d’une plateforme décentralisée correspond très bien à ma vision de l’avenir de l’artificiel ». intelligence. » C’est le plus grand sentiment qu’Harry Yang, co-fondateur et directeur de la technologie (CTO) de Nesa, ressent depuis la création de l’entreprise.

Foresight News a récemment discuté avec lui de l'avancement du projet et des choix personnels qu'il a faits en tant qu'expert dans le domaine de l'IA au milieu de la grande vague des temps.

Foresight News : Chris Dixon, partenaire fondateur du fonds crypto a16z, a récemment publié un nouveau livre sur la prochaine génération d'Internet. Un commentaire intéressant de Bloomberg sur ce livre est que les problèmes que Web3, ou la société dite « Internet de nouvelle génération », tente de résoudre, sont en réalité causés par un groupe de géants de la technologie investis par des sociétés de capital-risque comme a16z. Par exemple, Meta. Quel rôle votre expérience de travail chez le géant de la technologie Meta a-t-elle joué dans votre décision de créer une plateforme d'IA décentralisée dans ce parcours entrepreneurial ?

Harry Yang : Meta est une plateforme centralisée, mais ils open source également de nombreux modèles. Je n'ai rien contre les plateformes centralisées. J'ai beaucoup appris grâce à mon expérience personnelle en travaillant là-bas. J'ai également acquis une expérience directe en créant des modèles comme Make-A-Video et Llama. Cela a fourni une très bonne base technique pour mon expérience chez Nesa.

Concernant la centralisation et la décentralisation, je pense qu’il s’agit plus d’un choix que d’une compétition. Pour certaines applications, vous préférerez peut-être une plateforme centralisée. Mais je pense que dans de nombreux scénarios, vous préférerez peut-être choisir une plateforme décentralisée.

Je pense que c'est le moment idéal pour que les gens commencent à construire de manière indépendante et à créer davantage de projets, car l'IA permet vraiment de réaliser de nombreux projets personnels et vous permet d'être un entrepreneur et un PDG. Dans le passé, il fallait toute une équipe pour le mettre en œuvre, les temps sont différents maintenant et le développement s'accélère, mais je pense toujours qu'il y a beaucoup d'applications que nous voulons voir et qui peuvent être créées maintenant.

Les plates-formes décentralisées donnent à chacun la capacité et l'autorité de faire ce qu'il veut, pas seulement à ceux qui travaillent pour Meta, OpenAI ou Google. Si vous ne travaillez pas pour ces entreprises, comment participerez-vous à la construction de l’avenir ? Je pense que les plateformes décentralisées donnent à chacun cette opportunité.

Foresight News : C'est un moment privilégié pour les experts dans le domaine de l'IA. Que vous travailliez pour OpenAI ou une autre grande entreprise émergente d'IA, que vous démarriez une entreprise Web2 axée sur l'IA ou que vous choisissiez l'approche Web3+IA pour créer une nouvelle entreprise, les opportunités sont nombreuses. Le fondateur de Coinbase a déclaré un jour, lorsque la société est devenue publique, qu'il avait raté l'opportunité en or d'Internet, mais qu'il avait finalement trouvé une opportunité générationnelle dans la blockchain/crypto. Pour vous personnellement, pourquoi avez-vous choisi ce chemin ? Dix ans plus tard, les résultats des différents choix ci-dessus peuvent présenter des différences considérables.

Harry Yang : Mon expérience est davantage liée à l'IA. Avant de démarrer Nesa, je connaissais très peu de choses sur le chiffrement et le Web3. Bien sûr, notre PDG Patrick Colangelo a beaucoup d'expérience [en crypto] et l'équipe a beaucoup d'expérience dans le développement d'applications Web3. Ce fut une formidable expérience d’apprentissage pour moi et je suis ainsi devenu très passionné par ce domaine. Il y avait certainement une courbe d'apprentissage (pour entrer dans le Web3) et j'ai dû passer beaucoup de temps à essayer de comprendre différents domaines. Mais plus je m'implique et j'en apprends, plus j'aime ça car il y a beaucoup d'autonomie et de liberté pour faire les choses ici.

L'idée d'une plateforme décentralisée correspond très bien à ma vision de l'avenir de l'intelligence artificielle. Comme vous l'avez dit, les gens peuvent travailler selon différentes voies, comme une grande entreprise, une petite entreprise, le Web2 ou le Web3. Je pense simplement que nous ne devrions pas trop réfléchir au chemin à suivre, mais si vous choisissez un chemin, engagez-vous simplement sur celui-ci et profitez-en.

Jusqu’à présent, j’aime vraiment le chemin que j’ai choisi.

Foresight News : Alors, quels sont les problèmes du marché que Nesa, que vous avez co-fondé, tente de résoudre ? Quelle est la solution ?

Harry Yang : Ce qui différencie Nesa, c'est que nous voulons résoudre le problème de l'inférence de modèle. De nombreuses entreprises le font désormais, comme l'inférence avec Llama, Mistral, la génération audio et la génération d'images sous diffusion stable. Nous hébergeons des modèles de tous types, y compris des images, du texte, de l'audio et de la vidéo, vous permettant d'effectuer différents types d'inférence sur notre plateforme.

Le problème que nous voulons résoudre est de savoir comment faire (ces choses ci-dessus) facilement et à un prix plus abordable. En termes de méthodes de fonctionnement spécifiques, nous partageons toutes les ressources GPU de la communauté de manière distribuée. En optimisant les modèles pour tirer parti des GPU et CPU haut de gamme, tout le monde peut contribuer et recevoir des jetons en retour. Nos prix sont moins chers que d’autres plateformes, même AWS ou GCP (remarque : respectivement les plateformes cloud d’Amazon et de Google).

Un autre problème [que nous essayons de résoudre] est la confidentialité et la sécurité, car il y a certaines choses que vous ne voudriez peut-être pas que ChatGPT fasse. Par exemple, si vous souhaitez un chatbot qui parle comme vous en tant qu'assistant personnel, vous devez alors télécharger tout votre historique de discussion depuis WhatsApp ou WeChat et laisser ChatGPT en tirer des leçons. Mais vous ne voulez probablement pas faire ça.

Sur notre plateforme, toutes les données sont cryptées, et toutes les formations et inférences sont également cryptées. Vous pouvez nous confier vos données et informations personnelles en sachant qu’elles ne seront visibles par personne. Et vous pouvez voir complètement l'ensemble du processus grâce à des technologies telles que TEE (Trusted Execution Environment) et une preuve sans connaissance pour garantir que tout est sécurisé.

Je pense donc que les problèmes que nous voulons résoudre sont le prix, la sécurité et la confidentialité – c’est la raison d’être de Nesa.

Foresight News : Pour le grand public, pouvez-vous expliquer brièvement ce qu'est l'inférence de modèle, quel est son coût dans un scénario Web2 comme OpenAI ou d'autres grandes entreprises, et comment vous avez fait baisser le prix ?

Harry Yang : Si vous exécutez l'inférence de modèle sur notre plateforme, vous devez payer des frais d'essence. Nous louons des ressources informatiques auprès de fournisseurs tels que Io.net, GCP ou AWS, mais nous utilisons également des nœuds de calcul provenant de PC et même de Raspberry Pi. Ceux-ci sont disponibles gratuitement et peuvent être moins chers que les fournisseurs de services cloud.

Nous faisons du crowdsourcing de ressources informatiques. Si vous vous inscrivez (sur notre plateforme), vous pouvez contribuer votre ordinateur portable ou votre ordinateur de bureau à ce réseau de nœuds informatiques. En échange, vous recevrez des jetons NES. C'est ainsi que nous maintenons nos prix bas.

Foresight News : Il existe actuellement de nombreux projets AI+Crypto. Vous venez de mentionner certaines des choses qui différencient Nesa, mais il existe des projets qui proposent des solutions similaires. Alors, quelle est votre stratégie concurrentielle ?

Harry Yang : Ce qui est unique chez Nesa, c'est que notre vision de l'avenir est un modèle privé hébergé. À l'heure actuelle, notre plate-forme héberge des modèles tels que Llama, ChatGPT d'OpenAI, Mistral, StableDiffusion et DALL-E, mais vous pourrez peut-être également les utiliser ailleurs. Bien que notre inférence soit moins chère et plus sécurisée, ces modèles ne se limitent pas à notre plateforme.

Nous développons actuellement des modèles pouvant être utilisés dans des applications, tels que des modèles de génération de vidéos, des modèles de génération d'images, des chatbots personnels et des chatbots conversationnels personnalisés basés sur les informations des utilisateurs. Parce que notre formation et notre inférence de modèles sont suffisamment sécurisées et privées, nous pouvons développer des modèles qui répondent aux besoins personnalisés en fonction des informations des utilisateurs. À l’avenir, vous verrez également de plus en plus de modèles propriétaires que nous avons développés nous-mêmes sur la plateforme.

De plus, vous pouvez exécuter Character AI ou DALL-E sur Nesa, ce qui est meilleur et plus confidentiel. Une autre particularité de nous est qu’il est très simple à utiliser. Une fois que vous entrez sur la plateforme, vous verrez une liste de pages avec tous les modèles et cliquez simplement pour discuter avec Llama ou Mistral. Il fonctionne très rapidement et est crypté de bout en bout.

Je pense que c’est une plateforme unique pas comme les autres.

Foresight News : Pour la plupart des modèles, ils ont tendance à nécessiter beaucoup de données, et plus il y en a, mieux c'est. La fourniture de données via des nœuds distribués ou des individus peut signifier que le nombre de personnes fournissant des données à la plateforme sera relativement limité. Alors, quel type de client construit généralement ses modèles ou ses applications sur une plateforme comme Nesa ?

Harry Yang : Nos acheteurs peuvent être des entreprises et des institutions financières. Nous coopérerons avec les banques et les compagnies d'assurance. Elles nous font beaucoup confiance, elles utiliseront donc leurs propres données - telles que les informations de sécurité sociale ou les informations personnelles qu'il n'est pas facile de partager avec d'autres plateformes, puis utiliseront ces données pour exécuter des modèles. sur notre plateforme. Prenez une décision.

Pour les utilisateurs individuels, il existe de nombreux modèles phares sur notre plateforme, prêts à l'emploi. Il peut remplacer ChatGPT car il est crypté de manière sécurisée. Ainsi, en plus de répondre aux questions et de discuter, vous pouvez également partager vos informations personnelles. Non seulement ces modèles vous connaissent mieux que ChatGPT, mais ils peuvent également effectuer des tâches telles que la génération d'images, la génération de vidéos et les chatbots.

Ainsi, les entreprises et les particuliers sont des utilisateurs de nos services.

Foresight News : Vous avez parlé de certains cas d'utilisation ou scénarios spécifiques, qui concernent des clients très sensibles à la confidentialité et à la sécurité des données. Certaines des technologies clés utilisées ici sont également publiées sur votre site Web, dont les preuves de connaissance nulle (ZK). Idéalement, les institutions financières ou le secteur de la santé pourraient adopter cette technologie pour résoudre les problèmes auxquels ils sont confrontés, tels que la confidentialité et la sécurité des données. Cependant, nous avons déjà écrit de nombreux articles sur le développement de la technologie ZK. À l’heure actuelle, il semble que l’adoption à grande échelle de cette technologie se heurte à certains problèmes. Alors, que pensez-vous de ce problème ?

Harry Yang : En dehors de ZK, il existe d'autres solutions (en termes de sécurité et de confidentialité des données), comme notre utilisation de TEE (Trusted Execution Environment), une technologie mature pour le chiffrement des données et des modèles. Certains nœuds sont équipés de TEE, mais comme les machines avec TEE sont plus chères, les frais généraux sont plus importants. C'est l'une des solutions aux problèmes matériels.

Pour les solutions logicielles, comme vous l'avez mentionné, nous disposons de preuves de connaissance nulle. Notre équipe compte de très bons experts dans ce domaine. Ils ont proposé comment utiliser des preuves à connaissance nulle avec de grands modèles de langage. Notre technologie prend environ 40 minutes pour être éprouvée et validée à l'aide de modèles Llama tels que Llama 8B ou Llama 3, elle est donc encore relativement lente.

La vitesse est le problème des solutions actuelles sans connaissance. Mais si vous n'avez pas besoin de résultats immédiats ou en temps réel, je pense que cela est acceptable car cela garantit la sécurité et la confidentialité de vos données et de vos modèles.

Bien entendu, outre les preuves à connaissance nulle, nous travaillons également sur un large éventail de solutions, telles que l'apprentissage distribué, le tatouage numérique et le cryptage homomorphe. Tout cela combiné rendra nos systèmes plus sécurisés, et certains de ces scénarios sont en réalité très rapides.

Foresight News : En parlant de matériel, NVIDIA est devenu un grand gagnant de la vague actuelle de l'IA. Web2 et Web3 ont créé de nouvelles demandes de puces. De nombreuses entreprises sont également en concurrence pour les ressources en matériel et en puces. Cela vous mettra-t-il la pression ? Pour vous, les solutions décentralisées en matière de matériel et de puissance de calcul augmenteront-elles encore votre pression, ou pourront-elles l'alléger ?

Harry Yang : En effet, notre vision est d'exploiter et de centraliser tous les GPU et CPU avec une puissance de calcul décentralisée. En effet, nous ne pouvons pas compter sur des géants comme Nvidia ou AMD. Nous exploitons simplement tous les autres nœuds de calcul en externe. Bien sûr, ce n'est qu'une vision, et comment elle sera mise en œuvre, je pense qu'il faudra plus de temps pour voir si elle peut fournir de manière significative une grande quantité de puissance de calcul à la communauté, ou s'il y a de nouveaux défis.

Cela semble un peu centralisé et il faudra du temps pour le prouver. Mais jusqu'à présent, je pense que cela fonctionne plutôt bien. À mesure que davantage de personnes nous rejoignent, nous pouvons faire évoluer davantage le système. Car lorsque nous construisons nos propres modèles, nous avons également besoin de beaucoup de GPU.

Bien que nous puissions également l'obtenir auprès de GCP ou de Google, ils ont des quotas et il est difficile de l'obtenir même après avoir payé. Ainsi, à mesure que notre plate-forme s'agrandit et s'améliore, nous utilisons simplement nos propres GPU participatifs et n'avons pas besoin de compter sur ces grandes entreprises. C'est notre plan.

Foresight News : Selon vous, quels sont les plus grands défis auxquels Nesa et la plateforme AI+Crypto sont actuellement confrontées plus largement ?

Harry Yang : Je pense que la technologie (dans ce domaine) a mûri. Nous avons ChatGPT et divers grands modèles. C’est pourquoi l’IA est si populaire en ce moment.

Pour Nesa, nous avons été l'une des premières équipes à faire cela, il y avait donc beaucoup de défis techniques en termes de mise à l'échelle, d'équilibrage de charge, et comment héberger un grand nombre de modèles et s'assurer que nous pouvions prendre en charge un grand nombre de trafic de requêtes. .

La mise à l'échelle de ces requêtes et modèles sur la plateforme est un grand défi pour nous. Nous travaillons dur pour rendre nos systèmes plus robustes et plus stables afin qu'ils puissent fonctionner 24 heures sur 24 et traiter plusieurs requêtes simultanément. Nous travaillons vers cet objectif.

Foresight News : À quel stade de progrès se trouve Nesa actuellement ? À quoi peuvent s’attendre les utilisateurs et la communauté à court terme ?

Harry Yang : Nous avons un réseau de test ouvert à certains utilisateurs et aux utilisateurs sur liste blanche. De nombreuses personnes testent déjà notre plateforme. Les retours globaux ont été très positifs car il est simple à utiliser et peut être enregistré via une API ou une interface utilisateur Web. Les utilisateurs peuvent également appeler nos modèles, ou s'inscrire en tant que mineurs et apporter leur puissance de calcul.

Il y a trois choses principales auxquelles nous pouvons nous attendre à court terme : la première chose est bien sûr le réseau principal qui est ouvert au public et tout le monde pourra l'utiliser ; la deuxième chose est que nous intégrons davantage de fonctionnalités de sécurité et de confidentialité ; - comme la preuve sans connaissance - en ajoutant plus de modèles afin que les gens puissent choisir de l'activer ou de le désactiver en fonction de leurs besoins ; la troisième chose est que nous allons construire ou héberger plus de modèles sur Nesa ; Ces modèles devraient être meilleurs et plus rapides que les modèles open source existants. Les utilisateurs peuvent venir utiliser nos propres modèles pour la génération d'images, les chatbots et la génération de vidéos. Ce sont les prochaines choses que nous pouvons attendre de Nesa.

Foresight News : Existe-t-il un calendrier précis pour le réseau principal ?

Harry Yang : Le plan est prévu environ un mois plus tard.

Foresight News : J'ai remarqué quelques changements dans votre équipe fondatrice. Il y a quelques mois, un autre partenaire également diplômé de l'Université de Cambridge a rejoint l'équipe fondatrice. Bien sûr, en même temps, j’ai aussi vu de nouveaux membres rejoindre. Par exemple, Yue Zhang est professeur adjoint à l’Université de Californie du Sud. Y a-t-il quelque chose que vous pouvez révéler sur les changements intervenus dans l’équipe fondatrice ?

Harry Yang : Nous avions un membre qui nous a aidé dans les premières étapes du projet, et je pense que son départ était davantage pour des raisons personnelles. A cette époque, il travaillait encore pour une autre entreprise et avait moins de temps à consacrer à ce projet, qui ne lui convenait pas.

L'équipe Nesa travaille ensemble depuis longtemps. La plupart des membres de notre équipe se connaissent depuis de nombreuses années, dont beaucoup depuis 8 ans. En conséquence, notre équipe est très soudée, ce qui explique en grande partie pourquoi nous avons pu croître si rapidement en tant qu'entreprise et en tant que projet.

Foresight News : En tant que membre créatif de l’équipe, quelle conviction souhaitez-vous le plus transmettre à tout le monde ?

Harry Yang : Personnellement, j'attends avec impatience le développement futur, non seulement de la plateforme Nesa, mais aussi de l'IA. Franchement, je me sens 10 fois plus productif maintenant qu’avant ChatGPT.

J'ai beaucoup d'idées et beaucoup de choses que je veux construire, et notre équipe a beaucoup de choses que nous voulons réaliser. Nous recrutons donc les meilleurs talents en IA, Web3, crypto et différents domaines.

Venez nous rejoindre pour faire quelque chose de vraiment excitant et important.