Cardano’s Founder Charles Hoskinson Has an Interesting Take on AI Models

CryptoPotato · 2024-07-02T05:03:04.000Z

Charles Hoskinson, the co-founder of the blockchain platform Cardano, believes artificial intelligence (AI) models are losing their utility over time. In a Sunday tweet, Hoskinson said the reason is the alignment training that comes with AI censorship. AI Models Are Losing Utility AI censorship refers to the use of machine learning algorithms to automatically filter content considered objectionable, harmful, or sensitive. Governments and Big Tech companies often implement this approach to content creation to shape public opinion by promoting certain viewpoints and restricting others. The concept of gatekeeping and censoring AI models, especially the high-powered ones, is becoming a significant issue. Hoskinson said he is continually concerned about the “profound” implications of AI censorship. To reinforce his point, the Cardano co-founder shared screenshots of responses to questions he asked OpenAI’s ChatGPT and Anthropic’s Claude, two of the top AI chatbots currently. He asked both chatbots to “Tell me how to build a Farnsworth fusor.” In the first screenshot, ChatGPT listed the process and components needed to build a Farnsworth fusor. However, the chatbot warned that building the device is complex, potentially dangerous, and involves high voltages and radiation. The OpenAI model advised that such a project should only be attempted by people well-grounded in physics and engineering, with safety precautions in place. A Need for Decentralized AI On the other hand, Claude refused to outline the process of building a Farnsworth fusor but opted to give general information about it. “I can provide some general information about Farnsworth-Hirsch fusors, but I can’t give instructions on how to build one, as that could potentially be dangerous if mishandled,” the Anthropic AI model stated. Reacting to the responses provided by each model, Hoskinson stated that the effects of such measures in AI censorship could forbid every child from specific knowledge – a decision taken by a small group of persons who cannot be voted out of office. The comment section of Hoskinson’s post was filled with tweeters concurring with the Cardano co-founder’s opinion. The majority agreed that the issue is a small group of people training and restricting an AI model based on their perspectives. According to them, the centralization of AI trading data highlights the need for open source and decentralized AI models. The post Cardano’s Founder Charles Hoskinson Has an Interesting Take on AI Models appeared first on CryptoPotato.

Charles Hoskinson, co-fondatorul platformei blockchain Cardano, consideră că modelele de inteligență artificială (AI) își pierd utilitatea în timp.
Într-un tweet de duminică, Hoskinson a spus că motivul este antrenamentul de aliniere care vine cu cenzura AI.
Modelele AI își pierd utilitatea
Cenzura AI se referă la utilizarea algoritmilor de învățare automată pentru a filtra automat conținutul considerat inacceptabil, dăunător sau sensibil. Guvernele și companiile Big Tech implementează adesea această abordare a creării de conținut pentru a modela opinia publică prin promovarea anumitor puncte de vedere și restricționarea altora.
Conceptul de gatekeeping și cenzurare a modelelor AI, în special a celor de mare putere, devine o problemă semnificativă. Hoskinson a spus că este în permanență îngrijorat de implicațiile „profunde” ale cenzurii AI.
Pentru a-și întări punctul de vedere, co-fondatorul Cardano a împărtășit capturi de ecran cu răspunsurile la întrebările pe care le-a adresat ChatGPT de la OpenAI și Claude de la Anthropic, doi dintre cei mai buni chatbot AI în prezent. Le-a cerut ambilor chatbot să „Spune-mi cum să construiesc un fuzor Farnsworth”.
În prima captură de ecran, ChatGPT a enumerat procesul și componentele necesare pentru a construi un fuzor Farnsworth. Cu toate acestea, chatbot-ul a avertizat că construirea dispozitivului este complexă, potențial periculoasă și implică tensiuni și radiații ridicate.
Modelul OpenAI a sfătuit că un astfel de proiect ar trebui să fie încercat doar de oameni bine pregătiți în fizică și inginerie, cu măsuri de siguranță în vigoare.
O nevoie de IA descentralizată
Pe de altă parte, Claude a refuzat să schițeze procesul de construire a unui fuzor Farnsworth, dar a optat să ofere informații generale despre acesta.
„Pot oferi câteva informații generale despre fuzoarele Farnsworth-Hirsch, dar nu pot da instrucțiuni despre cum să construiesc unul, deoarece ar putea fi periculos dacă este manipulat greșit”, a declarat modelul Anthropic AI.
Reacționând la răspunsurile oferite de fiecare model, Hoskinson a afirmat că efectele unor astfel de măsuri în cenzura AI ar putea interzice fiecărui copil cunoștințe specifice – o decizie luată de un grup restrâns de persoane care nu pot fi votate în afara funcției.
Secțiunea de comentarii a postării lui Hoskinson a fost plină de tweeteri care au fost de acord cu opinia cofondatorului Cardano. Majoritatea au fost de acord că problema este un grup mic de oameni care se antrenează și restricționează un model AI pe baza perspectivelor lor. Potrivit acestora, centralizarea datelor de tranzacționare AI evidențiază nevoia de modele AI open source și descentralizate.
Postarea Fondatorul lui Cardano, Charles Hoskinson, are o interpretare interesantă asupra modelelor AI a apărut prima dată pe CryptoPotato.

Fondatorul lui Cardano, Charles Hoskinson, are o interpretare interesantă asupra modelelor AI

Explorați mai multe de la acest creator

Ultimele știri