Für uns Menschen ist Symbolik der Schlüssel zum Verständnis der Welt um uns herum. Sie bestimmt die Art und Weise, wie wir Objekte, Ideen und die Beziehungen zwischen ihnen interpretieren.
Wir sind völlig auf Analogien angewiesen, was unsere aktuelle Computertechnologie äußerst verworren, komplex und zum jetzigen Zeitpunkt archaisch macht.
Die wachsende Popularität künstlicher Intelligenz (KI) und die Anwendungsfälle, die wir bereits bei ChatGPT von OpenAI sehen, sind nicht unbedingt die besten Anwendungen, die über bloßen „Hype“ und Aktieninflation hinausgehen.
Beim herkömmlichen Computing verstehen wir nicht ganz, was diese künstlichen neuronalen Netze (KNN) tun oder warum sie überhaupt so gut funktionieren. Der völlige Mangel an Transparenz stellt auch einen großen Nachteil für unser Verständnis dar, wie Daten gesammelt und analysiert werden, um die Ergebnisse auszuspucken, an denen wir so verzweifelt hängen und die wir als „Fortschritt“ bezeichnen.
Betrachten Sie das folgende Beispiel eines neuronalen Netzwerks, das „Kreise“ und „Quadrate“ voneinander unterscheiden kann.
Eine Möglichkeit, diese Unterscheidung zu erreichen, liegt auf der Hand: Wenn eine Ausgabeebene einen Kreis und die andere ein Quadrat anzeigt.
Aber was wäre, wenn das neuronale Netzwerk die „Farbe“ dieser bestimmten Form erkennen soll – ist sie „rot“ oder „blau“?
Da „Farbe“ ein völlig separater Datensatz ist, sind zusätzliche Ausgabeneuronen erforderlich, um dieses Merkmal in der endgültigen Ausgabe berücksichtigen zu können. In diesem Fall wären vier Ausgabeneuronen erforderlich – jeweils eines für den blauen Kreis, das blaue Quadrat, den roten Kreis und das rote Quadrat.
Was wäre nun, wenn wir eine Berechnung wünschen, die auch zusätzliche Informationen wie „Größe“ oder „Position/Standort“ berücksichtigt?
Mehr Merkmale bedeuten mehr Neuronen, die jede Möglichkeit berücksichtigen müssen, die mit der Definition dieses bestimmten Merkmals (oder dieser Merkmalskombination) mit dem „Kreis“ und dem „Quadrat“ verbunden ist.
Mit anderen Worten: Es wird unglaublich komplex.
Bruno Olshausen, ein Neurowissenschaftler der University of California in Berkeley, sprach kürzlich über die Notwendigkeit, für jede mögliche Merkmalskombination ein Neuron zu haben.
„So kann unser Gehirn die natürliche Welt mit all ihren Variationen nicht wahrnehmen. Man muss ein Neuron für alle Kombinationen vorschlagen“, sagte er und erklärte weiter, dass wir im Wesentlichen „einen lila Volkswagen-Detektor“ oder etwas ähnlich Obskures bräuchten, um jede mögliche Informationskombination zu berücksichtigen, die wir in einem bestimmten Experiment berücksichtigen möchten.
Geben Sie „hyperdimensionales Computing“ ein.
Was ist „hyperdimensionales Computing“?
Der Kern des hyperdimensionalen Computings ist die Fähigkeit des Algorithmus, bestimmte Informationen aus komplexen Bildern zu entschlüsseln (denken Sie an Metadaten) und diese gesammelten Informationen dann als eine einzige Einheit darzustellen, die als „hyperdimensionaler Vektor“ bezeichnet wird.
Im Gegensatz zur herkömmlichen Datenverarbeitung können wir mit hyperdimensionalem Computing Probleme symbolisch lösen und in gewissem Sinne den Ausgang eines bestimmten Problems anhand der im hyperdimensionalen Vektor enthaltenen Daten effizient und genau „vorhersagen“.
Olshausen und andere Kollegen vertreten die Ansicht, dass Informationen im Gehirn durch die Aktivität einer Unmenge von Neuronen repräsentiert werden. Dadurch kann die Wahrnehmung unseres fiktiven „lila Volkswagen“ nicht durch die Aktivität eines einzelnen Neurons bestimmt werden, sondern durch Tausende von Neuronen, die gemeinsam einen lila Volkswagen bilden.
Wenn dieselben Neuronen unterschiedlich reagieren würden, könnten wir ein völlig anderes Konzept oder Ergebnis sehen, etwa einen rosa Cadillac.
Der Schlüssel liegt einer kürzlichen Diskussion in WIRED zufolge darin, dass jede Information, beispielsweise die Idee eines Autos oder seine Marke, sein Modell, seine Farbe oder alles zusammen, als eine einzelne Einheit dargestellt wird – ein hyperdimensionaler Vektor oder Hypervektor.
Ein „Vektor“ ist lediglich eine geordnete Reihe von Zahlen – 1, 2, 3 usw. –, während ein 3D-Vektor aus drei Zahlen besteht – den x-, y- und z-Koordinaten eines genauen Punkts im 3D-Raum.
Ein „Hypervektor“ hingegen könnte ein Array aus Tausenden oder Hunderttausenden von Zahlen sein, die einen Punkt in diesem dimensionalen Raum darstellen. Beispielsweise stellt ein Hypervektor, der ein Array aus 10.000 Zahlen darstellt, einen Punkt im 10.000-dimensionalen Raum dar.
Diese Abstraktionsebene gibt uns die Flexibilität und Möglichkeit, die moderne Computertechnik weiterzuentwickeln und sie mit neuen Technologien wie künstlicher Intelligenz (KI) zu harmonisieren.
„Das ist das, was mich praktisch meine ganze Karriere lang am meisten begeistert hat“, sagte Olshausen. Für ihn und viele andere verspricht hyperdimensionales Computing eine neue Welt, in der das Computing effizient und robust ist und maschinenbasierte Entscheidungen völlig transparent sind.
Umwandlung von „Metadaten“ in hyperdimensionale Algorithmen zur Generierung komplexer Ergebnisse
Die zugrunde liegende Algebra erklärt uns, warum das System diese bestimmte Antwort gewählt hat, was man von herkömmlichen neuronalen Netzwerken nicht behaupten kann.
Der springende Punkt bei der Frage, wie KI eingesetzt werden sollte, um uns tatsächlich dabei zu unterstützen, die Welt um uns herum besser zu verstehen, besteht in der Entwicklung hybrider Systeme, in denen diese neuronalen Netzwerke Dinge im echten Leben auf Hypervektoren abbilden und dann die hyperdimensionale Algebra übernehmen können.
„Das ist es, was wir von jedem KI-System erwarten sollten“, sagt Olshausen. „Wir sollten es verstehen können, so wie wir ein Flugzeug oder einen Fernseher verstehen.“
Wenn wir zum Beispiel mit „Kreisen“ und „Quadraten“ zurückkehren und es auf hochdimensionale Räume anwenden, benötigen wir Vektoren zur Darstellung der Variablen „Form“ und „Farbe“. Wir benötigen aber auch Vektoren zur Darstellung der Werte, die den Variablen zugewiesen werden können – „KREIS“, „QUADRAT“, „BLAU“ und „ROT“.
Am wichtigsten ist, dass diese Vektoren unterschiedlich genug sind, um diese Variablen tatsächlich quantifizieren zu können.
Wenden wir uns nun Eric Weiss zu, einem Studenten von Olshausen, der 2015 einen Aspekt der einzigartigen Fähigkeiten des hyperdimensionalen Computing demonstrierte, nämlich wie man ein komplexes Bild am besten als einen einzigen hyperdimensionalen Vektor darstellt, der Informationen zu ALLE Objekten im Bild enthält – Farben, Positionen, Größen.
Mit anderen Worten: eine äußerst fortschrittliche Darstellung der Metadaten eines Bildes.
„Ich bin fast vom Stuhl gefallen“, sagte Olshausen. „Plötzlich ging mir ein Licht auf.“
Zu diesem Zeitpunkt konzentrierten sich mehr Teams auf die Entwicklung „hyperdimensionaler Algorithmen“, um die „einfachen“ Aufgaben zu replizieren, mit denen tiefe neuronale Netzwerke bereits zwei Jahrzehnte zuvor fertig geworden waren – etwa die Klassifizierung von Bildern.
Erstellen eines „Hypervektors“ für jedes Bild
Wenn Sie beispielsweise einen annotierten Datensatz nehmen würden, der aus Bildern handgeschriebener Ziffern besteht, würde dieser hyperdimensionale Algorithmus die spezifischen Merkmale jedes Bildes analysieren und für jedes Bild einen „Hypervektor“ erstellen.
Erstellen einer „Klasse“ von Hypervektoren für jede Ziffer
Von dort aus würde der Algorithmus die Hypervektoren für alle Bilder von „Null“ addieren, um einen Hypervektor für die „Idee von Null“ zu erstellen, und wiederholt dies für alle Ziffern, wodurch 10 „Klassen“-Hypervektoren generiert werden – einer für jede Ziffer.
Diese gespeicherten Hypervektorklassen werden nun gemessen und anhand des für ein neues, unbeschriftetes Bild erstellten Hypervektors analysiert, damit der Algorithmus bestimmen kann, welche Ziffer dem neuen Bild am besten entspricht (basierend auf der vorgegebenen Hypervektorklasse für jede Ziffer).
IBM Research greift ein
Im März nutzten Abbas Rahimi und zwei Kollegen bei IBM Research in Zürich hyperdimensionales Computing mit neuronalen Netzwerken, um ein klassisches Problem des abstrakten visuellen Denkens zu lösen – etwas, das für typische neuronale Netzwerke und sogar für einige Menschen eine erhebliche Herausforderung darstellte.
Das Team erstellte zunächst ein „Wörterbuch“ aus Hypervektoren zur Darstellung der Objekte in jedem Bild, wobei jeder Hypervektor im Wörterbuch ein bestimmtes Objekt und eine Kombination seiner Attribute darstellte.
Von dort aus trainierte das Team ein neuronales Netzwerk, ein Bild zu untersuchen und einen bipolaren Hypervektor zu generieren – wobei ein bestimmtes Attribut oder Element +1 oder -1 sein kann.
„Sie führen das neuronale Netzwerk zu einem bedeutungsvollen konzeptionellen Raum“, sagte Rahimi.
Der Wert liegt hier darin, dass, sobald das Netzwerk Hypervektoren für jedes der Kontextbilder und für jeden Kandidaten für den leeren Steckplatz generiert hat, ein anderer Algorithmus verwendet wird, um die Hypervektoren zu analysieren und „Wahrscheinlichkeitsverteilungen“ für eine Anzahl von Objekten im Bild zu erstellen.
Mit anderen Worten kann Algebra verwendet werden, um das wahrscheinlichste Kandidatenbild für die freie Stelle vorherzusagen. Und der Ansatz des Teams ergab bei einem Satz von Problemen eine Genauigkeit von fast 88 Prozent, während Lösungen, die nur auf neuronalen Netzwerken basierten, weniger als 61 Prozent Genauigkeit erreichten.
Wir stecken noch in den Kinderschuhen
Trotz seiner vielen Vorteile steckt das hyperdimensionale Computing noch in den Kinderschuhen und muss anhand realer Probleme und in viel größeren Maßstäben getestet werden, als wir bisher gesehen haben – beispielsweise die Notwendigkeit, effizient über eine Milliarde Elemente oder Ergebnisse zu durchsuchen und ein bestimmtes Ergebnis zu finden.
Letztendlich wird dies mit der Zeit kommen, aber es wirft die Frage auf, wo und wie wir künstliche Intelligenz anwenden und integrieren.
Lesen Sie, wie ein 40-minütiger, KI-gestützter Gottesdienst im Rahmen eines einzigartigen Experiments in Deutschland über 300 Besucher anzog.
Klicken Sie hier, um die vollständige Galerie bei Hypemoon anzuzeigen.