Для людей символизм — это ключ к пониманию окружающего мира, это то, как мы интерпретируем объекты, идеи и отношения между ними.
Мы полностью зависим от аналогии, и именно это делает нашу нынешнюю вычислительную технологию чрезвычайно запутанной, сложной и на данный момент архаичной.
Растущая популярность искусственного интеллекта (ИИ) и варианты использования ChatGPT от OpenAI, которые мы уже наблюдаем, не обязательно являются лучшими приложениями, выходящими за рамки простого «хайпа» и инфляции акций.
В рамках традиционных вычислений мы не до конца понимаем, что делают эти искусственные нейронные сети (ИНС) и почему они вообще работают так хорошо. Полное отсутствие прозрачности также является серьезным недостатком в нашем понимании того, как собираются и анализируются данные, чтобы выплеснуть результаты, к которым мы так отчаянно привязываемся и которые начинаем называть «прогрессом».
Рассмотрим следующий пример ИНС, которая способна отличать «круги» и «квадраты» друг от друга.
Один из способов добиться этого различия очевиден — если один выходной слой обозначает круг, а другой — квадрат.
Но что, если вы хотите, чтобы ИНС различала «цвет» этой конкретной фигуры – «красный» или «синий»?
Поскольку «цвет» — это совершенно отдельный набор данных, требуются дополнительные выходные нейроны, чтобы иметь возможность учитывать эту особенность в конечном выводе. В этом случае потребуется четыре выходных нейрона — по одному для синего круга, синего квадрата, красного круга и красного квадрата.
А что, если нам нужно вычисление, которое также учитывает дополнительную информацию, такую как «размер» или «положение/местоположение»?
Больше признаков означает больше нейронов, которые должны учитывать каждую возможность, связанную с определением этого конкретного признака (или комбинации признаков) с помощью «круга» и «квадрата».
Другими словами, это становится невероятно сложным.
Бруно Олсхаузен, нейробиолог из Калифорнийского университета в Беркли, недавно говорил о необходимости иметь нейрон для каждой возможной комбинации функций.
«Это не может быть то, как наш мозг воспринимает мир природы со всеми его вариациями. Вы должны предложить… нейрон для всех комбинаций», — сказал он, пояснив далее, что нам, по сути, понадобится «фиолетовый детектор Фольксвагена» или что-то настолько неясное, чтобы учитывать каждую возможную комбинацию информации, которую мы надеемся рассмотреть в любом конкретном случае. эксперимент.
Введите «гиперпространственные вычисления».
Что такое «гиперпространственные вычисления»?
Сердцем гиперпространственных вычислений является способность алгоритма расшифровывать определенные фрагменты информации из сложных изображений (подумайте о метаданных), а затем представлять эту коллективную информацию как единое целое, известное как «гиперпространственный вектор».
В отличие от традиционных вычислений, гиперпространственные вычисления позволяют нам решать проблемы символически и в каком-то смысле, иметь возможность эффективно и точно «предсказывать» результат конкретной проблемы на основе данных, содержащихся в гиперпространственном векторе.
Олсхаузен, как и другие коллеги, утверждает, что информация в мозге представлена активностью тонны нейронов, что делает невозможным сдерживание восприятия нашего вымышленного «фиолетового Фольксвагена» действиями одного нейрона. нейронов, которые в совокупности составляют фиолетовый «Фольксваген».
Если бы тот же набор нейронов действовал по-разному, мы могли бы увидеть совершенно другую концепцию или результат, например, розовый Кадиллак.
Ключевым моментом, согласно недавнему обсуждению в WIRED, является то, что каждая часть информации, такая как идея автомобиля или его марки, модели, цвета или все это вместе взятое, представляется как единый объект – гиперпространственный вектор или гипервектор.
«Вектор» — это просто упорядоченный массив чисел — 1, 2, 3 и т. д. — где трехмерный вектор состоит из трех чисел — координат x, y и z точной точки в трехмерном пространстве.
С другой стороны, «гипервектор» может представлять собой массив из тысяч или сотен тысяч чисел, которые представляют точку в этом пространстве. Например, гипервектор, представляющий массив из 10 000 чисел, представляет точку в 10 000-мерном пространстве.
Этот уровень абстракции дает нам гибкость и возможность развивать современные вычисления и гармонизировать их с новыми технологиями, такими как искусственный интеллект (ИИ).
«Это то, что меня больше всего волновало практически за всю мою карьеру», — сказал Олсхаузен. Для него и многих других гиперпространственные вычисления обещают новый мир, в котором вычисления будут эффективными и надежными, а решения, принимаемые машинами, будут полностью прозрачными.
Преобразование «метаданных» в гиперпространственные алгоритмы для получения сложных результатов
Лежащая в основе алгебра говорит нам, почему система выбрала именно этот ответ, чего нельзя сказать о традиционных нейронных сетях.
Разработка гибридных систем, в которых эти нейронные сети могут отображать вещи в реальной жизни в гипервекторах, а затем позволять гиперпространственной алгебре взять верх, является сутью того, как следует использовать ИИ, чтобы на самом деле дать нам возможность лучше понимать мир вокруг нас.
«Это то, чего нам следует ожидать от любой системы искусственного интеллекта», — говорит Ольсхаузен. «Мы должны быть в состоянии понять это так же, как мы понимаем самолет или телевизор».
Возвращаясь к примеру с «кругами» и «квадратами» и применяя его к пространствам большой размерности, нам нужны векторы для представления переменных «форма» и «цвет», но также нам нужны векторы для представления значений, которые могут быть присвоены переменным – «CIRCLE», «SQUARE», «BLUE» и «RED».
Самое главное, что эти векторы должны быть достаточно различны, чтобы можно было фактически определить количественные значения этих переменных.
Теперь давайте обратим внимание на Эрика Вайса, студента Ольсхаузена, который в 2015 году продемонстрировал один аспект уникальных возможностей гиперпространственных вычислений, заключающийся в том, как наилучшим образом представить сложное изображение как единый гиперпространственный вектор, содержащий информацию обо ВСЕХ объектах изображения — цвета, положения, размеры.
Другими словами, чрезвычайно продвинутое представление метаданных изображения.
«Я практически упал со стула», — сказал Ольсхаузен. «Внезапно загорелась лампочка».
В этот момент все больше команд начали сосредотачивать свои усилия на разработке «гиперпространственных алгоритмов», чтобы воспроизвести «простые» задачи, которыми глубокие нейронные сети уже занимались два десятилетия назад — например, классификацию изображений.
Создание «гипервектора» для каждого изображения
Например, если вы возьмете аннотированный набор данных, состоящий из изображений рукописных цифр, этот гиперпространственный алгоритм проанализирует специфические особенности каждого изображения, создав для каждого изображения «гипервектор».
Создание «класса» гипервекторов для каждой цифры
Далее алгоритм добавит гипервекторы для всех изображений «нуля», чтобы создать гипервектор для «идеи нуля», и повторит это для всех цифр, генерируя 10 гипервекторов «класса» — по одному для каждой цифры.
Эти сохраненные классы гипервекторов теперь измеряются и анализируются относительно гипервектора, созданного для нового, немаркированного изображения, с целью определения алгоритмом, какая цифра наиболее точно соответствует новому изображению (на основе заранее определенного класса гипервекторов для каждой цифры).
Исследования IBM углубляются в исследования
В марте Аббас Рахими и двое его коллег из IBM Research в Цюрихе использовали гиперпространственные вычисления с нейронными сетями для решения классической задачи абстрактного визуального мышления – то, что представляет собой серьезную проблему для типичных ИНС и даже для некоторых людей.
Команда сначала создала «словарь» гипервекторов для представления объектов на каждом изображении, где каждый гипервектор в словаре представлял конкретный объект и некоторую комбинацию его атрибутов.
После этого команда обучила нейронную сеть анализировать изображение для создания биполярного гипервектора, где конкретный атрибут или элемент может иметь значение +1 или -1.
«Вы направляете нейронную сеть в значимое концептуальное пространство», — сказал Рахими.
Ценность здесь в том, что после того, как сеть сгенерировала гипервекторы для каждого из контекстных изображений и для каждого кандидата на пустой слот, другой алгоритм используется для анализа гипервекторов для создания «распределений вероятностей» для ряда объектов на изображении.
Другими словами, алгебру можно использовать для предсказания наиболее вероятного изображения-кандидата на заполнение вакантного места. Подход команды обеспечил точность около 88 процентов в одном наборе задач, тогда как решения, основанные только на нейронных сетях, имели точность менее 61 процента.
Мы все еще в младенчестве
Несмотря на свои многочисленные преимущества, гиперпространственные вычисления все еще находятся в зачаточном состоянии и требуют тестирования на предмет реальных проблем и в гораздо больших масштабах, чем то, что мы видели до сих пор – например, необходимость эффективного поиска по более чем 1 миллиарду элементов или результатов. и найти конкретный результат.
В конечном счете, это придет со временем, но возникает вопрос о том, где и как мы применяем и интегрируем использование искусственного интеллекта.
Прочтите о том, как 40-минутная церковная служба, организованная искусственным интеллектом, привлекла более 300 посетителей в Германии и стала первым в своем роде экспериментом.
Нажмите здесь, чтобы просмотреть полную галерею на Hypemoon
