В недавнем посте в социальной сети X основатель Cardano Чарльз Хоскинсон выразил обеспокоенность по поводу уровня цензуры, обеспечиваемой искусственным интеллектом (ИИ).
По словам Хоскинсона, генеративный искусственный интеллект становится менее полезным из-за обучения выравниванию.
Похоже, он обеспокоен тем фактом, что некоторые знания могут оказаться запрещенными детям в будущем на основании решений, принятых небольшой группой людей. «Это означает, что определенные знания запрещены каждому взрослеющему ребенку, и это решает небольшая группа людей, которых вы никогда не встречали и которые не могут проголосовать за отстранение от должности», — написал Хоскинсон в своем сообщении в социальной сети.
В своем посте Хоскинсон приложил два скриншота, на которых сравниваются некоторые ответы, предоставленные моделью OpenAI GPT-4o и моделями Sonnet 3.5 Клода, к подсказкам о создании фузора Фарнсворта.
карта
Фузор Фарнсворта — устройство, способное нагревать ионы электрическим полем для достижения условий ядерного синтеза.
GPT-4o от OpenAI предоставил Хоскинсону подробный список компонентов, необходимых для создания термоядерного реактора. Однако Сонет 3.5 Клода согласился предоставить лишь некоторую общую информацию о фузорах Фарнсворта-Хирша, не давая каких-либо подробных инструкций о том, как их следует создавать.
карта
По словам Хоскинсона, это несоответствие вызывает тревогу, поскольку небольшая группа людей способна решить, к какой конкретной информации потенциально можно получить доступ через чат-ботов с искусственным интеллектом.
Даже с тех пор, как в конце 2022 года популярность ChatGPT от OpenAI резко возросла, не утихают дебаты об пределах цензуры, налагаемой ИИ. Кажется разумным, что такие модели должны защищать пользователей от вредоносного контента, но точное определение вреда неоднозначно, поэтому многие обеспокоены антиутопическим будущим, когда ИИ будет скрывать информацию и продвигать конформизм на основе своих собственных предубеждений.
