По данным Cointelegraph, компании по искусственному интеллекту OpenAI и Anthropic договорились предоставить Институту безопасности искусственного интеллекта США ранний доступ к любым значимым новым моделям искусственного интеллекта, разработанным их компаниями. Это соглашение, обусловленное взаимными проблемами безопасности, оставляет точную роль правительства в случае значительного технологического прорыва несколько двусмысленной.
Генеральный директор и соучредитель OpenAI Сэм Альтман подчеркнул важность этого соглашения в недавнем посте на платформе социальных сетей X, заявив: «Мы рады достичь соглашения с Институтом безопасности искусственного интеллекта США о предварительном тестировании наших будущих моделей. По многим причинам мы считаем важным, чтобы это произошло на национальном уровне. США должны продолжать лидировать!»
OpenAI и Anthropic сосредоточены на разработке общего искусственного интеллекта (AGI), формы ИИ, способной выполнять любую задачу, которую может выполнить человек, при наличии необходимых ресурсов. У каждой компании есть свой устав и миссия, направленные на безопасное создание AGI, в основе которого лежат интересы человечества. Если любая из компаний добьется успеха, они станут ключевыми хранителями этой передовой технологии. Согласившись поделиться своими моделями с правительством США до запуска любых продуктов, обе компании фактически передали часть этой ответственности федеральным властям.
Как недавно сообщал Cointelegraph, OpenAI может приблизиться к прорыву со своими проектами «Strawberry» и «Orion», которые, как говорят, обладают передовыми возможностями рассуждения и новыми методами решения проблемы галлюцинаций ИИ. Сообщается, что правительство США уже рассмотрело эти инструменты и ранние итерации ChatGPT, включающие их.
В сообщении в блоге Национального института стандартов и технологий США указано, что правила безопасности, связанные с этим соглашением, являются добровольными для компаний-участников. Сторонники этого подхода к регулированию с легким прикосновением утверждают, что он поощряет рост и позволяет сектору саморегулироваться. Сторонники, включая Альтмана, рассматривают это соглашение как модель того, как сотрудничество между правительством и корпоративным сектором может быть взаимовыгодным.
Однако существуют опасения относительно потенциального отсутствия прозрачности, связанного с легким регулированием. Если OpenAI или Anthropic достигнут своих целей AGI и правительство решит, что общественность не нуждается в информировании, то, по-видимому, не будет никаких юридических требований к раскрытию информации.
