Главный научный сотрудник Microsoft Эрик Хорвиц считает, что искусственный интеллект позволит будущим людям процветать, но он, очевидно, подстраховывается.
30 мая Хорвиц опубликовал пост под названием «Размышления об искусственном интеллекте и будущем процветания человечества» в официальном блоге Microsoft. В статье обсуждается будущее искусственного интеллекта и анонсируется серия эссе, написанных экспертами по искусственному интеллекту, которым был предоставлен ранний доступ к OpenAI. GPT-4 до его публичного запуска.
Согласно сообщению в блоге, Хорвиц был удивлен возможностями OpenAI GPT-4, когда ему предоставили такой доступ в 2022 году:
«Я заметил неожиданные проблески интеллекта, превосходящие те, которые наблюдались в предыдущих системах искусственного интеллекта. По сравнению со своим предшественником, GPT-3.5 — моделью, используемой десятками миллионов людей в качестве ChatGPT — я заметил значительный скачок в возможностях.
В частности, Хорвиц рекламировал «способность GPT-4 интерпретировать мои намерения и давать сложные ответы на многочисленные подсказки», что, по его словам, «ощущалось как «фазовый переход», вызывая образы возникающих явлений, с которыми я столкнулся в физике».
Хорвиц пишет, что во время тестирования GPT-4 «становилось все более очевидным, что модель и ее преемники […] обладают огромным потенциалом трансформации».
Microsoft и OpenAI предоставили множеству экспертов ранний доступ к GPT-4 и запросили у них эссе в надежде выявить возможности и проблемы, которые эта технология создает во многих отраслях.
Однако в тот же день, когда Хорвиц опубликовал объявление, его имя также появилось в качестве подписи под документом, опубликованным Центром безопасности искусственного интеллекта.
Документ, который содержал только предисловие и заявление, состоящее из одного предложения, был подписан списком подписавшихся, представляющих настоящих экспертов по искусственному интеллекту (с несколькими заметными несогласными, включая Янна Лекуна из Meta и Эндрю Нг, соучредителя Google Brain). .
В заявлении говорится: «Снижение риска исчезновения ИИ должно стать глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война».
Восприятие документа в социальных сетях несколько разделилось: многие эксперты подробно рассказали о причинах его подписания, а другие обеспокоены тем, что беспокойство по поводу неопределенных рисков — таких как будущие системы искусственного интеллекта с возможностями, которые в настоящее время невозможны — отвлекает от более важных проблем. .
Удивительно видеть, как интеллектуалы и ученые приступают к осуществлению этого «сценария конца света ИИ», игнорируя при этом реальные разрушительные последствия изменения климата, подъема антидемократических сил и расширения экономического неравенства, которые разворачиваются в реальном времени.
– Ахмед Эль Хади (@zamakany) 31 мая 2023 г.
В своем недавнем сообщении в блоге Хорвиц обращается к «проблемам», связанным с разработкой безопасного ИИ, а также признает свою «тревогу» по поводу преобразующей природы технологии. Но нет никаких упоминаний о потенциальном исчезновении.
Помимо искусственного интеллекта, Microsoft изучает и другие новые технологии. Недавно компания была одобрена для участия в пилотном проекте по цифровой валюте центрального банка для центрального банка Бразилии вместе с Santander, Visa и несколькими другими заявителями.