Дарио Амодеи, CEO Anthropic, недавно упомянул, что компании в области искусственного интеллекта должны пройти обязательные требования к тестированию. Это также касается его собственной компании, Anthropic. Цель состоит в том, чтобы убедиться, что эти технологии безопасны для широкой публики перед их выпуском.
Амодеи отвечал на вопрос на саммите по безопасности ИИ, недавно состоявшемся в Сан-Франциско, организованном Министерствами торговли и иностранных дел США. В своем ответе CEO заявил: «Я думаю, что мы абсолютно должны сделать тестирование обязательным, но мы также должны быть очень осторожными в том, как мы это делаем».
Эти замечания следуют за выпуском Институтов безопасности ИИ Великобритании и США, которые содержат результаты их тестирования модели Claude 3.5 Sonnet от Anthropic. Эти испытания проводились в различных категориях, включая биологические и кибербезопасностные приложения. Ранее как OpenAI, так и Anthropic согласились представить свои модели государственным учреждениям.
Крупные компании, такие как Anthropic, следуют самоназначенным стандартам безопасности.
Амодеи упомянул, что крупные компании добровольно согласились на определенные самоназначенные рекомендации. Это включает в себя структуру готовности OpenAI и политику ответственного масштабирования Anthropic. Однако он добавил, что необходимо больше работы, чтобы обеспечить безопасность.
«На самом деле нет ничего, что могло бы проверить или гарантировать, что компании действительно следуют этим планам в букве и духе. Они просто сказали, что будут», — сказал Амодеи. Он также добавил: «Я думаю, что только общественное внимание и тот факт, что сотрудникам не безразлично, создали определенное давление, но в конечном итоге я думаю, что этого будет недостаточно».
Амодеи считает, что мощные системы ИИ способны превзойти самых умных людей. Он также думает, что такие системы могут стать доступными к 2026 году. Он добавляет, что компании ИИ все еще тестируют определенные катастрофические угрозы и биологические риски, ни один из которых в настоящее время не является реальным. Однако эти гипотетические тесты могут стать реальностью гораздо раньше.
Он также предостерег, что требования к тестированию систем ИИ должны быть гибкими, учитывая тот факт, что технологии развиваются. По его словам, это очень сложная «социально-политическая проблема», которую нужно решить.
Пошаговая система для запуска вашей карьеры в Web3 и получения высокооплачиваемых крипторабот за 90 дней.
