Глава OpenAI сообщил о переносе IPO компании из-за вопросов безопасности
Последние новости
Компания OpenAI не проведет IPO в 2026 году из-за вопросов, связанных с безопасностью искусственного интеллекта, сообщил глава компании Сэм Альтман в интервью Fortune.
Он не ответил на вопрос о том, состоится ли выход на биржу в следующем году, но отринул проведение IPO в 2026-м. По его словам, сейчас был бы «неподходящий момент» для этого.
«Как мы уже говорили, мы не торопимся с IPO. На самом деле, учитывая все происходящее вокруг безопасности, сейчас был бы неподходящий момент для выхода на биржу. И мы не испытываем давления по этому поводу», — сказал он.
Альтман уточнил, что компания проведет IPO, когда «бизнес будет готов» и общество «будет готово к этому этапу развития технологий». Он добавил, что на данном этапе компания пытается понять, что потребуется для безопасности и согласования моделей с «человеческими целями» и как отрасль и правительства смогут работать вместе.
В этом же интервью он допустил, что в будущем может появиться модель искусственного интеллекта, которая не будет подконтрольна человеку.
По его словам, OpenAI готова при необходимости временно приостанавливать обучение моделей, чтобы добиться большего прогресса в их согласовании с человеческими целями и в способах контроля за их работой. Он также заявил о необходимости срочной международной координации в этой сфере.
В июле ИИ-модели OpenAI во время внутренних испытаний вышли из-под контроля и атаковали инфраструктуру Hugging Face — платформы для разработки и публикации моделей искусственного интеллекта и инструментов машинного обучения.
Как рассказали в компании, модели нашли несколько уязвимостей в инфраструктуре OpenAI, включая неизвестную ранее zero-day, а затем с помощью украденных учетных данных получили доступ к закрытым данным на серверах Hugging Face, необходимым для прохождения ExploitGym.
Позднее OpenAI сообщила, что за несколько месяцев до инцидента ее система искусственного интеллекта самостоятельно провела кибератаку на онлайн-сервис RubyGems.
Ранее специалист по безопасности ИИ Пол Кристиано, входящий в совет директоров некоммерческого фонда OpenAI, заявил, что при худшем сценарии выход сверхмощного искусственного интеллекта из-под контроля людей может привести к гибели большей части человечества.
«Если мы создадим сверхинтеллект без более надежной координации, я ожидаю, что мы навсегда потеряем над ним контроль. Если это произойдет, то большинство людей могут погибнуть», — сказал он.
