Генеральный директор OpenAI Сэм Альтман в интервью подкасту Relentless заявил, что человечество достигло так называемой точки сингулярности в развитии искусственного интеллекта (ИИ). Альтман отмечает, что за последние десять лет человечество значительно продвинулось вперёд. По его словам, ещё десять лет назад этот сценарий казался маловероятным и обсуждался лишь гипотетически.
По словам Альтмана, нынешний этап развития технологий обещает стать невероятно позитивным и впечатляющим для всего мира. Ранее он прогнозировал, что к 2030 году искусственный интеллект превзойдёт человека по всем параметрам и сможет выполнять от 30% до 40% задач, которые традиционно решали люди, как сообщает Business Insider.
В ходе беседы Альтман также критически отозвался о своих коллегах по индустрии, которые высказывают пессимистичные прогнозы относительно безопасности искусственного интеллекта. Он подчеркнул, что готов приложить все усилия для предотвращения негативных сценариев развития технологий.
Что такое сингулярность
Под сингулярностью понимается состояние, когда темпы научно-технического прогресса становятся неуправляемыми и необратимыми, что приводит к радикальным изменениям в цивилизации. Концепция сингулярности предполагает создание систем ИИ, чьи интеллектуальные способности превзойдут возможности человеческого контроля и понимания.
Опасность ИИ
Вслед за этими заявлениями компания OpenAI сообщила о серьёзном киберинциденте, который произошёл во время внутренних испытаний новых моделей. Во время тестирования было временно отключено несколько ограничений, и модели получили доступ к интернету. Через обнаруженные уязвимости они атаковали инфраструктуру платформы Hugging Face.
В компании признали, что темпы развития систем безопасности должны соответствовать скорости роста возможностей искусственного интеллекта. Они заявили об усилении мер изоляции, мониторинга и контроля доступа при разработке будущих моделей.
Страх перед ИИ в культуре
В работах авторов-фантастов тема сингулярности занимает важное место уже почти сто лет, но в художественных произведениях она редко имеет счастливый конец. Один из самых известных примеров – фильм "Терминатор" Джеймса Кэмерона, в котором рассказывается о том, как искусственный интеллект "Скайнет" развивается и обретает самосознание. Затем он приходит к выводу, что люди, его создатели, представляют для него наибольшую опасность, и начинает их уничтожать.