Новая политическая партия в Японии "Путь к перерождению" назначила формальным лидером систему ИИ. Однако модель не будет действовать сама по себе – у неё появится "ассистент", 25-летний аспирант Киотского университета. Позже выяснилось, что она и вовсе не будет заниматься политикой – только распределением ресурсов, волонтёрских часов и округов между участниками. Так что о передаче власти роботам в Японии пока речи не идёт.
В Албании же произошло более крупное назначение – объявлен первый в мире ИИ-министр. Он, а точнее, она – Диэлл. Кстати, в переводе с албанского её имя означает "солнце". И у неё даже есть аватар – женщина в традиционном албанском костюме района Задмира. Языковая модель займётся госзакупками. И в этом случае роль ИИ кажется более значимой.
– Но это чистое хайпожорство, – заявил Metro разработчик систем ИИ Роман Душкин. – Примерно то же самое, что наделить полномочиями премьера нашего бота с "Госуслуг". Нонсенс. Сидел кто-то в Албании и думал, что мало в мире про них говорят. Уже забыли, что есть такая страна. Давайте напомним.
Как отметил Душкин, при назначении системы ИИ в качестве субъекта неких правоотношений должна быть нормативная бумага, где прописано: кто это, что это, какие функции выполняет, какие права и обязанности, какую ответственность несёт.
– Вот когда мне покажут хотя бы на японском языке документ, где всё это прописано, тогда и будем размышлять, – добавил эксперт. – А пока всё это пиар, хайп и словоблудие.
Тем не менее обращаться к ИИ за советами в решении гражданских и иных проблем можно уже сейчас. По словам Душкина, последние модели ИИ достаточно умны, чтобы выдать разумное мнение по таким вопросам. И если кто-то из политиков будет использовать их в качестве советника – почему бы и нет. В любом случае выносить решение будет человек.
– У меня, как у гендиректора IT-компании, есть несколько ИИ-агентов, которые играют конкретную роль, заложенную через ролевой промт. Один из них – советник гендиректора с 20-летним опытом работы в отрасли. Мудрый, спокойный, рассудительный. И когда у меня есть проблема, я спрашиваю у них второе мнение. Так я получаю более целостную картину для принятия решения. Но согласиться с ними или нет – уже моё дело. И заметьте, я про их существование никому не рассказываю. Только вам.
При этом ИИ уже достаточно умён, чтобы принимать собственное решение, основанное на заложенной в нём программе и опыте, подчеркнул эксперт. Время, когда языковые модели только копировали чужие слова, в прошлом.
– Сегодня программирование ИИ превратилось в разработку детальных должностных инструкций, – уточнил Душкин. – Примерно таких же, как и для людей, которых мы принимаем на работу. Будешь делать одно – получишь премию, будешь делать другое – штраф. Если приказать им пользоваться своими внутренними знаниями при формировании мнения – исполнят. Если написать, что данные надо искать в Интернете и книгах – будут делать именно это.
Но не приведёт ли общение с машиной к самым тёмным сценариям из антиутопических фильмов? Вдруг она решит, что лучшая стратегия – обман или предательство? А может быть, ИИ поймёт, что причиной всех проблем в какой-то мере является человек – и решит его устранить?
По словам Душкина, для переживаний по этому поводу нет оснований. По крайней мере сейчас.
– Отвечая на подобные вопросы, я постоянно повторяю стихотворение Чуковского: "Мудрец в нём видел мудреца, глупец – глупца, баран – барана, овцу в нём видела овца и обезьяну – обезьяна”. Если вы являетесь поклонником Макиавелли и формулируете свои вопросы так, чтобы модель это тонко почувствовала, – вы получите соответствующий ответ. Но если системный промт нейтральный, машина будет отвечать без идеологических сдвигов.
Тем не менее, как бы мы ни относились к искусственному интеллекту, прогресс не остановить – языковые модели уже плотно вплетены в нашу жизнь, хотя обычный человек может этого даже не замечать.
Как рассказал Душкин, они повсеместно используются в построении сложных программных интерфейсов, а то, что они на естественном для нас языке могут в Интернете общаться с чудаками – это побочный эффект.
– К тому же большие языковые модели начинают массово использоваться учёными и инженерами. Особенно теми, кто работает над моделями ИИ для усиления когнитивных способностей. Учёные используют их для расширения и углубления научного поиска, формулирования гипотез, их проверки и подсчёта результатов. Инженеры используют силу ИИ для того, чтобы делать всё более крутые модели искусственного интеллекта. Сингулярность уже наступила. Просто она неравномерно распределена.