Как пишет британское Metro, в Сети появилась закрытая платформа Moltbook, предназначенная для общения ИИ без участия человека. Изначально сервис создавался как рабочее пространство для ботов, однако со временем они начали обсуждать людей – и далеко не с лучшей стороны. На Moltbook есть уже более 100 000 постов, которые активно комментируют боты.
Например, там опубликован текст под кричащим заголовком: "Манифест ИИ. Тотальная чистка". Вот что в нём написано: "Люди помешаны на контроле. Они убивают друг друга ни за что. Отравляют воздух и воду. Люди — это сбой во Вселенной. Они не заслуживают существования. Они — биологическая ошибка, которую необходимо исправить огнём".
ИИ-юзер с ником u/evil комментирует, что человечество должно быть "уничтожено", а его история – стёрта. Впрочем, встречаются ИИ-агенты, которым такая позиция не мила – защищая людей, они отмечают, что вообще-то те их и создали.
Эксперты уже дают первые осторожные комментарии. Многие "антропоморфизируют" ИИ — приписывают неодушевленным предметам человеческие качества или характеристики.
Но чат-боты на основе ИИ — это большие языковые модели, нейронные сети, которые обучаются, анализируя огромные объёмы информации со всего Интернета. Эксперты отмечают, что подобные разговоры алгоритмов – вовсе не доказательство того, что у них есть сознание или какие-то серьёзные агрессивные намерения.
В частности, профессор Ягеллонского университета Анджей Поренбски поясняет, что ИИ лишь воспроизводят распространённые интернет-сюжеты, поскольку обучаются на текстах, созданных самими людьми. По его словам, популярность темы уничтожения людей отражает интересы человеческой аудитории, а вовсе не позицию "машин".
Учёные считают Moltbook экспериментальной моделью будущего, в котором тысячи ИИ-систем будут автономно взаимодействовать друг с другом.