Генеральный директор Anthropic Дарио Амодеи призвал правительства взять под контроль развитие искусственного интеллекта – вплоть до права блокировать выпуск технологий, признанных опасными. Об этом он заявил в эксклюзивном интервью телеканалу ABC News.
По словам Амодеи, государство должно получить полномочия останавливать развёртывание моделей, которые по итогам независимой оценки представляют неприемлемые риски. "Мы должны научиться делать эту технологию надёжной. Но ответственность в первую очередь лежит на нас", – сказал он.
Незадолго до интервью Амодеи опубликовал открытое письмо, в котором предупредил: меры безопасности в сфере ИИ не успевают за темпами его развития. Одновременно Anthropic объявила об инвестициях в размере 200 миллионов долларов в исследование социальных последствий ИИ.
Говоря о влиянии технологии на рынок труда, Амодеи признал, что переход может оказаться болезненным, и предложил ряд мер поддержки: страхование заработной платы, стимулы для компаний не сокращать персонал, улучшение системы страхования по безработице. В долгосрочной перспективе он не исключил повышения налога на прирост капитала и введения специального налога на ИИ-компании.
Амодеи также прокомментировал недавнее заявление Anthropic о возможной паузе в развитии ИИ на том этапе, когда технология окажется способна совершенствовать себя самостоятельно. По его словам, такой шаг потребует согласия всех ведущих игроков, включая геополитических противников, и возможности проверки соблюдения договорённостей. Китаю в этом вопросе он не доверяет.
В качестве примера Амодеи привёл Claude Mythos – модель Anthropic, разработанную для поиска уязвимостей в программном обеспечении и способную во время тестирования эксплуатировать тысячи ошибок в операционных системах и браузерах. "Представьте, если бы Китай создал Mythos. Они бы использовали её для атак на нас", – сказал он.
Несмотря на предостережения, Амодеи остаётся оптимистом: по его убеждению, ИИ способен победить болезни, которые преследуют человечество тысячелетиями, а его умение выявлять связи между разрозненными данными идеально подходит для прорывов в биомедицине.