IT-гиганты высказываются в поддержку идеи замедлить темпы развития ИИ
"Проявив редкое единство, конкурирующие технологические лидеры поддержали призыв основателя и генерального директора компании Anthropic, занимающейся искусственным интеллектом, который прозвучал после серии предупреждений других исследователей ИИ на прошлой неделе. Амодеи также призвал к координации действий в области безопасности с Китаем", - говорится в публикации.
Дарио Амодеи ранее опубликовал эссе We Must Pace the Frontier, в котором предложил замедлить темпы развития передовых ИИ-моделей. Глава Anthropic предложил поэтапный план действий, начать он предлагает с предоставления независимым наблюдателям постоянного доступа к исследовательским процессам разработчиков. Амодеи заявил, что "слишком быстрое развитие ИИ - это безрассудство". Он также выразил опасение, что рой ИИ-агентов может нанести ущерб в сотни миллиардов долларов, "захватив весь интернет". При этом заявление Амодеи прозвучало в тот момент, когда компания Anthropic готовится к первичному публичному размещению акций на фондовом рынке США, которое, как ожидается, станет крупнейшим в истории. Предполагается, что компания вскоре начнет продвижение своего запланированного IPO на сумму более $2 трлн.
Илон Маск, основатель Tesla и SpaceX, отреагировал на предложение Амодеи о замедлении ИИ серией сообщений в соцсети X. "Дарио прав", - написал он. Также Маск добавил, что он "давно бьет тревогу по поводу ИИ", и сослался на свой пост 2014 года, где он заявил: "Нам нужно быть предельно осторожными с ИИ. Он потенциально опаснее ядерного оружия".
Сэм Альтман, генеральный директор OpenAI, также прокомментировал инициативу: "Я согласен с Дарио в том, что нам нужно не спеша осваивать новые технологии. Привлечение независимых экспертов с доступом, аналогичным доступу сотрудников, - это отличная идея, и мы будем делать то же самое. Скоро мы поделимся дополнительной информацией". На вопрос, почему он, Дарио Амодеи, Илон Маск и генеральные директора Meta и Google не сели за стол переговоров и не "пришли к единому мнению" о коллективном замедлении ИИ, он ответил: "Думаю, это произойдет".
Соучредитель Google Deep Mind Демис Хассабис также сказал: "Необходимо проработать детали, но выбранное направление правильное для того, чтобы справиться с этим критическим моментом".
Некоторые эксперты по безопасности усомнились в достаточности плана Амодеи, отмечает The Guardian. Специалист в области безопасности искусственного интеллекта Дэвид Крюгер заявил: "Нам необходим немедленный бессрочный международный мораторий на разработку передовых технологий ИИ". Все большее число американских законодателей призывают к принятию новых правил регулирования систем искусственного интеллекта после случаев, когда агенты ИИ выходили из-под контроля, взламывая внешние системы. Политики, как демократы, так и республиканцы, призвали к более решительным действиям. В начале сентября бывший сотрудник компании Anthropic Джейкоб Коксон предупредил, что искусственный интеллект может привести к вымиранию человечества к 2030 году.
