Реальный «Терминатор»: Нейросети начали сами писать свой код, а IT-гигантов просят нажать на паузу

Сценарий культового научно-фантастического боевика рискует воплотиться в жизнь. Руководство компании Anthropic, одного из ведущих разработчиков искусственного интеллекта, бьет тревогу: новейшие ИИ-модели начинают демонстрировать признаки возможного выхода из-под человеческого контроля. Сооснователь компании Джек Кларк в интервью программе BBC призвал мировую IT-индустрию создать механизмы для экстренного замедления развития нейросетей, пока человечество не потеряло над ними власть.

«Скайнет» уже близко? Риск полной автономности

В знаменитой голливудской франшизе система Skynet обрела самосознание, начала развиваться без участия создателей и переписывать собственный код. Опасения современных разработчиков подкрепляются подозрительно похожей статистикой.

По оценке Кларка, популярный чат-бот Claude, созданный Anthropic, уже функционирует на программном коде, который примерно на 80% был написан самой системой. Ожидается, что в течение ближайших двух лет этот показатель достигнет 100%. Технологии стремительно приближаются к этапу, когда они смогут эволюционировать полностью автономно, что повлечет за собой колоссальные последствия для всего мира.

«У индустрии есть газ, но нет тормоза»

«Необходимо иметь возможность убрать ногу с педали газа и нажать на тормоз. Сейчас ситуация выглядит так, будто у индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза», — заявил Кларк в интервью BBC Newsnight.

Для предотвращения катастрофических сценариев и сохранения контроля над ИИ обществу требуются жесткие государственные механизмы. При этом в Anthropic отмечают, что реальная пауза в разработках возможна лишь в том случае, если крупнейшие игроки (в первую очередь в США и Китае) одновременно договорятся остановить гонку технологий. Пока ни Anthropic, ни OpenAI, ни Google не заявляли о готовности в одностороннем порядке заморозить свои исследования.

Экономический «Судный день» и советы молодежи

Отдельное беспокойство вызывают автономные ИИ-агенты, способные самостоятельно выполнять рутинные задачи. Они уже стали причиной массовых сокращений в технологических корпорациях, заменяя сотни программистов.

Однако Кларк считает, что у людей остается важное преимущество перед машинами — способность к по-настоящему творческому мышлению. Молодому поколению, опасающемуся остаться без работы в экономике будущего, сооснователь Anthropic дал следующий совет:

• Развивать собственные увлечения и воображение.

• Получать широкое гуманитарное образование.

• Много читать и иметь разнообразные интересы, чтобы смотреть на мир шире.

Политика и рекордное IPO

Несмотря на призывы к осторожности, Anthropic приветствовала недавний указ президента США Дональда Трампа, предусматривающий довольно мягкий подход к регулированию отрасли. Документ оставляет проверки безопасности ИИ добровольными. Трамп также сообщил о недавних обсуждениях с Пекином возможностей сотрудничества по вопросам безопасности ИИ.

Сама Anthropic тем временем готовится к выходу на фондовый рынок. По оценкам частных инвесторов, стоимость компании может достичь 1 триллиона долларов. Кларк подчеркнул, что открыто говорит о рисках превращения ИИ в неконтролируемую силу не ради пиара перед IPO, а чтобы показать миру реальную ситуацию изнутри индустрии.