ИИ, нажми на тормоза

Согласно опубликованному докладу, искусственный интеллект уже активно участвует в создании собственных систем, и этот процесс может выйти из-под контроля раньше, чем государства успеют выработать эффективные механизмы сдерживания.

Так, если в марте 2024 года Claude Opus 3 справлялся с задачами, на которые у человека уходило около четырёх минут. То год спустя Claude Sonnet 3.7 брался за полуторачасовые задачи. Сейчас Claude Opus 4.6 выполняет задачи, требующие 12 часов человеческой работы. Если тренд сохранится, задачи уровня нескольких дней окажутся в зоне досягаемости ИИ уже в этом году, а к 2027-му — задачи на несколько недель.

Помимо кода, ИИ уже способен вести научные эксперименты. В апреле 2026 года Anthropic опубликовала первую демонстрацию того, как агенты на базе Claude самостоятельно провели открытое исследование в области безопасности ИИ.

Рекурсивное самосовершенствование

Авторы доклада называют конечной точкой этого тренда «рекурсивное самосовершенствование»: ситуацию, при которой ИИ получает возможность самостоятельно проектировать, обучать и запускать следующие поколения более совершенных систем без участия человека.

Последствия могут быть полярными: прорывы в медицине, науке, решении сложных проблем — или утрата контроля над системами, которые умнее нас. Нет 100% гарантии, что ИИ однажды не посчитает человечество лишним.

Компания выступает за создание международной системы координации, где государства могли бы при необходимости согласованно притормозить ИИ.

Аналогичные механизмы существуют для других технологий — например, «Договор о ракетах средней и меньшей дальности», — но на их создание ушли десятилетия. Сейчас столько времени нет.