Индустрия ИИ переключается с гонки обучения на гонку вывода

С 2020 года модели выросли с миллионов до триллионов параметров — теперь в фокусе не обучение, а вычисления во время ответа.Since 2020 models grew from millions to trillions of parameters — now the focus is shifting to compute spent at answer time.

С 2020 года индустрия ИИ была одержима наращиванием моделей при обучении: параметры больших языковых моделей выросли с миллионов до триллионов, отмечает IEEE Spectrum. Это работало — самая крупная версия GPT-3 от OpenAI, вышедшая в 2020 году, правильно отвечала лишь на 43,9% вопросов в тестовом бенчмарке, и с тех пор точность моделей заметно выросла именно за счёт увеличения масштаба обучения.

Но, по данным издания, сейчас фокус индустрии смещается: вместо того чтобы просто делать модель крупнее на этапе обучения, всё больше внимания уделяется вычислениям, которые модель тратит уже во время самого ответа — то есть тому, что называется инференсом. Это принципиально другой рычаг повышения качества: не «выучить больше заранее», а «подумать дольше и тщательнее в моменте ответа на конкретный вопрос».

Такой сдвиг — не просто смена моды, а следствие того, что наращивание параметров при обучении становится всё дороже, а выигрыш от него — не бесконечен. Перенос части «умственных усилий» на момент вывода превращает вычислительную мощность в новый ресурс, который можно тратить точечно, там, где вопрос действительно сложный, а не равномерно на каждый запрос модели любой сложности.

Почему это важно

Переход от «обучить модель побольше» к «дать модели подумать подольше в момент ответа» меняет то, где именно в индустрии ИИ теперь тратятся вычислительные мощности — а значит, и то, какое оборудование и инфраструктура станут по-настоящему дефицитными.

Since about 2020, the AI industry has been focused on making models bigger at training time: large language models ballooned from millions of parameters to trillions, IEEE Spectrum notes. It worked — the largest version of OpenAI's GPT-3, released in 2020, correctly answered just 43.9 percent of questions on a benchmark, and model accuracy has climbed substantially since, largely through scaling up training.

But the industry's focus is now shifting, according to the outlet: instead of simply making a model bigger during training, more attention is going to the compute a model spends at answer time itself — what's known as inference. That's a fundamentally different lever for improving quality: not "learn more in advance," but "think longer and harder in the moment of answering a specific question."

That shift isn't just a change in fashion — it reflects the fact that scaling up parameters during training keeps getting more expensive, and the gains from doing so aren't limitless. Moving some of the "thinking effort" to inference time turns compute into a resource that can be spent selectively, on questions that are genuinely hard, rather than evenly across every query regardless of difficulty.

Why it matters

Moving from "train a bigger model" to "let the model think longer when it answers" changes where the AI industry actually spends its compute — and with it, what hardware and infrastructure become the real bottleneck.

Индустрия ИИ переключается с гонки обучения на гонку выводаThe AI industry is shifting its race from training to inference

Почему это важно

Why it matters