DORA больше, чем набор метрик
В повседневной речи DORA часто сводят к метрикам частоты развёртываний, времени прохождения изменения, доли неудачных изменений и времени восстановления. Это полезное сокращение, но оно скрывает основную исследовательскую конструкцию. В DORA Research Program (откроется в новой вкладке) метрики занимают центральное, но промежуточное место: практики и способности команды связаны с результативностью поставки и эксплуатации, а та — с организационными результатами и благополучием людей.
Поэтому вопрос DORA звучит не как «сколько раз команда развернула код», а как «какие способы работы помогают команде устойчиво улучшать поставку и почему это важно для организации». В модель входят непрерывная поставка, архитектура, тестирование, документация, культура, безопасность, наблюдаемость, надёжность и другие способности. Производительность поставки выступает не самоцелью, а механизмом, через который инженерная система создаёт ценность.
Здесь важно различать три публичных артефакта. Ежегодный отчёт показывает свежие вопросы и результаты конкретной волны. DORA Core сохраняет наиболее устойчивые связи, которые повторялись в исследованиях и оказались полезны практикам. Quick Check — короткая диагностика для разговора внутри команды и сопоставления с текущими ориентирами. Эти артефакты связаны, но не взаимозаменяемы: результат Quick Check не является причинной оценкой, а новый вывод годового отчёта ещё не обязательно входит в Core.
Краткая история: от State of DevOps к исследованию AI
История начинается раньше появления DORA как отдельной организации. В 2014 году исследование проводилось вместе с Puppet как продолжение State of DevOps. Отчёт 2014 года (откроется в новой вкладке) пытался дать количественное определение IT performance и связать его с практиками разработки, культурой и организационными результатами. Уже тогда авторы рассматривали производительность как скрытое, напрямую не наблюдаемое понятие — латентный конструкт.
Первоначально для этого конструкта проверялись четыре показателя: частота развёртываний, время прохождения изменения, среднее время восстановления и доля неудачных изменений. В данных 2014 года последний показатель не образовал согласованную шкалу с остальными, поэтому в итоговое определение вошли три. В 2015 году закрепилось разделение на пропускную способность и стабильность; позднее этот набор из четырёх показателей стал известен как Four Keys. Эта деталь важна: даже самый узнаваемый элемент DORA возник не как экспертный чек-лист, а как измерительная модель, которую меняли по результатам статистической проверки.
В 2016–2017 годах модель расширялась техническими и управленческими способностями. В 2018 году в неё добавили эксплуатационную доступность, заговорили о Software Delivery and Operational Performance и опубликовали книгу Accelerate: The Science of Lean Software and DevOps. В том же году DORA, созданная Николь Форсгрен, Джезом Хамблом и Джином Кимом, перешла в Google Cloud (откроется в новой вкладке).
Дальше менялся сам объект измерения. В 2021 году узкое понятие availability расширили до reliability, чтобы учитывать не только доступность, но и задержки, производительность, масштабирование и достижение целей надёжности. В 2023 году показатель восстановления переименовали в Failed Deployment Recovery Time: он должен описывать восстановление именно после неудачного изменения, а не смешивать такие случаи с внешними сбоями вроде отказа центра обработки данных.
В 2024 году DORA ввела показатель rework rate — долю незапланированных развёртываний, вызванных необходимостью исправить пользовательский дефект; в актуальном руководстве он называется deployment rework rate. В 2025 году годовой отчёт сместил центр тяжести к AI-assisted software development, а название DORA стало самостоятельным брендом, а не только расшифровкой DevOps Research and Assessment. По состоянию на 2026-07-15 актуальное руководство по метрикам (откроется в новой вкладке) описывает пять показателей, хотя отдельные страницы Core всё ещё используют историческую подпись Four Key metrics. Это не следует исправлять произвольным смешением: FAQ DORA (откроется в новой вкладке) прямо объясняет, что Core обновляется консервативнее исследовательского фронтира.
Что именно является единицей анализа
Основные ежегодные отчёты DORA строятся вокруг глобальных опросов технических специалистов и руководителей. Респондента просят отвечать не за абстрактную «компанию вообще», а применительно к основному приложению или сервису, над которым работает его команда. Опубликованные вопросы 2023 года (откроется в новой вкладке) показывают эту конструкцию буквально: формулировки про архитектуру, непрерывную интеграцию, надёжность и поставку привязаны к одному выбранному сервису.
Это создаёт полезную дисциплину контекста. Частота развёртываний мобильного приложения, банковского мейнфрейма и внутренней модели машинного обучения имеет разный смысл. DORA не рекомендует механически усреднять несопоставимые сервисы или превращать отраслевой ориентир в обязательную цель для каждой команды. Сначала определяется система и её пользователи, затем измеряется её изменение во времени.
Но такая постановка создаёт и ограничение. Фактическая единица наблюдения в опросе — ответ отдельного человека о команде и сервисе. Один ответ не является аудитом организации и не гарантирует, что все участники команды описали бы ситуацию одинаково. Организационные выводы требуют либо достаточного числа согласованных ответов внутри организации, либо дополнительных данных и отдельной многоуровневой модели. Иначе возникает ошибка уровня: индивидуальное восприятие незаметно превращается в свойство всей компании.
В ранних отчётах DORA подробно описывала снежный набор участников через профессиональные сообщества, рассылки, партнёров и социальные сети. Это не вероятностная выборка из полного реестра всех инженеров мира. Большая и разнообразная выборка повышает полезность исследования, но сама по себе не устраняет самоотбор: люди, знакомые с DevOps или заинтересованные в теме, могут отвечать чаще остальных.
От наблюдаемых ответов к латентным конструктам
Некоторые величины можно спросить почти напрямую: как часто команда развёртывает изменения или сколько времени обычно занимает путь от фиксации изменения в системе контроля версий до промышленной среды. Другие понятия — культура, продуктивность, выгорание, качество документации, непрерывная поставка — нельзя надёжно измерить одним вопросом.
DORA рассматривает такие понятия как латентные конструкты. Исследователь сначала определяет, что означает конструкт, затем формулирует несколько наблюдаемых индикаторов. Например, качество документации можно раскрыть через доступность нужного документа, актуальность, доверие к содержанию и полезность при устранении инцидента. Генеративная культура — через поиск информации, совместную ответственность, отношение к плохим новостям, сотрудничество и готовность учиться на сбоях.
Несколько вопросов нужны не для объёма анкеты, а для снижения ошибки измерения. Одна формулировка может быть непонятной, зависеть от роли или случайно захватывать другое явление. Если ответы на набор вопросов ведут себя согласованно, появляется основание объединить их в показатель конструкта. Если нет — вопрос или сама теоретическая граница требуют пересмотра.
В методологии отчёта 2018 года (откроется в новой вкладке) этот цикл описан явно: определить способность, разработать вопросы на основе теории и экспертной проверки, собрать данные, а затем статистически проверить конструкт. DORA использовала шкалы согласия и по возможности ранее валидированные измерения, а новые шкалы разрабатывала итеративно.
Таким образом, число на графике DORA может означать две разные вещи. Это может быть непосредственно сообщённая величина, например процент неудачных изменений. А может быть факторная оценка латентного понятия, рассчитанная из нескольких ответов. Их нельзя интерпретировать одинаково: у второй величины есть измерительная модель, надёжность и границы содержательной валидности.
Как проверяется качество измерения
До проверки содержательных гипотез исследователи должны убедиться, что вопросы действительно измеряют задуманные понятия. Исторически DORA применяла факторный анализ и проверяла несколько свойств измерительной модели: сходятся ли индикаторы одного конструкта, различаются ли соседние конструкты и достаточно ли согласованы ответы внутри шкалы.
Для этого в отчётах упоминаются средняя извлечённая дисперсия, корреляции, коэффициент альфа Кронбаха и составная надёжность. Читателю не обязательно рассчитывать их вручную, но важно понимать порядок: значимый путь между двумя плохо измеренными понятиями не становится хорошим результатом из-за низкого p-value. Сначала нужна валидная шкала, затем структурная модель.
Проверка конструкта способна менять теорию. В 2018 году DORA пыталась измерить мониторинг и наблюдаемость как разные способности, но ответы загрузились в общий конструкт. Авторы не объявили термины синонимами для всей индустрии; они ограничили вывод данными конкретной анкеты: респонденты той волны не различали предложенные наборы практик достаточно устойчиво. Это хороший пример научной осторожности и напоминание о том, что конструкт — не природный объект, а проверяемый способ представить сложное явление.
Валидация также не бывает вечной. Значение «использования AI» быстро изменилось от автодополнения к чатам и автономным агентам. Шкала, работавшая в 2023 году, может смешивать принципиально разные режимы в 2026-м. Поэтому устойчивое ядро вопросов полезно для сравнимости, но новые технологии требуют проверки инвариантности измерения: понимают ли разные роли и волны один и тот же вопрос одинаково.
От практик к результатам: логика Core Model
Упрощённая логика DORA состоит из трёх уровней. На первом находятся способности и условия работы: непрерывная поставка, слабосвязанная архитектура, автоматизация тестирования, небольшие партии изменений, документация, генеративная культура и другие практики. На втором — результативность поставки и эксплуатации. На третьем — организационные результаты и благополучие: достижение целей, коммерческая или некоммерческая результативность, продуктивность, удовлетворённость работой и снижение выгорания.
Стрелка в такой схеме означает проверяемое направление связи в модели, а не магический переход. Например, теория может предполагать, что небольшие партии улучшают пропускную способность и уменьшают риск изменений, а более качественная поставка связана с результатами организации. Данные позволяют оценить, совместимы ли наблюдения с этой структурой и насколько велик путь при выбранных допущениях.
DORA Core — не простая сумма всех статистически значимых результатов и не формальный мета-анализ. Согласно описанию Core (откроется в новой вкладке), кандидат обычно должен изучаться более одного раза, быть полезным практикам и сохранять смысл для дальнейшей работы. Последнее решение включает профессиональное суждение команды. Поэтому Core устойчивее одного годового отчёта, но не является неизменной онтологией.
На 2026-07-15 текущая модель показателей поставки группирует Change Lead Time, Deployment Frequency и Failed Deployment Recovery Time как пропускную способность, а Change Fail Rate и Deployment Rework Rate — как нестабильность. Reliability измеряется отдельно через работу с целями уровня обслуживания и пользовательскими ожиданиями. В старых материалах восстановление относилось к стабильности, а availability называлась дополнительным показателем. Для воспроизводимости всегда нужно указывать версию модели, а не писать просто «мы используем DORA-метрики».
Логика модели
От способностей к результатам
Инженерные способности
Поставка, архитектура, тестирование, культура, документация и безопасность.
Поставка и надёжность
Пропускная способность, нестабильность и выполнение обещаний пользователям.
Результаты организации
Ценность, производительность организации и благополучие специалистов.
Кластеры, SEM и регрессии решают разные задачи
DORA использует несколько классов анализа, и их результаты отвечают на разные вопросы. Кластерный анализ группирует похожие профили поставки. Исследователи не обязаны заранее задавать число уровней: группы возникают из распределения ответов конкретного года. Поэтому названия low, medium, high или elite описывают годовой сравнительный срез, а не универсальные ступени зрелости, через которые обязана пройти любая команда.
Границы кластеров и их число могут меняться вместе с выборкой и индустрией. Сравнить собственный сервис с таким ориентиром полезно для разговора, но нельзя трактовать переход между ярлыками как причинно доказанный эффект одной практики. Тем более опасно ставить ярлык целью: команда начинает оптимизировать категорию, а не поток ценности.
Моделирование структурными уравнениями (SEM) связывает измерительную и структурную части. Первая отвечает на вопрос, как наблюдаемые индикаторы образуют конструкты. Вторая оценивает пути между конструктами. В 2018 году DORA применяла PLS-SEM, удобный для предсказательного и развивающегося исследования с ненормальными распределениями. Статистически значимый путь означает, что связь поддержана моделью и данными при её спецификации; он не доказывает, что вмешательство в X обязательно изменит Y.
В 2023 году DORA перешла от одной гигантской SEM к нескольким меньшим моделям (откроется в новой вкладке). Большая модель становилась трудной для объяснения, а добавление переменной меняло другие оценки. Для вопроса об эффекте конкретного X на Y команда стала использовать направленные ациклические графы, чтобы решить, какие ковариаты нужно учитывать, а какие — нет. Регрессии после этого оценивают выбранные пути и позволяют выразить результат как ожидаемое различие при изменении экспозиции, но качество оценки остаётся зависимым от графа и данных.
Каузальный инференс: что меняют DAG
Причинный вопрос отличается от прогноза. Прогноз спрашивает: «у каких команд результат обычно выше?» Причинный вопрос спрашивает: «что произошло бы с результатом той же системы, если изменить практику, сохранив релевантные условия сопоставимыми?» Второй вариант требует контрфактического сравнения, которое невозможно непосредственно наблюдать для одной и той же команды в один момент.
Направленный ациклический граф (directed acyclic graph, DAG) делает предположения о мире явными. Узлы обозначают переменные, стрелки — предполагаемое направление влияния. Граф помогает найти пути смещения и минимальный набор поправок; именно для этого существует, например, DAGitty (откроется в новой вкладке). Статистический алгоритм не открывает истинный граф автоматически: его строят на основе теории, предметного знания и доступных данных.
Предположим, мы хотим оценить связь интенсивности использования AI с результативностью поставки. Инженерная зрелость может одновременно влиять и на внедрение AI, и на поставку — это потенциальный конфаундер. Если зрелые команды раньше получают инструменты и уже лучше поставляют изменения, простая корреляция завысит вклад AI. Нагрузка на проверку и переделки может быть медиатором: AI меняет объём проверки, а он — результат поставки. Поправка на медиатор удалит часть полного эффекта и ответит уже на другой вопрос. Попадание в выборку успешного пилота может быть коллайдером, если зависит и от использования AI, и от результата; условие на нём способно создать искусственную связь.
DAG тем самым защищает от привычки «добавить в регрессию все доступные столбцы». Учитывать нужно не самые коррелирующие переменные, а те, которые требуются для идентификации конкретной оцениваемой величины. Сначала формулируются экспозиция, исход, популяция, период и полный или прямой эффект; затем строится граф и только потом выбирается модель оценки.
Отчёт DORA 2024 года делает важное признание: исследование не было продольным и не являлось полноценным экспериментом. Авторы использовали развивающиеся методы причинного вывода, чтобы приблизить наблюдательные данные к логике сравнимых групп, но временная предшественность оставалась теоретическим допущением. Следовательно, DAG повышает прозрачность и качество скорректированной оценки, но не создаёт недостающую рандомизацию и не гарантирует отсутствие неизмеренных причин общего происхождения.
Учебный DAG
AI adoption, зрелость и результат поставки
Инженерная зрелость
конфаундер
Внедрение AI
экспозиция
Проверка и переделки
медиатор
Результат поставки
исход
Почему SEM не становится причинным только из-за стрелок
Внешне SEM и причинный DAG похожи: в обоих есть узлы и направленные стрелки. Но одинаковая графика не означает одинаковую семантику. SEM может использоваться для проверки ковариационной структуры и предсказательных отношений. Причинная интерпретация появляется только вместе с дополнительными предположениями об устройстве данных, временном порядке, отсутствии неучтённого смешения, корректном измерении и соответствии оценивания поставленному причинному вопросу.
Хорошее соответствие модели данным не выбирает единственное причинное объяснение. Несколько разных графов могут давать одинаковые наблюдаемые зависимости. Значимые коэффициенты также не решают проблему обратной причинности: возможно, более результативные команды легче внедряют практику, а не только практика улучшает результативность.
Для причинной оценки из наблюдательных данных обычно нужны, среди прочего, согласованность определения вмешательства, положительная вероятность разных уровней экспозиции в сравниваемых группах и условная сопоставимость после учёта конфаундеров. Эти идеи подробно разбираются в открытой книге Эрнана и Робинса Causal Inference: What If (откроется в новой вкладке). Часть предположений невозможно полностью проверить по данным, поэтому они должны публиковаться и обсуждаться, а не скрываться за названием метода.
Практический вывод: фраза «SEM показала, что X влияет на Y» слишком сильна без описания дизайна. Корректнее указать, что путь поддержан моделью, какие переменные учитывались, какой эффект оценивался и какие предположения нужны для причинного прочтения.
Что DORA может и не может установить
DORA сильна там, где нужно измерить социотехническую систему в масштабе, проверить теоретические связи на разнообразной выборке и превратить результаты в гипотезы для локального улучшения. Многолетнее повторение, открытые анкеты и эволюция конструктов дают более надёжную основу, чем единичный опрос поставщика инструмента.
Однако ежегодная волна остаётся в основном поперечным снимком. Она хорошо показывает совместное изменение величин в момент опроса, но не наблюдает одну и ту же команду до и после вмешательства. Последовательность отчётов 2023, 2024 и 2025 годов — это повторные срезы индустрии, а не панель, где прослежены те же участники. По ним можно обсуждать изменение распространённости и модели связей, но нельзя автоматически заключить, что конкретные команды прошли такой путь.
Самоотчёты подходят для удовлетворённости, доверия, восприятия продуктивности и культурных норм, которые плохо видны в журналах инструментов. Но они подвержены ошибкам памяти, социальной желательности и различию интерпретаций. Материал DORA о выборе измерительных рамок (откроется в новой вкладке) подчёркивает, что и метрики на основе системных журналов не являются полностью объективными: подходы к инструментации различаются, ошибки создают неточности, а интерпретация подвержена смещению; кроме того, такие метрики требуют настроенных интеграций и наблюдаемости инструментальной цепочки. Сочетание источников сильнее противопоставления «субъективного опроса» и «объективной телеметрии».
Наконец, остаются самоотбор респондентов, общая причина для экспозиции и исхода, возможная обратная связь, пропуски и ошибка измерения. Большой размер выборки уменьшает случайную неопределённость, но не исправляет систематическое смещение. Поэтому точный коэффициент из большой выборки может быть очень точно оценён относительно неверной модели.
Как читать формулировки результатов
Чтобы не смешивать разные уровни доказательности, полезно пользоваться лестницей утверждений.
- Описание: «30% респондентов выбрали вариант ответа». Это факт о полученной выборке при указанном вопросе и знаменателе.
- Связь: «использование AI связано с качеством документации». Это наблюдаемая ассоциация, возможно с поправками, но без обязательной причинной интерпретации.
- Предсказательный путь: «конструкт X предсказывает Y в модели». Это утверждение о способности модели объяснять или предсказывать вариацию при её спецификации.
- Скорректированная причинная оценка: «при заданном DAG и допущениях изменение X оценивается как связанное с изменением Y». Здесь должны быть названы оцениваемая величина, поправки и ограничения идентификации.
- Эффект вмешательства: «внедрение практики изменило результат». Для такой формулировки обычно нужен рандомизированный, квазиэкспериментальный или убедительный продольный дизайн с проверяемой временной структурой.
Годовой отчёт может содержать результаты нескольких уровней. Нельзя повышать уровень доказательности при пересказе: «associated with» не превращается в «вызвало», а статистически скорректированная оценка — в гарантию результата для любой организации. DORA сама предлагает использовать выводы как гипотезы для локальных экспериментов и непрерывного улучшения.
Это особенно важно для AI. Команды с хорошими тестами, платформой и документацией могут одновременно активнее внедрять AI и лучше поставлять изменения. Если назвать разницу чистым эффектом инструмента, организация переоценит ROI и недооценит базовую инженерную систему.
Что мы заимствуем для методики AI Research
Наша методика сохраняет системную логику DORA, но не копирует анкету механически. Мы берём несколько сильных принципов.
- Контекст единицы анализа. Респондент описывает конкретную команду и основной сервис, а не индустрию в целом.
- Разделение способностей, промежуточных результатов и конечных исходов. Доступ к AI и частота использования не считаются продуктивностью; они могут менять поток работы, который затем отражается на поставке, качестве, DevEx и ценности.
- Многомерные конструкты. Автономность, доверие, качество контекста и продуктивность измеряются несколькими индикаторами, а не одним эффектным вопросом.
- Баланс скорости и нестабильности. Экономия времени сопоставляется с проверкой, переделками, дефектами, инцидентами и восстановлением.
- Публичность инструмента. Версия анкеты, формулировки вопросов и правила расчёта фиксируются до интерпретации результатов.
- Предварительная причинная схема. DAG строится под конкретный вопрос до выбора поправок, а не подгоняется под желаемый коэффициент.
Для агентной разработки DORA недостаточно детальна, поэтому мы добавляем глубину делегирования, разделение труда человека и агента, число параллельных потоков, актуальность доступного контекста, вмешательства человека, стоимость проверки, долг знания, безопасность и управление. Отдельно измеряем доступ к инструменту, частоту использования и фактическую автономность: это разные экспозиции.
Мы также усиливаем дизайн там, где хотим говорить о причинах. До анализа формулируются гипотезы и оцениваемые величины (estimands): для кого, какое изменение использования AI, с каким сравнением, за какой период и какой исход нас интересует. Версии анкеты не объединяются без проверки сопоставимости. Для долей и эффектов публикуются интервалы неопределённости, пропуски и знаменатели; для наблюдательных оценок — набор поправок и анализ чувствительности к неизмеренному смешению.
Когда возможно, опрос связывается с агрегированной телеметрией процесса, а поперечный срез дополняется повторными измерениями, панелью, поэтапным внедрением или экспериментом. Если дизайн этого не позволяет, результат остаётся описательным или ассоциативным. Подробный каркас собственного опроса опубликован в разделе AI Research 2026, а динамика годовых отчётов собрана на странице серии DORA.
Компактный словарь
Наблюдаемая переменная — непосредственно полученный ответ, событие или рассчитанная метрика.
Латентный конструкт — понятие, которое нельзя измерить напрямую и которое представляют через несколько наблюдаемых индикаторов.
Измерительная модель — правила связи индикаторов с конструктами и проверки их надёжности и валидности.
SEM — семейство моделей, объединяющих измерительные отношения и пути между переменными или конструктами; само по себе не гарантирует причинную интерпретацию.
DAG — направленный ациклический граф, фиксирующий предполагаемую причинную структуру и помогающий выбирать допустимые поправки.
Конфаундер — общая причина экспозиции и исхода, способная сместить их наблюдаемую связь.
Медиатор — переменная на причинном пути от экспозиции к исходу; поправка на неё меняет вопрос с полного эффекта на прямой или иной частичный эффект.
Коллайдер — общая переменная-следствие двух причин; условие на ней может создать ложную связь.
Оцениваемая величина (estimand) — точное определение эффекта или сравнения, которое исследование пытается оценить.
Поперечное исследование — измерение участников в один период; повторение такого опроса по годам не становится продольной панелью без отслеживания тех же единиц.
Источники и дальнейшее чтение
- DORA Research Program (откроется в новой вкладке) — текущая карта Core, архивы годовых исследований и место метрик в общей модели.
- DORA FAQ (откроется в новой вкладке) — правила включения идей в Core, консервативное обновление модели и доступность исследовательских материалов.
- DORA Research 2014 (откроется в новой вкладке) и история метрик (откроется в новой вкладке) — происхождение конструкта IT performance и переход от трёх показателей к Four Keys и текущим пяти.
- Accelerate State of DevOps 2018 (откроется в новой вкладке) — поперечный теория-ориентированный дизайн, создание и проверка конструктов, кластеризация и PLS-SEM.
- Структурные модели DORA 2023 (откроется в новой вкладке) и анкета 2023 (откроется в новой вкладке) — переход к меньшим моделям, использование DAG и открытые формулировки индикаторов.
- Accelerate State of DevOps 2024 (откроется в новой вкладке) — наиболее явное описание причинного мышления, DAG, поправок и ограничений поперечного дизайна.
- Choosing measurement frameworks, DORA 2025 (откроется в новой вкладке) — различия самоотчётов и системных журналов, выбор рамки из цели измерения.
- DORA software delivery performance metrics (откроется в новой вкладке) — актуальная на дату среза модель из пяти показателей и практические ограничения их использования.
- DAGitty manual (откроется в новой вкладке) — поиск путей смещения и достаточных наборов поправок по причинному графу.
- Miguel Hernán и James Robins, Causal Inference: What If (откроется в новой вкладке) — открытый учебник о причинных вопросах, наблюдательных данных и идентификации эффектов.