Перейти к содержимому

Определение среднего значения, вариации и формы распределения. Описательные статистики

Способы представления числовых и категорийных данных в виде таблиц и диаграмм являются существенной, но не основной частью анализа данных. Ведущая роль принадлежит методам исследования числовых данных и их свойств. В этой заметке рассмотрены способы определения среднего значения, вариации и формы распределения генеральной совокупности. [1]

В большинстве случаев данные концентрируются вокруг некоей центральной точки. Таким образом, чтобы описать любой набор данных, достаточно указать средне значение. Рассмотрим последовательно три числовые характеристики, которые используются для оценки среднего значения распределения: среднее арифметическое, медиана и мода.

Среднее арифметическое

Среднее арифметическое (часто называемое просто средним) — наиболее распространенная оценка среднего значения распределения. Она является результатом деления суммы всех наблюдаемых числовых величин на их количество. Для выборки, состоящей из чисел Х1, Х2, …, Хn, выборочное среднее (обозначаемое символом ) равно = (Х1 + Х2 + … + Хn) / n, или

 

где — выборочное среднее, n — объем выборки, Xi – i-й элемент выборки.

Скачать заметку в формате Word или pdf, примеры в формате Excel2013

Рассмотрим вычисление среднего арифметического значения пятилетней среднегодовой доходности 15 взаимных фондов с очень высоким уровнем риска (рис. 1).

Рис. 1. Среднегодовая доходность 15 взаимных фондов с очень высоким уровнем риска

Выборочное среднее вычисляется следующим образом:

Это хороший доход, особенно по сравнению с 3–4% дохода, который получили вкладчики банков или кредитных союзов за тот же период времени. Если упорядочить значения доходности, то легко заметить, что восемь фондов имеют доходность выше, а семь — ниже среднего значения. Среднее арифметическое играет роль точки равновесия, так что фонды с низкими доходами уравновешивают фонды с высокими доходами. В вычислении среднего задействованы все элементы выборки. Ни одна из других оценок среднего значения распределения не обладает этим свойством.

Когда следует вычислять среднее арифметическое. Поскольку среднее арифметическое зависит от всех элементов выборки, наличие экстремальных значений значительно влияет на результат. В таких ситуациях среднее арифметическое может исказить смысл числовых данных. Следовательно, описывая набор данных, содержащий экстремальные значения, необходимо указывать медиану либо среднее арифметическое и медиану. Например, если удалить из выборки доходность фонда RS Emerging Growth, выборочное среднее доходности 14 фондов уменьшится почти на 1% и составит 5,19%.

Медиана

Медиана представляет собой срединное значение упорядоченного массива чисел. Если массив не содержит повторяющихся чисел, то половина его элементов окажется меньше, а половина — больше медианы. Если выборка содержит экстремальные значения, для оценки среднего значения лучше использовать не среднее арифметическое, а медиану. Чтобы вычислить медиану выборки, ее сначала необходимо упорядочить.

Эта формула неоднозначна. Ее результат зависит от четности или нечетности числа n:

  • Если выборка содержит нечетное количество элементов, медиана равна (n+1)/2-му элементу.
  • Если выборка содержит четное количество элементов, медиана лежит между двумя средними элементами выборки и равна среднему арифметическому, вычисленному по этим двум элементам.

Чтобы вычислить медиану выборки, содержащей данные о доходности 15 взаимных фондов с очень высокий уровнем риска, сначала необходимо упорядочить исходные данные (рис. 2). Тогда медиана будет напротив номера среднего элемента выборки; в нашем примере №8. В Excel есть специальная функция =МЕДИАНА(), которая работает и с неупорядоченными массивами тоже.

Рис. 2. Медиана 15 фондов

Таким образом, медиана равна 6,5. Это означает, что доходность одной половины фондов с очень высоким уровнем риска не превышает 6,5, а доходность второй половины — превышает ее. Обратите внимание на то, что медиана, равная 6,5, ненамного больше среднего значения, равного 6,08.

Если удалить из выборки доходность фонда RS Emerging Growth, то медиана оставшихся 14 фондов уменьшится до 6,2%, то есть не так значительно, как среднее арифметическое (рис. 3).

Рис. 3. Медиана 14 фондов

Мода

Термин был впервые введен Пирсоном в 1894 г. Мода — это число, которое чаще других встречается в выборке (наиболее модное). Мода хорошо описывает, например, типичную реакцию водителей на сигнал светофора о прекращении движения. Классический пример использования моды — выбор размера выпускаемой партии обуви или цвета обоев. Если распределение имеет несколько мод, то говорят, что оно мультимодально или многомодально (имеет два или более «пика»). Мультимодальность распределения дает важную информацию о природе исследуемой переменной. Например, в социологических опросах, если переменная представляет собой предпочтение или отношение к чему-то, то мультимодальность может означать, что существуют несколько определенно различных мнений. Мультимодальность также служит индикатором того, что выборка не является однородной и наблюдения, возможно, порождены двумя или более «наложенными» распределениями. В отличие от среднего арифметического, выбросы на моду не влияют. Для непрерывно распределенных случайных величин, например, для показателей среднегодовой доходности взаимных фондов, мода иногда вообще не существует (или не имеет смысла). Поскольку эти показатели могут принимать самые разные значения, повторяющиеся величины встречаются крайне редко.

Квартили

Квартили — это показатели, которые чаще всего используются для оценки распределения данных при описании свойств больших числовых выборок. В то время как медиана разделяет упорядоченный массив пополам (50% элементов массива меньше медианы и 50% — больше), квартили разбивают упорядоченный набор данных на четыре части. Величины Q1, медиана и Q3 являются 25-м, 50-м и 75-м перцентилем соответственно. Первый квартиль Q1 — это число, разделяющее выборку на две части: 25% элементов меньше, а 75% — больше первого квартиля.

Третий квартиль Q3 — это число, разделяющее выборку также на две части: 75% элементов меньше, а 25% — больше третьего квартиля.

Для расчета квартилей в версиях Excel до 2007 г. использовалась функция =КВАРТИЛЬ(массив;часть). Начиная с версии  Excel2010 применяются две функции: [2]

  • =КВАРТИЛЬ.ВКЛ(массив;часть)
  • =КВАРТИЛЬ.ИСКЛ(массив;часть)

Эти две функции дают немного различные значения (рис. 4). Например, при вычислении квартилей выборки, содержащей данные о среднегодовой доходности 15 взаимных фондов с очень высоким уровнем риска Q1 = 1,8 или –0,7 для КВАРТИЛЬ.ВКЛ и КВАРТИЛЬ.ИСКЛ, соответственно. Кстати функция КВАРТИЛЬ, использовавшаяся ранее соответствует современной функции КВАРТИЛЬ.ВКЛ. Для расчета квартилей в Excel с помощью вышеприведенных формул массив данных можно не упорядочивать.

Рис. 4. Вычисление квартилей в Excel

Подчеркнем еще раз. Excel умеет рассчитывать квартили для одномерного дискретного ряда, содержащего значения случайной величины. Расчет квартилей для распределения на основе частот приведен ниже в разделе Вычисление описательных статистик для распределения на основе частот.

Среднее геометрическое

В отличие от среднего арифметического среднее геометрическое позволяет оценить степень изменения переменной с течением времени. Среднее геометрическое — это корень n-й степени из произведения n величин (в Excel используется функция =СРГЕОМ):

G = (X1 * X2 * … * Xn)1/n

Похожий параметр – среднее геометрическое значение нормы прибыли – определяется формулой:

G = [(1 + R1) * (1 + R2) * … * (1 + Rn)]1/n – 1,

где Ri – норма прибыли за i-й период времени.

Например, предположим, что объем вложенных средств в исходный момент времени равен 100 000 долл. К концу первого года он падает до уровня 50 000 долл., а к концу второго года восстанавливается до исходной отметки 100 000 долл. Норма прибыли этой инвестиции за двухлетний период равна 0, поскольку первоначальный и финальный объем средств равны между собой. Однако среднее арифметическое годовых норм прибыли равно = (–0,5 + 1) / 2 = 0,25 или 25%, поскольку норма прибыли в первый год R1 = (50 000 – 100 000) / 100 000 = –0,5, а во второй R2 = (100 000 – 50 000) / 50 000 = 1. В то же время, среднее геометрическое значение нормы прибыли за два года равно: G = [(1–0,5) * (1+1)]1/2 – 1 = [0,5*2,0] ½ – 1 = 1 – 1 = 0. Таким образом, среднее геометрическое точнее отражает изменение (точнее, отсутствие изменений) объема инвестиций за двухлетний период, чем среднее арифметическое.

Интересные факты. Во-первых, среднее геометрическое всегда будет меньше среднего арифметического тех же чисел. За исключением случая, когда все взятые числа равны друг другу. Во-вторых, рассмотрев свойства прямоугольного треугольника, можно понять, почему среднее называется геометрическим. Высота прямоугольного треугольника, опущенная на гипотенузу, есть среднее пропорциональное между проекциями катетов на гипотенузу, а каждый катет есть среднее пропорциональное между гипотенузой и его проекцией на гипотенузу (рис. 5). Это даёт геометрический способ построения среднего геометрического двух (длин) отрезков: нужно построить окружность на сумме этих двух отрезков как на диаметре, тогда высота, восставленная из точки их соединения до пересечения с окружностью, даст искомую величину:

Рис. 5. Геометрическая природа среднего геометрического (рисунок из Википедии)

* * *

Второе важное свойство числовых данных — их вариация, характеризующая степень дисперсии данных. Две разные выборки могут отличаться как средними значениями, так и вариациями. Однако, как показано на рис. 6 и 7, две выборки могут иметь одинаковые вариации, но разные средние значения, либо одинаковые средние значения и совершенно разные вариации. Данные, которым соответствует полигон В на рис. 7, изменяются намного меньше, чем данные, по которым построен полигон А.

Рис. 6. Два симметричных распределения колоколообразной формы с одинаковым разбросом и разными средними значениями

Рис. 7. Два симметричных распределения колоколообразной формы с одинаковыми средними значениями и разным разбросом

Существует пять оценок вариации данных:

  • размах,
  • межквартильный размах,
  • дисперсия,
  • стандартное отклонение,
  • коэффициент вариации.

Размах

Размахом называется разность между наибольшим и наименьшим элементами выборки:

Размах = ХMax – ХMin

Размах выборки, содержащей данные о среднегодовой доходности 15 взаимных фондов с очень высоким уровнем риска, можно вычислить, используя упорядоченный массив (см. рис. 4): Размах = 18,5 – (–6,1) = 24,6. Это значит, что разница между наибольшей и наименьшей среднегодовой доходностью фондов с очень высоким уровнем риска равна 24,6% .

Размах позволяет измерить общий разброс данных. Хотя размах выборки является весьма простой оценкой общего разброса данных, его слабость заключается в том, что он никак не учитывает, как именно распределены данные между минимальным и максимальным элементами. Этот эффект хорошо прослеживается на рис. 8, который иллюстрирует выборки, имеющие одинаковый размах. Шкала В демонстрирует, что если выборка содержит хотя бы одно экстремальное значение, размах выборки оказывается весьма неточной оценкой разброса данных.

Рис. 8. Сравнение трех выборок, имеющих одинаковый размах; треугольник символизирует опору весов, и его расположение соответствует среднему значению выборки

Межквартильный размах

Межквартильный, или средний, размах — это разность между третьим и первым квартилями выборки:

Межквартильный размах = Q3 – Q1

Эта величина позволяет оценить разброс 50% элементов и не учитывать влияние экстремальных элементов. Межквартильный размах выборки, содержащей данные о среднегодовой доходности 15 взаимных фондов с очень высоким уровнем риска, можно вычислить, используя данные на рис. 4 (например, для функции КВАРТИЛЬ.ИСКЛ): Межквартильный размах = 9,8 – (–0,7) = 10,5. Интервал, ограниченный числами 9,8 и –0,7, часто называют средней половиной.

Следует отметить, что величины Q1 и Q3, а значит, и межквартильный размах, не зависят от наличия выбросов, поскольку при их вычислении не учитывается ни одна величина, которая была бы меньше Q1 или больше Q3. Суммарные количественные характеристики, такие как медиана, первый и третий квартили, а также межквартильный размах, на которые не влияют выбросы, называются устойчивыми показателями.

Дисперсия и стандартное отклонение

Хотя размах и межквартильный размах позволяют оценить общий и средний разброс выборки соответственно, ни одна из этих оценок не учитывает, как именно распределены данные. Дисперсия и стандартное отклонение лишены этого недостатка. Эти показатели позволяют оценить степень колебания данных вокруг среднего значения. Выборочная дисперсия является приближением среднего арифметического, вычисленного на основе квадратов разностей между каждым элементом выборки и выборочным средним. Для выборки Х1, Х2, … Хn выборочная дисперсия (обозначаемая символом S2 задается следующей формулой:

В общем случае выборочная дисперсия — это сумма квадратов разностей между элементами выборки и выборочным средним, деленная на величину, равную объему выборки минус один:

где — арифметическое среднее, n — объем выборки, Xii-й элемент выборки X. В Excel до версии 2007 для расчета выборочной дисперсии использовалась функция =ДИСП(), с версии 2010 используется функция =ДИСП.В().

Наиболее практичной и широко распространенной оценкой разброса данных является стандартное выборочное отклонение. Этот показатель обозначается символом S и равен квадратному корню из выборочной дисперсии:

В Excel до версии 2007 для расчета стандартного выборочного отклонения использовалась функция =СТАНДОТКЛОН(), с версии 2010 используется функция =СТАНДОТКЛОН.В(). Для расчета этих функций массив данных может быть неупорядоченным.

Ни выборочная дисперсия, ни стандартное выборочное отклонение не могут быть отрицательными. Единственная ситуация, в которой показатели S2 и S могут быть нулевыми, — если все элементы выборки равны между собой. В этом совершенно невероятном случае размах и межквартильный размах также равны нулю.

Числовые данные по своей природе изменчивы. Любая переменная может принимать множество разных значений. Например, разные взаимные фонды имеют разные показатели доходности и убытков. Вследствие изменчивости числовых данных очень важно изучать не только оценки среднего значения, которые по своей природе являются суммарными, но и оценки дисперсии, характеризующие разброс данных.

Дисперсия и стандартное отклонение позволяют оценить разброс данных вокруг среднего значения, иначе говоря, определить, сколько элементов выборки меньше среднего, а сколько — больше. Дисперсия обладает некоторыми ценными математическими свойствами. Однако ее величина представляет собой квадрат единицы измерения — квадратный процент, квадратный доллар, квадратный дюйм и т.п. Следовательно, естественной оценкой дисперсии является стандартное отклонение, которое выражается в обычных единицах измерений — процентах дохода, долларах или дюймах.

Стандартное отклонение позволяет оценить величину колебаний элементов выборки вокруг среднего значения. Практически во всех ситуациях основное количество наблюдаемых величин лежит в интервале плюс-минус одно стандартное отклонение от среднего значения. Следовательно, зная среднее арифметическое элементов выборки и стандартное выборочное отклонение, можно определить интервал, которому принадлежит основная масса данных.

Стандартное отклонение доходности 15 взаимных фондов с очень высоким уровнем риска равно 6,6 (рис. 9). Это значит, что доходность основной массы фондов отличается от среднего значения не более чем на 6,6% (т.е. колеблется в интервале от – S = 6,2 – 6,6 = –0,4 до + S = 12,8). Фактически в этом интервале лежит пятилетняя среднегодовая доходность 53,3% (8 из 15) фондов.

Рис. 9. Стандартное выборочное отклонение

Обратите внимание на то, что в процессе суммирования квадратов разностей элементы выборки, лежащие дальше от среднего значения, приобретают больший вес, чем элементы, лежащие ближе. Это свойство является основной причиной того, что для оценки среднего значения распределения чаще всего используется среднее арифметическое значение.

Коэффициент вариации

В отличие от предыдущих оценок разброса, коэффициент вариации является относительной оценкой. Он всегда измеряется в процентах, а не в единицах измерения исходных данных. Коэффициент вариации, обозначаемый символами CV, измеряет рассеивание данных относительно среднего значения. Коэффициент вариации равен стандартному отклонению, деленному на среднее арифметическое и умноженному на 100%:

где S — стандартное выборочное отклонение, — выборочное среднее.

Коэффициент вариации позволяет сравнить две выборки, элементы которых выражаются в разных единицах измерения. Например, управляющий службы доставки корреспонденции намеревается обновить парк грузовиков. При погрузке пакетов следует учитывать два вида ограничений: вес (в фунтах) и объем (в кубических футах) каждого пакета. Предположим, что в выборке, содержащей 200 пакетов, средний вес равен 26,0 фунтов, стандартное отклонение веса 3,9 фунтов, средний объем пакета 8,8 кубических футов, а стандартное отклонение объема 2,2 кубических фута. Как сравнить разброс веса и объема пакетов?

Поскольку единицы измерения веса и объема отличаются друг от друга, управляющий должен сравнить относительный разброс этих величин. Коэффициент вариации веса равен CVW = 3,9 / 26,0 * 100% = 15%, а коэффициент вариации объема CVV = 2,2 / 8,8 * 100% = 25% . Таким образом, относительный разброс объема пакетов намного больше относительного разброса их веса.

Форма распределения

Третье важное свойство выборки — форма ее распределения. Это распределение может быть симметричным или асимметричным. Чтобы описать форму распределения, необходимо вычислить его среднее значение и медиану. Если эти два показателя совпадают, переменная считается симметрично распределенной. Если среднее значение переменной больше медианы, ее распределение имеет положительную асимметрию (рис. 10). Если медиана больше среднего значения, распределение переменной имеет отрицательную асимметрию. Положительная асимметрия возникает, когда среднее значение увеличивается до необычайно высоких значений. Отрицательная асимметрия возникает, когда среднее значение уменьшается до необычайно малых значений. Переменная является симметрично распределенной, если она не принимает никаких экстремальных значений ни в одном из направлений, так что большие и малые значения переменной уравновешивают друг друга.

Рис. 10. Три вида распределений

Данные, изображенные на шкале А, имеют отрицательную асимметрию. На этом рисунке виден длинный хвост и перекос влево, вызванные наличием необычно малых значений. Эти крайне малые величины смещают среднее значение влево, и оно становится меньше медианы. Данные, изображенные на шкале Б, распределены симметрично. Левая и правая половины распределения являются своими зеркальными отражениями. Большие и малые величины уравновешивают друг друга, а среднее значение и медиана равны между собой. Данные, изображенные на шкале В, имеют положительную асимметрию. На этом рисунке виден длинный хвост и перекос вправо, вызванные наличием необычайно высоких значений. Эти слишком большие величины смещают среднее значение вправо, и оно становится больше медианы.

В Excel описательные статистики можно получить с помощью надстройки Пакет анализа. Пройдите по меню ДанныеАнализ данных, в открывшемся окне выберите строку Описательная статистика и кликните Ok. В окне Описательная статистика обязательно укажите Входной интервал (рис. 11). Если вы хотите увидеть описательные статистики на том же листе, что и исходные данные, выберите переключатель Выходной интервал и укажите ячейку, куда следует поместить левый верхний угол выводимых статистик (в нашем примере $C$1). Если вы хотите вывести данные на новый лист или в новую книгу, достаточно просто выбрать соответствующий переключатель. Поставьте галочку напротив Итоговая статистика. По желанию также можно выбрать Уровень сложности, k-й наименьший и k-й наибольший.

Если на вкладе Данные в области Анализ у вас не отображается пиктограмма Анализ данных, нужно предварительно установить надстройку Пакет анализа (см., например, Представление числовых данных в виде таблиц и диаграмм).

Рис. 11. Описательные статистики пятилетней среднегодовой доходности фондов с очень высоким уровнями риска, вычисленные с помощью надстройки Анализ данных программы Excel

Excel вычисляет целый ряд статистик, рассмотренных выше: среднее, медиану, моду, стандартное отклонение, дисперсию, размах (интервал), минимум, максимум и объем выборки (счет). Кроме того, Excel вычисляет некоторые новые для нас статистики: стандартную ошибку, эксцесс и асимметричность. Стандартная ошибка равна стандартному отклонению, деленному на квадратный корень объема выборки. Асимметричность характеризует отклонение от симметричности распределения и является функцией, зависящей от куба разностей между элементами выборки и средним значением. Эксцесс представляет собой меру относительной концентрации данных вокруг среднего значения по сравнению с хвостами распределения и зависит от разностей между элементами выборки и средним значением, возведенных в четвертую степень.

Вычисление описательных статистик для генеральной совокупности

Среднее значение, разброс и форма распределения, рассмотренные выше, представляют собой характеристики, определяемые по выборке. Однако, если набор данных содержит числовые измерения всей генеральной совокупности, можно вычислить ее параметры.  К числу таких параметров относятся математическое ожидание, дисперсия и стандартное отклонение генеральной совокупности.

Математическое ожидание равно сумме всех значений генеральной совокупности, деленной на объем генеральной совокупности:

где µ — математическое ожидание, Xi i-е наблюдение переменной X, N — объем генеральной совокупности. В Excel для вычисления математического ожидания используется та же функция, что и для среднего арифметического: =СРЗНАЧ().

Дисперсия генеральной совокупности равна сумме квадратов разностей между элементами генеральной совокупности и мат. ожиданием, деленной на объем генеральной совокупности:

где σ2 – дисперсия генеральной совокупности. В Excel до версии 2007 для вычисления дисперсии генеральной совокупности используется функция =ДИСПР(), начиная с версии 2010 =ДИСП.Г().

Стандартное отклонение генеральной совокупности равно квадратному корню, извлеченному из дисперсии генеральной совокупности:

В Excel до версии 2007 для вычисления стандартного отклонения генеральной совокупности используется функция =СТАНДОТКЛОНП(), начиная с версии 2010 =СТАНДОТКЛОН.Г(). Обратите внимание на то, что формулы для дисперсии и стандартного отклонения генеральной совокупности отличаются от формул для вычисления выборочной дисперсии и стандартного отклонения. При вычислении выборочных статистик S2 и S знаменатель дроби равен n – 1, а при вычислении параметров σ2 и σ — объему генеральной совокупности N.

Эмпирическое правило

В большинстве ситуаций крупная доля наблюдений концентрируется вокруг медианы, образуя кластер. В наборах данных, имеющих положительную асимметрию, этот кластер расположен левее (т.е. ниже) математического ожидания, а в наборах, имеющих отрицательную асимметрию, этот кластер расположен правее (т.е. выше) математического ожидания. У симметричных данных математическое ожидание и медиана совпадают, а наблюдения концентрируются вокруг математического ожидания, формируя колоколообразное распределение. Если распределение не имеет ярко выраженной асимметрии, а данные концентрируются вокруг некоего центра тяжести, для оценки изменчивости можно применять эмпирическое правило, которое гласит: если данные имеют колоколообразное распределение, то приблизительно 68% наблюдений отстоят от математического ожидания не более чем на одно стандартное отклонение, приблизительно 95% наблюдений отстоят от математического ожидания не более чем на два стандартных отклонения и 99,7% наблюдений отстоят от математического ожидания не более чем на три стандартных отклонения.

Таким образом, стандартное отклонение, представляющее собой оценку среднего колебания вокруг математического ожидания, помогает понять, как распределены наблюдения, и идентифицировать выбросы. Из эмпирического правила следует, что для колоколообразных распределений лишь одно значение из двадцати отличается от математического ожидания больше, чем на два стандартных отклонения. Следовательно, значения, лежащие за пределами интервала µ ± 2σ, можно считать выбросами. Кроме того, только три из 1000 наблюдений отличаются от математического ожидания больше чем на три стандартных отклонения. Таким образом, значения, лежащие за пределами интервала µ ± 3σ практически всегда являются выбросами. Для распределений, имеющих сильную асимметрию или не имеющих колоколообразной формы, можно применять эмпирическое правило Бьенамэ-Чебышева.

Более ста лет назад математики Бьенамэ и Чебышев независимо друг от друга открыли полезное свойство стандартного отклонения. Они обнаружили, что для любого набора данных, независимо от формы распределения, процент наблюдений, лежащих на расстоянии не превышающем k стандартных отклонений от математического ожидания, не меньше (1 – 1/k2)*100%.

Например, если k = 2, правило Бьенамэ-Чебышева гласит, что как минимум (1 – (1/2)2) х 100% = 75% наблюдений должно лежать в интервале µ ± 2σ. Это правило справедливо для любого k, превышающего единицу. Правило Бьенамэ-Чебышева носит весьма общий характер и справедливо для распределений любого вида. Оно указывает минимальное количество наблюдений, расстояние от которых до математического ожидания не превышает заданной величины. Однако, если распределение имеет колоколообразную форму, эмпирическое правило более точно оценивает концентрацию данных вокруг математического ожидания.

Вычисление описательных статистик для распределения на основе частот

Если исходные данные недоступны, единственным источником информации становится распределение частот. В таких ситуациях можно вычислить приближенные значения количественных показателей распределения, таких как среднее арифметическое, стандартное отклонение, квартили.

Если выборочные данные представлены в виде распределения частот, приближенное значение среднего арифметического можно вычислить, предполагая, что все значения внутри каждого класса сосредоточены в средней точке класса:

где — выборочное среднее, n — количество наблюдений, или объем выборки, с — количество классов в распределении частот, mj — средняя точка j-гo класса, fj — частота, соответствующая j-му классу.

Для вычисления стандартного отклонения по распределению частот также предполагается, что все значения внутри каждого класса сосредоточены в средней точке класса.

Чтобы понять, как определяются квартили ряда на основе частот, рассмотрим расчет нижнего квартиля на основе данных за 2013 г. о распределении населения России по величине среднедушевых денежных доходов (рис. 12).

Рис. 12. Доля населения России со среднедушевыми денежными доходами в среднем за месяц, рублей

Для расчета первого квартиля интервального вариационного ряда можно воспользоваться формулой: [3]

где Q1 – величина первого квартиля, хQ1 – нижняя граница интервала, содержащего первый квартиль (интервал определяется по накопленной частоте, первой превышающей 25%); i – величина интервала; Σf – сумма частот всей выборки; наверное, всегда равна 100%; SQ1–1 – накопленная частота интервала, предшествующего интервалу, содержащему нижний квартиль; fQ1 – частота интервала, содержащего нижний квартиль. Формула для третьего квартиля отличается тем, что во всех местах вместо Q1 нужно использовать Q3, а вместо ¼ подставить ¾.

В нашем примере (рис. 12) нижний квартиль находится в интервале 7000,1 – 10 000, накопленная частота которого равна 26,4%. Нижняя граница этого интервала – 7000 руб., величина интервала – 3000 руб., накопленная частота интервала, предшествующего интервалу, содержащему нижний квартиль – 13,4%, частота интервала, содержащего нижний квартиль – 13,0%. Таким образом: Q1 = 7000 + 3000 * (¼ * 100 – 13,4) / 13 = 9677 руб.

Ловушки, связанные с описательными статистиками

В этой заметке мы рассмотрели, как описать набор данных с помощью различных статистик, оценивающих его среднее значение, разброс и вид распределения. Следующим этапом является анализ и интерпретация данных. До сих пор мы изучали объективные свойства данных, а теперь переходим к их субъективной трактовке. Исследователя подстерегают две ошибки: неверно выбранный предмет анализа и неправильная интерпретация результатов.

Анализ доходности 15 взаимных фондов с очень высоким уровнем риска является вполне беспристрастным. Он привел к совершенно объективным выводам: все взаимные фонды имеют разную доходность, разброс доходности фондов колеблется от –6,1 до 18,5, а средняя доходность равна 6,08. Объективность анализа данных обеспечивается правильным выбором суммарных количественных показателей распределения. Было рассмотрено несколько способов оценки среднего значения и разброса данных, указаны их преимущества и недостатки. Как же выбрать правильную статистику, обеспечивающую объективный и беспристрастный анализ? Если распределение данных имеет небольшую асимметрию, следует ли выбирать медиану, а не среднее арифметическое? Какой показатель более точно характеризует разброс данных: стандартное отклонение или размах? Следует ли указывать на положительную асимметрию распределения?

С другой стороны, интерпретация данных является субъективным процессом. Разные люди приходят к разным выводам, истолковывая одни и те же результаты. У каждого своя точка зрения. Кто-то считает суммарные показатели среднегодовой доходности 15 фондов с очень высоким уровнем риска хорошими и вполне доволен полученным доходом. Другим может показаться, что эти фонды имеют слишком низкую доходность. Таким образом, субъективность следует компенсировать честностью, нейтральностью и ясностью выводов.

Этические проблемы

Анализ данных неразрывно связан с этическими вопросами. Следует критически относиться к информации, распространяемой газетами, радио, телевидением и Интернетом. Со временем вы научитесь скептически относиться не только к результатам, но и к целям, предмету и объективности исследований. Лучше всего об этом сказал известный британский политик Бенджамин Дизраэли: «Существуют три вида лжи: ложь, наглая ложь и статистика».

Как было отмечено в заметке Искусство графического представления данных этические проблемы возникают при выборе результатов, которые следует привести в отчете. Следует публиковать как положительные, так и отрицательные результаты. Кроме того, делая доклад или письменный отчет, результаты необходимо излагать честно, нейтрально и объективно. Следует различать неудачную и нечестную презентации. Для этого необходимо определить, каковы были намерения докладчика. Иногда важную информацию докладчик пропускает по невежеству, а иногда — умышленно (например, если он применяет среднее арифметическое для оценки среднего значения явно асимметричных данных, чтобы получить желаемый результат). Нечестно также замалчивать результаты, которые не соответствуют точке зрения исследователя.

Предыдущая заметка Искусство графического представления данных

Следующая заметка Анализ данных. Пять базовых показателей распределения случайной величины

К оглавлению Статистика для менеджеров с использованием Microsoft Excel


[1] Используются материалы книги Левин и др. Статистика для менеджеров. – М.: Вильямс, 2004. – с. 178–209

[2] Функция КВАРТИЛЬ оставлена для совмещения с более ранними версиями Excel

[3] Используются материалы Структурные характеристики вариационного ряда распределения

42 комментария для “Определение среднего значения, вариации и формы распределения. Описательные статистики”

  1. Алексей

    «нечЕго» — тут понятно, что для тебя тут, действительно, ничего нужного. Сиди на anekdot.ru, там для тебя все нужное.

  2. Дмитрий

    Проблема:
    Допустим, на пробной площадке взяли 3 образца почвы. Содержание свинца в почвенных пробах составило (в мг/кг почвы): 0,1; 4 и 180. Среднее загрязнение свинцом по участку, видимо, нужно находить, вычислив среднее геометрическое. Но в научных статьях требуют указывать еще и разброс. Т.е. средняя величина +/- ошибка среднего, например. А что указывать, когда рассчитываем среднее геометрическое?

  3. Дмитрий, я не встречал, чтобы в отношении среднего геометрического использовалось что-то типа разброса или дисперсии. К тому же, на мой взгляд, вам следует использовать среднее арифметическое. Обратите внимание на определение: Среднее геометрическое позволяет оценить степень изменения переменной с течением времени. У вас нет никакого изменения со временем.

  4. Татьяна

    Большое спасибо! Все понятно изложено. С уважением!

  5. то что надо, искал именно то, что описывается в статье ,как описать массив данных с помощью статистических переменных и их интерпретация. Спасибо ! рассчитать проблем никаких не вызывает, а вот объяснить, это уже другой вопрос!))

  6. Спасибо большое. Все что хотела, нашла для себя в вашей статье.

  7. Евгений

    Здравствуйте. Почему в западных компаниях очень часто применяется программа анализа данных R. А у нас она известна только узкому кругу лиц? Напишите статью про эту программу.

  8. Евгений, как раз сейчас я читаю Нейтан Яу. Искусство визуализации в бизнесе. Довольно много внимания уделено программе R.

  9. Александр

    Подскажите пожалуйста, как можно определять среднее значение в столбике определенного диапазона, указывая в отдельной клетке количество клеток входящих в этот диапазон и отображать полученные данные в конечной клетке.
    Например: в "B1"=5 — количество клеток для определения среднего, а диапазон задан от "А1-А50".
    Надо что бы в каждой клетке "В(В1) до В(50)" отображалось среднее значение.
    Спасибо!

  10. Александр, если я правильно понял, вас интересует определение скользящего среднего по 5 ячейкам. В постановке задачи не описан алгоритм нахождения среднего для четного числа, и не указано, что делать с первыми и последними ячейками.
    Предлагаю формулу на основе функции ДВССЫЛ: =СРЗНАЧ(ДВССЫЛ("A"&(СТРОКА()-ЦЕЛОЕ($C$1/2))&":A"&(СТРОКА()+ЦЕЛОЕ($C$1/2))))

    См. Excel-файл

  11. Александр

    Видимо я не точно изложил. Есть формула СРЗНАЧ(A10:A15) которая стоит в B5 и так далее вниз.
    Задача — надо в отдельной клетке менять размер диапазона, например в С1 указываем С1=7 или С1=10 и диапазон меняется СРЗНАЧ(A8:A15) или СРЗНАЧ(A5:A15).
    Начало диапазона что бы менялось в зависимости от цифры в С1.
    Спасибо!

  12. Александр

    Опечатался — «которая стоит в B15».
    Данные среднего значения выводятся в столбике В, возле последней клетки диапазона в столбике А.

  13. здравствуйте, я делаю эксперимент на крысах, у меня 4 группы в каждой группе по 3 крыс. выборка очень маленькая. я оцениваю микрофлору кишечника после воздействия и в контрольной группе. например, стафилококки (4,3;0;4,0) у трех крыс. Мне определять среднее арифметическое или медиану и квартили. Потому что у одной крысы 0, а у другой 4,3.

  14. Инкар, для малых выборок методика, описанная в этой заметке, не подходит. Поищите по ключевым словам «малые выборки», «статистика Стьюдента» у меня на сайте и в Инете.

  15. Добрый день. Никак не могу найти как правильно перевести Least squares means. Хотелось бы почитать о расчёте среднего значения для нескольких выборок.

  16. Как получить такое значение, напр.: «средний возраст 52 ± 12 лет»

  17. Владимир

    Делаю практ. работу. Для заданных данных (столбец Y из 40 значений) с помощью критерия Пирсона необходимо проверить стат. гипотезу о равномерном распределении Y.
    Пожалуйста, подскажите, как справиться с
    задачкой с помощью Excel 2007

  18. Спасибо за статью — многое стало понятней теперь.

    Хотел бы попросить посоветовать, что лучше использовать для решения следующей задачи:

    К примеру, есть ряд — 20, 30, 25, 6, 31, 32, 28, 8
    Каким образом лучше посчитать среднее значение, чтобы влияние чисел заметно отличающихся от среднего значение (6, 8) либо отсутствовало либо было минимизировано?

  19. Павел, среднее учитывает все значения. Если у вас есть основания, какие-то значения исключить из выборки, сделайте это. Если таких оснований нет, можно использовать медиану. Она менее чувствительна к выбросам.

  20. Сергей Т.

    Здесь обсуждается вычисление среднего для непрерывных данных.
    А как определять меры центральной тенденции для дискретных и порядковых данных?
    Иногда исследователи приводят так: в тесте «10 слов» через 15 минут больные (n=20) в среднем приводят 5,4+/-0,9 слов.
    Это же смешо выглядит — слово — дискретное выражение. Оно не может делиться на части и доли.

  21. При упоминании средних вполне корректно использовать десятые доли, даже для дискретных величин. В вашем примере 20 больных приводят в сумме 108 слов. В среднем на одного больного приходится 5,4 слова.

  22. Отличная статья, широкий обзор, понятно написано. Спасибо большое, то что искал.

  23. Владислав

    Добрый день!

    Во-первых, спасибо за хороший материал.

    Во-вторых, сразу признаюсь что не до конца читал. Сорри за лень. Подскажите, как называется такая штука, когда отбрасывается x% крайних значений, и работа уже ведется по оставшемуся диапазону (например, как среднее арифметическое или медиана). Возможно, есть формула для Excel?

    Спасибо! 🙂

  24. Отбрасывать ли крайние значения, вопрос не однозначный. Нужно по смыслу обосновать, почему вы это делаете. Посмотрите заметку Определение выбросов. Медиана не чувствительна к выбросам. Ее значение практически не зависит от того, используется ли полный набор данных, или без крайних значений. Среднее без учета крайних значений называется усеченным средним. Готовой формулы в Excel я не знаю. Можно отсортировать все значения с помощью функции НАИБОЛЬШИЙ(), а затем найти среднее по части массива.

  25. Владислав

    Спасибо за ответ. Да, медиана действительно отлично тут работает. И квартиль мне нравится. Кстати, в англоязычной Википедии есть очень классная иллюстрация, наглядно показывающая его суть https://en.wikipedia.org/wiki/Quantile

  26. Добрый день, Сергей Викторович! Можете подсказать подходящие математические и статистические методы для решения практической задачи планирования пассажиров в автобусных междугородних перевозках на предстоящий год. Проблема в том, что статистика есть только за коротких интервал времени, этап активного роста, и она резко меняется от месяца к месяцу из-за наложения несколько факторов: расширение маршрутной сети и по ширине и по глубине, бизнес новый, сезонность, количество пятниц и предпраздничных дней в месяце, количество конкурентов на маршруте, времена отправления, колебания цены билета у нас и у конкурентов и т.д. Как можно исключить «сомнительные» данные из статистики и спрогнозировать годовой поток, в идеале описав его какой-то функцией с минимальный коридором погрешности, и каково значение этого коридора у меня. Заранее благодарен!

  27. Павел, я думаю, что ваша задача не имеет приемлемого решения. Нильсу Бору приписывают следующий афоризм: «Предсказывать очень трудно, особенно… будущее». Рекомендую почитать Прогнозирование на основе экспоненциального сглаживания, Использование метода Монте-Карло для расчета риска, Матс Линдгрен, Ханс Бандхольд. Сценарное планирование: связь между будущим и стратегией. Я бы не строил долгосрочных планов, а выбирал максимально гибкие решения, которые позволили бы быстро менять тактику, ориентируясь на последние изменения.

  28. Уважаемый Сергей Викторович..Не буду распространяться о статье, конечно, она полезная и профессиональная, как и положено профессионалу. У меня есть вопрос, возможно, лежащий за рамками этой статьи. Как правильно отбирать пробы в потоке материала для определения их средних характеристик, в нашем случае-влажности. Материал реально в потоке — едет на конвейерной ленте. Влажность может меняться во времени, может — не меняться. Я понимаю, ключевой вопрос — определение дисперсии одной пробы, чтобы потом оценить количество необходимых проб для получения заданной погрешности в определении среднего значения искомого параметра. Так ли это? И если так, то есть ли четко прописанные методики для этого?

  29. Игорь, если я правильно понял, вам нужно определить, как часто отбирать пробы, чтобы с заданной точностью быть уверенным, что значения попадают в некие границы. Рекомендую почитать Определение объема выборки, а для более глубокого понимания Дональд Уилер, Дэвид Чамберс. Статистическое управление процессами.

  30. Дмитрий

    все доступно написано
    спасибо как раз то что искал.

    P.S.
    лошарам которые не в теме вам в другом направлении
    —> военкомат + лопата + траншея
    потом может то чем вы едите и включится а может и не факт 🙂

  31. Большое спасибо за статью!

    Но заметил ошибку в графиках функции распределения и её симметрии:

    В описании про отрицательную симметрию так и говорится, что «…имеется длинный хвост и перекос влево…», «…среднее значение становится меньше медианы…», всё правильно. А вот сам график приведен от положительной симметрии. И наоборот.

    Уж не знаю, как это повлияло на будущую образованность читателей, но у меня лично в момент изучения материала это и вызвало глубокое непонимание, в следствии чего и была обнаружена ошибка 🙂

    Конечно же, с таким объемом материала по всему сайту не легко уследить за всеми мелкими недочётами, но ведь радует как раз то, что во всей подробной статье попался лишь один!

    Всем успешного обучения!

  32. Максим, здорово, что вы хотите разобраться, но… лучше было задать вопрос, нет ли у меня ошибки. Ошибки нет. Графики соответствуют описанию. См., например, также здесь, раздел Асимметричность.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *