В результатe работы экспертов обычно является целая палитра мнений. Задача обработки полученных результатов предполагает поиск ответа на два вопроса: первый – чему собственно равен коллективный ответ экспертов, второй – можно ли им доверять.
В зависимости от содержания поставленных вопросов ответы экспертов могут быть количественными или качественными. Количественные ответы получаются у экспертов при оценке ими прогнозируемой величины с использованием двух типов шкал — шкалы отношений или интервальной шкалы.
Оценки по шкале отношений это оценки в обычных натуральных измерителях: метрах, рублях, килограммах и т.д. В этом случае информативна как сама величина, так и ее отличие от другой подобной величины. Другими словами, в случае оценки по шкале отношений можно говорить и о том, насколько велика оцениваемая величина и о том, насколько она отличается от другой такой же величины.
Оценки по интервальной шкале получаются в тех случаях, когда оцениваемый параметр не удается измерить натуральным измерителем, например чувства и эмоции людей. В этом случае экспертов просят оценить прогнозируемую характеристику по какой-то цифровой шкале. Абсолютная величина получаемой оценка не имеет смысла сама по себе, но разность между двумя такими оценками говорит о степени близости двух объектов друг к другу по оцениваемому свойству.
В обоих вариантах количественной оценки методика обработки результатов одна и та же. Для ответа на вопрос о коллективном мнении экспертов традиционно используется среднее значение. Но эта величина не является лучшим выражением коллективного мнения экспертов, так как она может сильно меняться при наличии сильно отличающихся мнений, особенно в тех случаях, когда эти сильно отличающиеся мнения не симметричны, т.е. число оптимистов не равно числу пессимистов. Более правильно считать, что коллективное мнение экспертов точнее оценивается медианой. Медиана это такое значение, которое делит все ответы экспертов пополам, одна половина ответов меньше медианы, вторая – больше. Проиллюстрируем это утверждение на следующем примере. Имеем оценки трех экспертов – 2, 3, 1. Медиана и средняя для них одинаковы и равны 2. Теперь добавим мнение четвертого эксперта, оно равно 10. В результате средняя для четырех ответов равна 4, а медиана 2.5.
Ответ на вопрос о том можно ли доверять мнению экспертов решается с помощью оценки степени согласованности их мнений. В основе такого решения лежит подход, основанный на здравом смысле: мы склонны верить утверждению других, когда все говорят одно и тоже, и не доверять, если каждый из них говорит что-то сильно отличающееся от ответов других.
С целью оценки степени согласованности мнения экспертов необходимо найти первую и третью квартили. Кварта в переводе с латинского это четверть. Первая квартиль это такое значение, которое делит ответы экспертов в пропорции одна четвертая и три четвертых. Одна четвертая это ответы меньшие первой квартили, три четвертых — все ответы которые больше первой квартили. Третья квартиль делит ответы экспертов соответственно в пропорции три четвертых и одна четвертая. Три четвертых это ответы, которые меньше третьей квартили, а одна четверть – ответы которые больше. Для нахождения медианы и квартилей необходимо ответы экспертов отсортировать по возрастанию оценок и по полученному таким образом ряду необходимо построить график зависимости прогнозируемой величины от числа экспертов. На этом графике находятся такие значения, которые отделяют ?, ?, ? от ответов экспертов (рис. 4.).
Рис. 4. Схема определения медианы и квартилей.
Мнение экспертов считается согласованным, если выполняются условия:
и
.
Иными словами мнение экспертов согласовано если разность квартилей 3 и 1 меньше медианы.