В ней эксперту самому
предлагается проставить себе балл по десятибалльной шкале, ориенти-
руясь, к примеру, на следующие значения баллов:
10 - эксперт специализируется по данному вопросу, имеет по нему
законченные теоретические или практические разработки (научные ис-
294 Глава 5
следования, запущенные в производство технические разработки, дан-
ный вопрос непосредственно относится к области его узкой служебной
деятельности);
8 - в практическом решении данного вопроса эксперт участвует,
но этот вопрос не входит в сферу его узкой специализации;
5 - вопрос входит в сферу тесно связанного с его узкой специали-
зацией направления (смежная прикладная дисциплина, смежная область
практической деятельности);
3 - вопрос не входит в сферу тесно связанного с его узкой специ-
ализацией направления (например, знакомство с проблемой по литера-
турным источникам, по работе на другом предприятии и т. п.).
В целом показатель <относительная самооценка эксперта> направлен
на то, чтобы эксперт сам оценил уровень своей компетентности по
заданному вопросу.
Для того чтобы шкала баллов не оказывала влияния на самооценку,
в графе <относительная самооценка эксперта> можно привести перечень
характеристик компетентности экспертов без проставления баллов. В этом
случае эксперт должен подчеркнуть те характеристики, которые, по его
мнению, определяют уровень личной компетентности. Баллы проставля-
ются рабочей группой при анализе собранных анкет. Анкета для опреде-
ления компетентности экспертов приводится в табл. 5.2.
Произведение объективного и субъективного показателей, деленное
на сто, будет характеризовать компетентность эксперта по данному воп-
росу, т.е.
100
Деление на 100 нужно для приведения диапазона изменения йу к
виду 0 < Ау <_ 1. Тогда показатель компетентности эксперта можно трак-
товать как вероятность задания им достоверной оценки.
При неоднократном повторении опроса одним и тем же коллективом
экспертов (либо устойчивым большинством) по сходным вопросам можно
и необходимо на каждом новом опросе воспользоваться уже накопленны-
ми результатами для уточнения характеристик компетентности экспертов.
Кроме того, компетентность экспертов может быть определена сами-
ми экспертами. Для этого каждый эксперт, входящий в группу, задает ве-
совые коэффициенты всем остальным экспертам, кроме себя. Далее опре-
деляется среднеарифметическая оценка компетентности каждого эксперта.
Для отбора наиболее компетентных и добросовестных экспертов,
участников фокус-групп и других методов, основанных на использова-
нии ограниченного числа опрашиваемых, возможно использование так
называемых фильтрующих вопросов и вопросов-ловушек.
Например, при опросе торговых посредников о проблемах сбыта
конкретных товаров на определенной стадии опроса может быть введен
следующий фильтр: <Следующие вопросы относятся только к тем, кто
параллельно сбывает товары следующих фирм (указано - каких)>.
Вопросы-ловушки помогают выявить недостаточно компетентных
(недобросовестных) экспертов следующим образом. Скажем, в число
оцениваемых товаров включаются товар несуществующей марки. Лица,
оценившие данный товар, подозреваются в невнимательности или заве-
домой недобросовестности.
Таблица 5.2
Анкета для оценки компетентности эксперта
Объективмаяоценка - ПоСубъективная оценка1-Ьс
ЗанимаемаяБал-УровеньБал-Общий стажБал-Стаж работыБал-Степень участия вБал-
должностьлыобразованиялыработылыпо проблемелырешении даннойлы
проблемы
Руководитель10Доктор наук6Более 10 лет10Более 10 лет10Эксперт10
организацииспециализируется
по данному вопросу
Зам.8Кандидат наук4От 10 до 5 лет8От 10 до 5 лет8Эксперт участвует в8
руководителяпрактическом
решении данного
вопроса, но он не
входит в сферу его
узкой
специал изации
Руководитель6Высшее2Менее 5 лет6Менее 5 лет6Вопрос входит в6
подразделе-образованиесферу тесно
ниясвязанного с его
узкой
специализацией
направления
Зам.4Вопрос не входит в3
руководителясферу тесно
подразделе-связанного с его
нияузкой
специализацией
направления
296 Глава 5
Если экспертиза проводится неоднократно одной и той же группой]
(или устойчивым большинством) экспертов по сходным вопросам, сле-
дует при каждом новом опросе воспользоваться уже полученными ре-
зультатами для уточнения характеристик компетентности экспертов.
Практика экспертных опросов показывает, что, хотя методы само-
оценки недостаточны для того, чтобы служить единственным критерием
оценки компетентности экспертов, использование этих методов способ"!
ствует более обоснованным выбору и оценке экспертов. |
Получены данные, подтверждающие связь между средней группо-|
вой самооценкой (частное от деления суммы индивидуальных на число!
экспертов в группе) и точностью экспертизы [37]. На рис. 5.1 изображена)
кривая, показывающая зависимость между средней групповой самооцен-
кой (у) и средней групповой ошибкой (х).
1 В 1 С 3 А У
Рис. 5.1. Влияние средней групповой самооценки на точность экспертизы
Между этими величинами существует обратная связь, заключающа-
яся в том, что средняя групповая ошибка монотонно убывает с возра-
станием средней самоценки. Из этого вытекает следующий вывод. Пусть,
например, группа кандидатов в эксперты со средней оценкой С разделе-
на на две подгруппы, из которых подгруппа А имеет более высокую
самоценку, чем группа в целом, а подгруппа В - более низкую. Тогда
подгруппа А будет в среднем более точной, чем вся группа, а подгруппа
В- менее точной.
С другой стороны, различные подходы к оценке компетентносп
экспертов можно рассмотреть и с иных позиций. Экспертные оценки
носят субъективный характер, оценка компетентности экспертов - так-
же. Возникает вопрос: повышает ли точность результатов экспертизы
наложение субъективных оценок компетентности экспертов? Может был
проще определять окончательные оценки без формализованного учета
компетентности экспертов? Только при этом следует на этапе отбора
экспертов уделить больше внимания неформальной оценке уровня ш
квалификации, а затем, при подведении результатов экспертизы, счи-
тать их всех равнокомпетентными, и в качестве интегральной оценки
рассматривать среднеарифметическое их отдельных оценок. Часто на
практике поступают именно таким образом. |
Экспертные оценки 297
Г. Работа с экспертами
В зависимости от характера исследуемого объекта, от степени его
формализации и возможности привлечения необходимых экспертов по-
рядок работы с ними может быть различным, но в основном он содер-
жит следующие три этапа.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168
предлагается проставить себе балл по десятибалльной шкале, ориенти-
руясь, к примеру, на следующие значения баллов:
10 - эксперт специализируется по данному вопросу, имеет по нему
законченные теоретические или практические разработки (научные ис-
294 Глава 5
следования, запущенные в производство технические разработки, дан-
ный вопрос непосредственно относится к области его узкой служебной
деятельности);
8 - в практическом решении данного вопроса эксперт участвует,
но этот вопрос не входит в сферу его узкой специализации;
5 - вопрос входит в сферу тесно связанного с его узкой специали-
зацией направления (смежная прикладная дисциплина, смежная область
практической деятельности);
3 - вопрос не входит в сферу тесно связанного с его узкой специ-
ализацией направления (например, знакомство с проблемой по литера-
турным источникам, по работе на другом предприятии и т. п.).
В целом показатель <относительная самооценка эксперта> направлен
на то, чтобы эксперт сам оценил уровень своей компетентности по
заданному вопросу.
Для того чтобы шкала баллов не оказывала влияния на самооценку,
в графе <относительная самооценка эксперта> можно привести перечень
характеристик компетентности экспертов без проставления баллов. В этом
случае эксперт должен подчеркнуть те характеристики, которые, по его
мнению, определяют уровень личной компетентности. Баллы проставля-
ются рабочей группой при анализе собранных анкет. Анкета для опреде-
ления компетентности экспертов приводится в табл. 5.2.
Произведение объективного и субъективного показателей, деленное
на сто, будет характеризовать компетентность эксперта по данному воп-
росу, т.е.
100
Деление на 100 нужно для приведения диапазона изменения йу к
виду 0 < Ау <_ 1. Тогда показатель компетентности эксперта можно трак-
товать как вероятность задания им достоверной оценки.
При неоднократном повторении опроса одним и тем же коллективом
экспертов (либо устойчивым большинством) по сходным вопросам можно
и необходимо на каждом новом опросе воспользоваться уже накопленны-
ми результатами для уточнения характеристик компетентности экспертов.
Кроме того, компетентность экспертов может быть определена сами-
ми экспертами. Для этого каждый эксперт, входящий в группу, задает ве-
совые коэффициенты всем остальным экспертам, кроме себя. Далее опре-
деляется среднеарифметическая оценка компетентности каждого эксперта.
Для отбора наиболее компетентных и добросовестных экспертов,
участников фокус-групп и других методов, основанных на использова-
нии ограниченного числа опрашиваемых, возможно использование так
называемых фильтрующих вопросов и вопросов-ловушек.
Например, при опросе торговых посредников о проблемах сбыта
конкретных товаров на определенной стадии опроса может быть введен
следующий фильтр: <Следующие вопросы относятся только к тем, кто
параллельно сбывает товары следующих фирм (указано - каких)>.
Вопросы-ловушки помогают выявить недостаточно компетентных
(недобросовестных) экспертов следующим образом. Скажем, в число
оцениваемых товаров включаются товар несуществующей марки. Лица,
оценившие данный товар, подозреваются в невнимательности или заве-
домой недобросовестности.
Таблица 5.2
Анкета для оценки компетентности эксперта
Объективмаяоценка - ПоСубъективная оценка1-Ьс
ЗанимаемаяБал-УровеньБал-Общий стажБал-Стаж работыБал-Степень участия вБал-
должностьлыобразованиялыработылыпо проблемелырешении даннойлы
проблемы
Руководитель10Доктор наук6Более 10 лет10Более 10 лет10Эксперт10
организацииспециализируется
по данному вопросу
Зам.8Кандидат наук4От 10 до 5 лет8От 10 до 5 лет8Эксперт участвует в8
руководителяпрактическом
решении данного
вопроса, но он не
входит в сферу его
узкой
специал изации
Руководитель6Высшее2Менее 5 лет6Менее 5 лет6Вопрос входит в6
подразделе-образованиесферу тесно
ниясвязанного с его
узкой
специализацией
направления
Зам.4Вопрос не входит в3
руководителясферу тесно
подразделе-связанного с его
нияузкой
специализацией
направления
296 Глава 5
Если экспертиза проводится неоднократно одной и той же группой]
(или устойчивым большинством) экспертов по сходным вопросам, сле-
дует при каждом новом опросе воспользоваться уже полученными ре-
зультатами для уточнения характеристик компетентности экспертов.
Практика экспертных опросов показывает, что, хотя методы само-
оценки недостаточны для того, чтобы служить единственным критерием
оценки компетентности экспертов, использование этих методов способ"!
ствует более обоснованным выбору и оценке экспертов. |
Получены данные, подтверждающие связь между средней группо-|
вой самооценкой (частное от деления суммы индивидуальных на число!
экспертов в группе) и точностью экспертизы [37]. На рис. 5.1 изображена)
кривая, показывающая зависимость между средней групповой самооцен-
кой (у) и средней групповой ошибкой (х).
1 В 1 С 3 А У
Рис. 5.1. Влияние средней групповой самооценки на точность экспертизы
Между этими величинами существует обратная связь, заключающа-
яся в том, что средняя групповая ошибка монотонно убывает с возра-
станием средней самоценки. Из этого вытекает следующий вывод. Пусть,
например, группа кандидатов в эксперты со средней оценкой С разделе-
на на две подгруппы, из которых подгруппа А имеет более высокую
самоценку, чем группа в целом, а подгруппа В - более низкую. Тогда
подгруппа А будет в среднем более точной, чем вся группа, а подгруппа
В- менее точной.
С другой стороны, различные подходы к оценке компетентносп
экспертов можно рассмотреть и с иных позиций. Экспертные оценки
носят субъективный характер, оценка компетентности экспертов - так-
же. Возникает вопрос: повышает ли точность результатов экспертизы
наложение субъективных оценок компетентности экспертов? Может был
проще определять окончательные оценки без формализованного учета
компетентности экспертов? Только при этом следует на этапе отбора
экспертов уделить больше внимания неформальной оценке уровня ш
квалификации, а затем, при подведении результатов экспертизы, счи-
тать их всех равнокомпетентными, и в качестве интегральной оценки
рассматривать среднеарифметическое их отдельных оценок. Часто на
практике поступают именно таким образом. |
Экспертные оценки 297
Г. Работа с экспертами
В зависимости от характера исследуемого объекта, от степени его
формализации и возможности привлечения необходимых экспертов по-
рядок работы с ними может быть различным, но в основном он содер-
жит следующие три этапа.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168