Методы экспертных оценок в социальной работе

Методы экспертных оценок в социальной работе

 

экспертная  оценка социальная работа

 

В современной  методологической литературе указывают, как правило, на существование трех основных методов сбора первичной  социологической информации. К ним  относят метод наблюдения, метод  анализа документов и метод опроса.

 

В комплексе  перечисленных социологических  методов в настоящее время  наиболее популярен опрос. Его специфика  состоит прежде всего в том, что источником первичной социологической информации является человек (респондент) - непосредственный участник исследуемых социальных процессов и явлений. В основе опросного метода лежит совокупность предлагаемых опрашиваемым вопросов, ответы на которые и образуют первичную информацию.

 

Обычно выделяют два больших класса опросных методов - анкетирование и интервьюирование, связанные с письменной или устной формой общения с респондентами. Существует, однако, еще одно специфическое  подразделение опросов, которое  далеко не всегда учитывается при  проведении социологического исследования, но настолько важное, что его следует  рассматривать особо как превосходящее  по значимости все прочие подразделения. Речь идет об обособлении массового  и экспертного опросов.

 

Опросы этих двух видов, как правило, включаются в исследование для решения различных  задач. Целью массового опроса является получение информации о знаниях, мнениях, ценностных ориентациях и  установках респондентов, отражающих их отношение к определенным событиям, явлениям действительности. Цель экспертного  опроса заключается в получении  информации о самих событиях и  явлениях действительности, отраженной в знаниях, мнениях и оценках  респондентов. Подобная информация может  исходить только от компетентных лиц - экспертов, имеющих глубокие знания о предмете или объекте исследования.

 

Наиболее  наглядно проявляется отличие экспертного  опроса от массового в прогнозировании.

 

Так, например, программа опроса экспертов не столь  детализирована и носит преимущественно  концептуальный характер. В ней прежде всего однозначно формулируется подлежащее прогнозу явление, предусматриваются в виде гипотез возможные варианты его исхода.

 

Основной  инструментарий экспертных опросов - анкета или бланк-интервью, разработанные по специальной программе. При его составлении некоторые технические и методические приемы, широко используемые в массовых опросах, теряют свое значение при опросе такой специфической аудитории, как эксперты. Так, например, нет никакой нужды применять в экспертной анкете косвенные или контрольные вопросы, тесты или какие-либо другие приемы, имеющие своей целью выявить "скрытые" позиции респондента. Более того, использование подобных приемов может нанести заметный ущерб качеству экспертной оценки. Эксперт в полном смысле этого слова - активный участник научного исследования, и попытка скрыть от него цель исследования, превратив, таким образом, в пассивный источник информации, чревато потерей его доверия к организаторам исследования.

 

Выявление экспертных оценок необходимо при анализе наиболее существенных аспектов исследуемой  проблемы, особенно в ситуациях дискуссионности  их трактовок или фактического отсутствия определенности в их осмыслении наукой. В таких случаях он выступает  в роли основного метода исследования, программа его проведения отражается в общей программе исследования. Если же данный метод играет вспомогательную  роль, добавляя информацию к полученной иными методами, то исследователи  обязаны составить особую (самостоятельную) программу его реализации. Главными ее компонентами будут формулировки, четко фиксирующие:

 

а) проблемную (дискуссионную, не решенную наукой) ситуацию,

 

б) терминологию экспертных оценок (путем операционализации общих понятий),

 

в) гипотезы, выносимые на экспертизу,

 

г) комплекс требований, на основе которых будет  производиться подбор экспертов (критерии их компетентности),

 

д) индикаторы, позволяющие измерять суждения экспертов,

 

е) инструментарий этих замеров и первичной обработки  данных,

 

ж)правила проведения и сценарий экспертизы, т.е. процедуры согласования и интегрирования оценок экспертов ( Причем это не те общие правила, которые используются социологами при количественном анализе данных исследования, не приемы математического и статистического анализа информации, а специальные процедуры).

 

Выделяют  следующие стадии проведения экспертного  опроса:

 

1) формулировка  цели экспертного опроса;

 

2) подбор  основного состава рабочей группы;

 

3) разработка  и утверждение технического задания  на проведение экспертного опроса;

 

4) разработка  подробного сценария проведения  сбора и анализа экспертных  мнений (оценок), включая как конкретный  вид экспертной информации (слова,  условные градации, числа, ранжировки, разбиения или иные виды объектов нечисловой природы) и конкретные методы анализа этой информации;

 

5) подбор  экспертов в соответствии с  их компетентностью;

 

6) формирование  экспертной комиссии;

 

7) проведение  сбора экспертной информации;

 

8) анализ  экспертной информации;

 

9) при наличии  нескольких туров - повторение  двух предыдущих этапов;

 

10) интерпретация  полученных результатов и подготовка  заключения.

 

Проблема  подбора экспертов является одной  из наиболее сложных. Очевидно, в качестве экспертов необходимо использовать тех людей, чьи суждения наиболее помогут принятию адекватного решения. Но как выделить, найти, подобрать таких людей? Надо прямо сказать, что нет методов подбора экспертов, наверняка обеспечивающих успех экспертизы.

 

Часто предлагают использовать методы взаимооценки и самооценки компетентности экспертов. С одной стороны, кто лучше может знать возможности эксперта, чем он сам? С другой стороны, при самооценке компетентности скорее оценивается степень самоуверенности эксперта, чем его реальная компетентность. Тем более, что само понятие "компетентность" строго не определено.

 

Наиболее  простая и удобная форма самооценки экспертов - совокупный индекс, рассчитанный на основании оценки экспертами своих  знаний, опыта и способностей по ранговой шкале с позициями “высокий”, “средний” и “низкий”. При этом первой позиции присваивается числовое значение “1”, второй - “0,5”, третий - “0”. Коэффицент уровня компетентности колеблется в интервале от 0 до 1. Обычно в группу экспертов принято включать тех, у кого индекс компетентности не менее среднего 0,5 и выше 1.

 

Метод коллективной оценки применяется для формирования группы экспертов в том случае, когда они имеют представление  друг о друге как специалисты. Такая ситуация характерна для учёных, творческих деятелей, политиков, экономистов.

 

При использовании  метода взаимооценки, помимо возможности проявления личностных и групповых симпатий и антипатий, играет роль неосведомленность экспертов о возможностях друг друга. В современных условиях достаточно хорошее знакомство с работами и возможностями друг друга может быть лишь у специалистов, много лет работающих совместно. Однако привлечение таких пар специалистов не очень-то целесообразно, поскольку они слишком похожи друг на друга.

 

Использование формальных показателей (должность, ученые степень и звание, стаж, число  публикаций), очевидно, может носить вспомогательный характер. Успешность участия в предыдущих экспертизах - хороший критерий для деятельности дегустатора, врача, судьи в спортивных соревнованиях, т.е. таких экспертов, которые участвуют в длинных  сериях однотипных экспертиз. Однако, увы, наиболее интересны и важны  уникальные экспертизы больших проектов, не имеющих аналогов.

 

В случае, если процедура экспертного опроса предполагает совместную работу экспертов, большое значение имеют их личностные качества. Ряд этих обстоятельств имеет психологическое свойство. Один "говорун" может парализовать деятельность всей комиссии. Эксперт с задатками лидера стремится к доминированию своих оценок, настаивая на них даже тогда, когда внутренне сомневается в их истинности. Человек конформистского склада ведет себя прямо противоположным образом, а конфликтогенный - склонен к оспариванию даже тех мнений других людей, с которыми по существу согласен. Большинству людей присуще смещать свои оценки в стороны нейтральной середины, а часть экспертов заинтересована в преднамеренном искажении информации. Все это, конечно, должно учитываться монитором. В подобных случаях важно соблюдение разработанного регламента работы.

 

Есть полезный метод "снежного кома", при котором  от каждого специалиста, привлекаемого  в качестве эксперта, получают несколько  фамилий тех, кто может быть экспертом  по рассматриваемой тематике. Процесс  расширения списка останавливается, когда  новые фамилии перестают встречаться. В результате получается достаточно обширный список возможных экспертов.

 

Необходимо  подчеркнуть, что подбор экспертов в конечном счете - функция Рабочей группы, и никакие методики подбора не снимают с нее ответственности. Другими словами, именно на Рабочей группе лежит ответственность за компетентность экспертов, за их принципиальную способность решить поставленную задачу

 

1. Понятийная  строгость, однозначность используемых  категорий, подготовка в сложных  случаях специальных словарей, растолковывающих  значение некоторых понятий, использование  ими всеми экспертами в ходе  экспертизы.

 

2. Четкое  определение цели, всех аспектов  экспертизы и каждого из них  в отдельности, их соответствие  исследовательским задачам и  гипотезам.

 

3. Тщательный  подбор экспертов на основе  продуманно сконструированной модели  идеального эксперта и критериев,  вытекающих из этой модели.

 

4. Соблюдение  правила оптимума численности  экспертов, т.е. учет того, что  ограничение состава экспертов  ведет к росту веса оценки  каждого эксперта, и расширение  их состава затрудняет интегрирование  экспертных оценок, (то и другое  увеличивает риск принятия монитором  ошибочных выводов).

 

5. Апробация  всего инструментария как экспертного опроса, так и последующих процедур сопоставления и согласования оценок экспертов.

 

6. Информационная  изоляция экспертов друг от  друга на первом этапе (туре) экспертного опроса.

 

7. Налаживание  теснейшего творческого взаимодействия  экспертов на последующих этапах  экспертизы (после установления  меры валидности полученных оценок).

 

8. Безупречное  знание монитором и практическое  применение им конкретных методик  интенсивного группового взаимодействия  экспертов на завершающем этапе  экспертизы.

 

Существует  масса методов получения экспертных оценок. В одних с каждым экспертом  работают отдельно, он даже не знает, кто  ещё является экспертом, а потому высказывает свое мнение независимо от авторитетов. В других экспертов  собирают вместе для подготовки материалов для ЛПР, при этом эксперты обсуждают  проблему друг с другом, учатся друг у друга, и неверные мнения отбрасываются. В одних методах число экспертов  фиксировано и таково, чтобы статистические методы проверки согласованности мнений и затем их усреднения позволяли  принимать обоснованные решения. В других - число экспертов растет в процессе проведения экспертизы, например, при использовании метода "снежного кома".

 

Основные  проблемы экспертных оценок

 

Что должна представить  экспертная комиссия в результате своей  работы - информацию для принятия решения  или проект самого решения? От ответа на этот методологический вопрос зависит  организация работы экспертной комиссии.

 

Если целью  является сбор информации для принятия решения, то Рабочая группа должна собрать возможно больше относящейся к делу информации, аргументов "за" и "против" определенных вариантов решений. Полезен метод постепенного увеличения числа экспертов: сначала первый эксперт приводит свои соображения по рассматриваемому вопросу. Составленный им материал передается второму эксперту, который добавляет свои аргументы. Накопленный материал поступает к следующему - третьему - эксперту... Процедура заканчивается , когда иссякает поток новых соображений.

 

Отметим, что  эксперты в рассматриваемом методе только поставляют информацию, аргументы "за" и "против", но не вырабатывают согласованного проекта решения. Нет  никакой необходимости стремиться к тому, чтобы экспертные мнения были согласованы между собой. Более того, наибольшую пользу приносят эксперты с мышлением, отклоняющимся от массового, поскольку именно от них следует ожидать наиболее оригинальных аргументов.

 

Если целью  является подготовка проекта решения, то обычно применяются математические методы в экспертных оценках. При  этом зачастую некритически принимают  догмы согласованности и одномерности.

 

· Догма согласованности.

 

Считается, что  решение может быть принято лишь на основе согласованных мнений экспертов. Поэтому исключают из экспертной группы тех, чье мнение отличается от мнения большинства. При этом отсеиваются  как неквалифицированные лица, попавшие в состав экспертной комиссии по недоразумению  или по соображениям, не имеющим  отношения к их профессиональному  уровню, так и наиболее оригинальные мыслители, глубже проникшие в проблему, чем большинство. Следовало бы выяснить их аргументы, предоставить им возможность  для обоснования их точек зрения. Вместо этого их мнением пренебрегают.

 

· Догма одномерности.

 

Распространен довольно примитивный подход так  называемой "квалиметрии", согласно которому объект всегда можно оценить  одним числом. Оценивать человека одним числом приходило в голову лишь на невольничьих рынках. Вряд ли даже самые рьяные квалиметристы рассматривают книгу или картину как эквивалент её "рыночной стоимости".

 

Каждый объект можно оценивать по многим показателям  качества. Например, легковой автомобиль можно оценивать по таким показателям: