Критерии, используемые при формировании оценочной системы, должны быть измеримыми, т. е. должна иметься возможность оценки любого рассматриваемого объекта экспертизы по каждому из критериев.
В тех случаях, когда критерий, характеризующий объект, не может быть измерен объективно, мы говорим о субъективных критериях, имея в виду прежде всего, что для оценки объектов по таким критериям отсутствуют объективные критерии и необходима разработка специальных вербально - числовых шкал.
Естественно, что такие критерии, как "объем продукции", "себестоимость производства", "срок окупаемости", могут быть отнесены к объективным. В то же время такие критерии, как "гудвилл", связанный с оценкой интеллектуальной собственности, "имидж фирмы", "социальная значимость проекта" и другие, могут быть измерены лишь субъективно.
Многие из объективных критериев, относящихся к будущим периодам, нередко также могут быть оценены лишь субъективно. Так, например, ожидаемые объемы производства продукции, которые станут возможными после реализации проекта, ожидаемая цена единицы продукции и др. часто во многом зависят от оценок экспертов, являющихся в строгом смысле слова субъективными.
Поэтому так необходим профессионализм при организации и проведении процесса экспертного оценивания, анализе и обработке результатов экспертных оценок, используемых при выработке и принятии управленческих решений.
Но первым шагом в процессе экспертного оценивания является формирование адекватной оценочной системы.
Мы обсудили некоторые требования, предъявляемые к совокупности критериев, включаемых в состав оценочной системы.
Практическое формирование перечня критериев также представляет собой в значительной степени экспертную процедуру. Это могут быть 2-3-туровые экспертизы, когда предварительно сформулированный перечень критериев уточняется экспертами.
При формировании совокупности критериев должно быть обращено внимание на такие моменты, как четкое понимание смысла каждого из критериев ЛПР и экспертами.
Иногда целесообразно агрегирование критериев. Этим может быть достигнуто как снижение избыточности критериев, особенно в случае, когда имеется частичное дублирование критериев, так и общее уменьшение количества критериев, что важно для снижения трудоемкости работы с оценочной системой.
2. 3. Количественные и качественные экспертные оценки
Остановимся теперь на основных способах экспертных измерений - методах получения экспертных оценок, играющих во многих случаях определяющую роль при принятии важных управленческих решений.
Методы получения количественных экспертных оценок
1. Непосредственная количественная оценка
Непосредственная количественная оценка используется как в случае, когда надо определить значение показателя, измеряемого количественно, так и в случае, когда надо оценить степень сравнительной предпочтительности различных объектов.
В первом случае каждый из экспертов непосредственно указывает значение показателя для оцениваемого объекта. Это может быть конкретное численное значение показателя для оцениваемого объекта, например стоимость жилой квартиры; цена единицы продукции, при которой она может иметь конкурентоспособный спрос; предполагаемая емкость рынка; оптимальный объем производства и т. д.
Если эксперт затрудняется указать конкретное значение показателя, он может указать диапазон, в котором лежит значение оцениваемого показателя.
Во втором случае, когда оценивается сравнительная предпочтительность объектов по тому или иному показателю, количественная оценка, указываемая экспертом, определяет степень их сравнительной предпочтительности.
Заранее необходимо условиться, что, скажем, большее значение оценки соответствует более предпочтительному альтернативному варианту. Иногда количественную оценку сравнительной предпочтительности объектов целесообразнее производить в баллах, используя специально разработанные балльные шкалы.
2. Метод средней точки
Метод используется, когда альтернативных вариантов достаточно много. Если через f(a1) обозначим оценку первого альтернативного варианта значения показателя, относительно которого определяется сравнительная предпочтительность объектов, через f(a2) - оценку второго альтернативного варианта, то далее эксперту предлагается подобрать третий альтернативный вариант a3, оценка которого f(a3) расположена в середине между значениями f(a1) и f(a2) и равна f(a1) + f(a2)/2.
При этом в качестве первого и второго альтернативных вариантов целесообразно выбирать наименее и наиболее предпочтительные альтернативные варианты.
Далее эксперт указывает альтернативный вариант a4, значение которого f(a4) расположено посередине между f(a1) и f(a3), и альтернативный вариант a5, значение которого f(a5) расположено посередине между значениями f(a1) и f(a4).
Процедура завершается, когда определяется сравнительная предпочтительность всех участвующих в экспертизе альтернативных вариантов.
3. Метод Черчмена - Акофа
Метод Черчмена - Акофа используется при количественной оценке сравнительной предпочтительности альтернативных вариантов и допускает корректировку оценок, даваемых экспертами.
В методе предполагается, что оценки альтернативных вариантов - неотрицательные числа, что если альтернативный вариант a1 предпочтительнее альтернативного варианта а2, то f(a1) больше, чем f(a2), а оценка одновременной реализации альтернативных вариантов a1 и а2 равняется f(a1) + f(a2)).
Все альтернативные варианты ранжируются по предпочтительности, и каждому из них эксперт назначает количественные оценки, как правило, в долях единицы.
4. Метод лотерей
Согласно этому методу, для любой тройки альтернативных вариантов а1, а2, а3, упорядоченных в порядке убывания предпочтительности, эксперт указывает такую вероятность p, при которой альтернативный вариант а2 равноценен лотерее, при которой альтернативный вариант a1 встречается с вероятностью р, а альтернативный вариант а3 - с вероятностью 1 - р.
Методы получения качественных экспертных оценок
Иногда специфика объектов экспертного оценивания такова, что эксперты затрудняются дать количественные оценки значений оцениваемых показателей либо объекта в целом, а в некоторых случаях такие оценки попросту неоправданны и не позволяют получить достаточно надежную экспертную информацию.
1. Экспертная классификация
Этот метод целесообразно использовать, когда необходимо определить принадлежность оцениваемых альтернативных вариантов к установленным и принятым к использованию классам, категориям, уровням, сортам и т. д. (далее - классы).
Он может быть использован и тогда, когда конкретные классы, к которым должны быть отнесены оцениваемые объекты, заранее не определены. Может быть заранее не определено и число классов, на которое производится разбиение оцениваемых объектов. Оно может быть установлено лишь после завершения процедуры классификации.
Количественное исследование
Отвечает на вопросы «кто» и «сколько»
Предназначены для изучения объективных, количественно измеряемых характеристик поведения людей. Преимущественно они бывают описательными. Обработка информации осуществляется с помощью упорядоченных процедур, методами математической статистики. К выборке предъявляются жесткие требования, базирующиеся на теории вероятности и математической статистике. Это процесс доказательства и подтверждения. Связано с объективным, количественно измеряемым поведением и установками людей.
Аспекты применения
Количественное исследование позволяет зафиксировать уже сложившиеся в массовом сознании стереотипы, сформировавшееся мнение.
Задачи количественного исследования
ü дать описание процесса (ситуации на рынке, состояния спроса, потребительского поведения)
ü оценить уровень известности фирмы, марки
ü провести процедуру сегментирования потребителей
ü установить долю рынка производителя
ü установить частоту и характер потребления продукта
Качественно исследование
Отвечает на вопрос «как» и «почему»
Предназначено для получения с помощью специальных техник глубинной информации. Качественное исследование можно назвать интерпретационным. Позволяет получить информацию о мотивах поведения, установках людей, их отношении к чему-либо, дают представление об образе мыслей. Требования к выборке не такие жесткие. Это процесс открытия. Связано с эмоциональным аспектом ответов респондентов.
Аспекты применения
Позволяет зафиксировать еще не сложившиеся в массовом сознании стереотипы, получить информацию в момент ее зарождения в сознании отдельных потребителей, которая может стать впоследствии массовой.
Задачи качественного исследования
ü разработка нового продукта
ü исследования бренда
ü изучение представлений целевых групп о продукте
ü изучение незнакомого для потребителя продукта
ü изучения незнакомого типа поведения
Сопоставление количественных и качественных методов исследования
| Основание сравнения | Количественные | Качественные |
| Цель применения | Дать объявление причин изучаемого | Понять изучаемое явление |
| Исследовательские задачи | ü Измерить параметры явления ü Установить взаимосвязи между отдельными параметрами | ü Выявить общую картину явления ü Концептуализировать и интерпретировать явление, изучить мотив |
| Позиция исследователя | «Сторонний наблюдатель» | «Сочувствующий» участник |
| В центре внимания исследователя | ü Объективные факторы ü Общие соц. процессы | ü Субъективные факторы ü Особенные, частные |
| Гипотезы формулируются | До начала сбора данных | По мере овладения данными |
| Исследовательские интересы | Разрабатываются до полевого этапа. Формализованы, стандартизированы | Разрабатывается до и во время полевого этапа. Неформализованы, нестандартизированы |
| Единицы анализа | Факты, события, высказывания, акты поведения | Субъективные значения фактов для индивида |
| Представление данных | Статистическое распределение, индексы, шкалы | Высказывания, стенограммы, интеллектуальный продукт |
Различия между количественным и качественным исследованиями
1. Качественное
ü Обеспечивает глубину.
ü Отвечает на вопрос «Почему»
ü Изучает мотивацию
ü Субъективно
ü Генерирует новые идеи
ü Разведывательное
ü Позволяет понять поведение
ü Интерпретирует
2. Количественное
ü Измеряет количество
ü Отвечает на вопрос «Кто»
ü Изучает действие
ü Объективно
ü Обеспечивает подтверждение
ü Описательное
ü Измеряет количество действий
ü Описывает
Качественные методы
ü Наблюдение
ü Фокус-группа
ü Глубинное интервью
ü Анализ протокола
ü Опрос (личный, телефонный, почтовый, панельный, экспертный, on-line)
ü Retail-audit (ретейл-аудит)
Mix-методики (количественно-качественные)
ü Hall-тест
ü Home-тест
ü Mystery shopping
PS: Количественные и качественные методы нельзя противопоставлять, они дополняют друг друга.
11.Mix-методики. Количественно-качественные исследования.
Холл тест:
Позволяет получить информацию о восприятии потребителями продукта, его свойств и понять их реакцию на продукт. Особенностью этого метода – возможность получения ответа не только на вопрос сколько, но и на вопрос почему. Поэтому он сочетает в себе преимущества как количественного, так и качественного исследования. Формат позволяет задавать не только закрытые, но и открытые вопросы. Поэтому можно получить не только оценку товара или продукта, но и причины по которым к товару или продукту так относятся и в тех категориях, в которых мыслит потребитель. Результаты холл теста всегда выступают основой для выработки рекомендаций по изменению определенных свойств продукта и его позиционирование на рынке.
Холл тест решает следующие исследовательские задачи:
4. Определение критерия выбора продукта (мотивы и потребности)
5. Изучение отношения представителей целевой аудитории к представленным на рынке маркам продукта
6. Оценка нового продукта и определение свободных ниш при выводе продукта на рынок.
В качестве характеристик, которые исследуются с помощью этого метода, выступают:
1. Свойства продукта.
3. Упаковка (дизайн, название, логотип, цветовое решение…).
Этапы проведения холл теста:
1. Отбор представителей целевой аудитории
3. Анализ полученных результатов.
Отличительной чертой холл теста, является то, что с его помощью можно изучать труднодостижимые целевые группы. А также получать количественные оценки визуальной, слуховой, обонятельной, осязательной и вкусовой информации.
Нужно обратить внимание на труднодостижимые группы (богатые).
Методика:
Потребителей приглашают в помещение, которое находится на выставках, ярмарках…
Выборка: Важна по объему, объем должен быть от 100 до 400 человек. Отбор реальных или потенциальных потребителей производится по заданным характеристикам.
Критерии отбора потребителей:
1. Частота потребления продукта
2. Объемы потребления
3. Социально-демографические
Есть два способа отбора респондентов:
1. Предварительный отбор (прирекрут) – заранее договариваются о месте и времени встречи
2. Отбор во время проведения холл – теста.
Хоум тест:
Используют для решения задач позиционированию нового товара, относящегося к определенной товарной группе. Метод позволяет выявить недостатки преимущества товара по сравнению с аналогами других производителей. Определить оптимальную цену товара, название и другие характеристики.
Преимущества : является то, что тестирование товара происходит в тех же условиях в которых они используются в реальной жизни.
Хоум тест позволяет руководителю избежать ошибок до вывода товара на рынок, так как моделирование реального потребления дает возможность определить рыночный потенциал нового товара и предложить эффективную товарно-сбытовую и рекламную программу.
Описание методики: каждому участнику предлагают протестировать (за счет производителя) в домашних условиях обезличенный продукт или группу продуктов. Через какое-то время (минимум 2 максимум 4 недели) участник отвечает на вопросы анкеты, характеризующие его отношение к протестированному продукту. Сравнивает с аналогами и дает оценку приемлемого ценового диапазона.
Выборка: объем от 100 до 400 человек, а также объем определяется долей выборки в генеральной совокупности.
Технология Mystery Shopping (Тайный Покупатель) - это использование специально подготовленных покупателей для анонимной оценки качества обслуживания потребителей, работы персонала, его честности, проверки выполнения стандартов мерчандайзинга, качества продуктов и услуг + секретность и неожиданность проверки
Mystery Shopping (Тайный Покупатель) может работать в разных формах:
ü Личная покупка в торговой точке
ü Покупка/заказ по телефону
ü Покупка/заказ через Интернет
ü Скрытая видео/аудио запись
ü Покупка с возвратом
Этапы проекта:
ü Определение целей и задач
ü Подготовка анкеты
ü Подбор Покупателей
ü Сбор данных
ü Обработка данных и отчет
ü Анализ результатов, следующие шаги
Потребность возникает:
ü Если предприятие не удовлетворено деятельностью продавцов
ü Если конкуренты продают больше
ü Подозрение в недобросовестности сотрудников
Решаемые задачи:
ü Оценить качество обслуживаемого клиента, выявить сильные и слабые стороны
ü Оценить знания персонала о реализуемых товарах, качество и отношение к клиентам покупателям
ü Оценить четкость и лояльность персонала в компании. Можно контролировать уровень выполнения персоналом правил и стандартов и стимулирования продаж.
Выборка: к расчету необходимого числа визитов или звонков применяют все классические требования статистического расчета выборки.
Показатели, используемые для методики тайный покупатель:
1. Общее восприятие торгового зала:
ü Насколько чисто в торговом зале?
ü Есть ли просроченные продукты?
ü Насколько удобно движение по залу?
2. Отношение к покупателю:
ü Насколько персонал дружелюбен и внимателен?
ü Сколько нужно ждать, чтобы тебя обслужили?
ü Насколько хорошо персонал консультирует покупателя?
3. Оценка профессиональных качеств персонала:
ü Насколько продавцы осведомлены о товарах, которые продают?
ü Могут ли быстро и четко ответить на вопросы о товаре?
4. Понимание нужд покупателя:
ü Насколько хорошо продавец понимает потребность клиента?
ü Какие потребности покупателя не могут быть удовлетворены?
ü Не пытается ли продавец в первую очередь продать дорогие товары?
ü Какие буклеты, по каким торговым маркам имеются в торговом зале?
6. Эффективность системы информирования покупателей:
ü Какие методы информирования покупателей имеются?
ü Сообщают ли они полезную информацию?
12.Процедура маркетингового исследования. Характеристика этапов.
1.Формулирование целей исследования
2.Постановка задач Разработка концепции исследования
3.Формулирование рабочих гипотез
4.Определенная системы показателей
5.Отбор источников информации Этап получения эмпирических данных
6.Сбор информации
7.Обработка данных Анализ полученных данных
8.Анализ полученных результатов
9.Прогнозирование
11.Оформление отчета и презентация результатов исследования Этап предоставления
полученных результатов
Разработка концепции начинается с обоснования целесообразности проведения. Это обоснование важно т.к. дает возможность обосновать затраты на получение информации и помогает понимать существование самой проблемы, как управляющим так и маркетологам.
Случаи, когда целесообразно отказаться от проведения исследований:
ü если маркетинговую проблему не удается четко определить. Это бывает когда управляющие и маркетолог не могут достичь достаточного уровня взаимопонимания.
ü если маркетолог считает, что он обладает достаточным объемом информации, необходимой для исследования. Такая ситуация может возникнуть при смене руководства.
ü если исследование может привести к утечке информации к конкурентам
ü если затраты на исследование превышают его эффект
ü если бюджет не позволяет провести исследования в нужном объеме
ü если результаты исследования никак не повлияют на действия управляющих
13.Назначение маркетингового отчёта.
Отчет – итоговый документ и заключительный этап маркетинговой исследования; непосредственное свидетельство и доказательство проделанной работы.
Отчет влияет на использование информации, полученной в ходе исследования, он должен информировать, а не дезинформировать. В обязанности составляющего отчет маркетолога входит доведение до сведения управляющих информации об используемых методах исследования, слабых и сильных сторонах аналитического аппарата и диапазоне возможных ошибок.
Показатели эффективности работы маркетолога оцениваются правильностью и грамотностью составленного отчета. Отчет демонстрирует навыки маркетолога в доходчивой форме передать управляющим информацию, с помощью которой можно повышать качество принимаемых маркетинговой решений.
Критерии оценки отчета:
1) полнота – достаточность объема маркетинговой информации в соответствии с поставленной целью исследования
2) точность, т.е. качество, выражающее степень согласованности представленной информации с практическими решениями
3) ясность – четкость и лаконичность представления информации
4) выразительность.
Факторы, оказывающие влияние на качество подготовленного отчета:
ü степени внимания руководства к цели исследования
ü уровень сложности стоящих перед маркетологом задач
ü опыт и квалификация маркетолога
ü наличие программного обеспечения.
Формы представления отчета: письменный, устный, презентация.
Письменный отчет - готовится в 2 вариантах, сокращенном и полном. Сокращенный – для управляющих, содержит основные результаты и выводы, а полный – для отдела маркетинга, хранится в архивах отдела.
Структура полного отчета:
1. Титульный лист (тема исследования, место и время проведения, заказчик, исполнитель)
3. Введение
ü описание проблемы с обоснованием
ü постановка задач
ü рабочие гипотезы
ü описание выборочной модели
ü ограничения и предостережения
4. Основная часть – интерпретация полученных результатов, методология исследования (характеристика этапов исследования, описание методов исследования, ответы на вопросы технического задания, перечень результатов, которые будут положены в основу принятия управленческих решений).
6. Приложения – инструментарий (анкета, гайд), вся цифровая информация, сопровождающая информация, техническое задание, графики и диаграммы.
При написании текста отчета следует придерживаться лаконичного стиля изложения, насколько это возможно – избегать узкоспециализированных терминов и профессионального жаргона. Отчет пишется не для коллег-маркетологов, а для управляющих.
Устный отчет – не доказательство проведения исследования, это изложение фактов с большой точностью.
Необходимо:
1) подготовить текст доклада в соответствии с целью исследования и логикой построения письм. отчета
2) знать аудиторию, для которой вы готовите текст, понимать ее требования и заинтересованность в результатах
3) всегда быть готовым к вопросам и уметь предчувствовать, какие могут быть заданы
4) подготовить демонстрационный материал
Представление устного отчета регламентируется следующим:
1) лимит отведенного времени
2) время на вопросы (вопросы нужно использовать для доработки письм. отчета)
Любые изменения в условиях или результатах деятельности организации (промышленного предприятия, торговой фирмы или банка), связанные с той или иной альтернативой управленческого решения, можно определить только тогда, когда существуют соответствующие показатели, которые можно измерить. Но речь идет не только о количественных измерениях в привычном для нас понимании, но и о качественных оценках, позволяющих судить о динамике происходящих изменений. Поэтому, говоря об оценках экспертов, мы понимаем под ними количественные или качественные измерения соответствующих показателей.
В зависимости от целей экспертизы, эксперты могут оценивать стоимость недвижимости, ожидаемый уровень инфляции, изменения валютного курса, надежность эмитента ценной бумаги, рейтинг банка и т.д. Объекты оценки и оцениваемые показатели весьма разнообразны. Если при этом эксперт должен измерить значение количественного показателя (дать количественную оценку), он может указать конкретное числовое значение или интервал, в котором оно лежит. Если же эксперт должен определить значение показателя, который может быть оценен только качественно (дать качественную оценку), то он может использовать для этого вербально-числовые шкалы.
Итак, экспертная информация может носить как количественный, так и качественный характер. Рассмотрим наиболее распространенные методы ее измерения отдельно для каждого из этих двух случаев.
Методы получения количественных экспертных оценок
Непосредственная количественная оценка. Эксперт непосредственно указывает числовое значение показателя для оцениваемого объекта (альтернативы), например, стоимость квартиры или земельного участка, предполагаемую емкость рынка и т.п. Если конкретное значение показателя указать трудно, эксперт может определить диапазон, в котором находится это значение.
Метод средней точки. Этот метод используется, когда альтернативных вариантов, требующих оценки, достаточно много. В начале эксперт количественно оценивает наиболее предпочтительную альтернативу - f(а1) и наименее предпочтительную - f(а2). Далее он должен подобрать третий альтернативный вариант а3, оценка которого f(а3) расположена в середине между значениями f(a1) и f(a2) и равна половине их суммы. Затем экспертом определяется оценка альтернативы а4, значение которой - f(а4) - расположено посередине между значениями f(а1) и f(а3), и альтернативы а5 - f(а5), значение которой является средним значением между f(а3) и f(а4), и так далее до тех пор, пока не будет дана оценка всех сравниваемых альтернатив.
Методы получения качественных экспертных оценок
Метод экспертной классификации. Этот метод целесообразно использовать, когда необходимо определить принадлежность оцениваемых альтернатив к установленным и принятым классам, категориям, уровням, сортам и т.п., например, оценка дегустаторами сортов чая или определение категории отеля. Если классы установлены заранее, то эксперту последовательно предъявляют альтернативные варианты и тот определяет, к какому классу принадлежит данная альтернатива. Если же классы не установлены, то эксперту предъявляют альтернативные варианты парами и просят определить, относятся они к одному классу или к разным. После чего альтернативы предлагаются для оценки последовательно, и выясняется, можно ли каждую из них отнести к одному из образовавшихся классов, или для нее надо образовать новый класс. Процедура повторяется до тех пор, пока не будут оценены (расклассифицированы) все альтернативы.
Метод ранжирования альтернатив. Сущность этого метода заключается в упорядочивании сравниваемых альтернатив по степени предпочтительности определенного признака. Если таких альтернатив сравнительно немного (не более 20), то эксперту предъявляется весь набор альтернативных вариантов, и он указывает наиболее предпочтительный среди них. Затем эксперт определяет наиболее предпочтительный вариант из оставшихся. И так далее, пока все оцениваемые альтернативы не будут проранжированы. Если же оцениваемых вариантов больше, то сначала производится их разбиение на упорядоченные по предпочтению группы с помощью метода экспертной классификации, а затем ранжирование внутри каждой группы.
Метод экспертных кривых. Этот метод применяется, когда целью экспертизы является разработка прогнозов на основе анализа динамики изменения показателей, характеризующих объект экспертизы, например, темпов роста ВВП, инфляции, уровня безработицы и т.п. Использование данного метода предполагает построение на основе имеющихся статистических данных графика, отображающего тенденцию динамики анализируемого показателя. Затем, при помощи экстраполяции, эта тенденция продолжается в будущее, что дает возможность оценить значение данного показателя в прогнозируемом периоде. Однако использование экстраполяции может привести к существенным ошибкам, т.к. не учитывает возможность качественных изменений, приводящих к смене тенденции. Поэтому далее, на основе обобщенного мнения экспертов, на графике определяются точки, в которых следует ожидать смены тенденции изменения оцениваемого показателя, что позволяет наглядно представить возможные альтернативные сценарии развития ситуации.
Двум рассмотренным выше группам методов получения экспертных оценок соответствуют и два типа шкал:
шкалы количественных измерений;
шкалы качественных измерений.
Количественные шкалы
Абсолютная шкала. Если требуется определить количество мест в аудитории или количество работников, необходимых для выполнения определенной операции, то число, являющееся результатом подобных измерений, определяется однозначно и является единственным. В этом и заключается особенность абсолютной шкалы.
Шкала отношений. Предполагает возможность производить измерения в различных системах единиц. Так, например, если оценивать массу предмета в килограммах, получим одно числовое значение, в фунтах - другое и т.д. Однако какой бы системой измерений ни пользоваться, отношение масс любых двух предметов будет одинаково и при переходе от одной системы к другой не меняется. То же самое наблюдается и при измерении длины предметов. Это типичные примеры шкалы отношений, в которых отношения числовых оценок остаются неизменными.
Шкала интервалов. В шкале интервалов при переходе от одной системы измерений к другой отношения числовых значений оцениваемых альтернатив не сохраняются, однако сохраняется отношение разностей числовых оценок. Примером измерений в шкале интервалов является определение температуры, которую, как известно, можно измерять по разным шкалам: Цельсия, Фаренгейта и т.д. Каждый раз мы будем получать разные числа, т.к. в различных шкалах используются различные точки начала отсчета и различные единицы масштаба измерений. Но эти разные числовые оценки соответствуют одной и той же температуре объекта.
Шкала разностей. Если при переходе от одной числовой системы измерений к другой меняется лишь точка начала отсчета, такие шкалы называются шкалами разностей. Примером количественных оценок в шкале разностей являются системы летоисчисления, отличающиеся точкой начала отсчета (от рождества Христова, от сотворения мира или от переселения пророка Мохаммеда из Мекки в Медину).
Качественные измерения являются гораздо менее строгими, они носят субъективный характер и для них используются другие типы шкал, основными из которых являются следующие.
Качественные шкалы
Номинальная шкала (шкала наименований). Суть измерений оцениваемых альтернатив в этой шкале - разбиение их на классы по определенному признаку. Всем альтернативам, попавшим в один класс, должно соответствовать одно и то же число. Примерами измерений в номинальных шкалах может служить разбиение студентов одного курса на группы, разделение изделий по уровням качества (сортам) и т.д.
Порядковая шкала. Эта шкала используется для ранжирования, т.е. определения порядка предпочтения альтернатив, выраженности того или иного свойства, например важности, срочности и т.п.
Довольно часто в ходе экспертизы возникает необходимость измерения показателей, оценки которых носят заведомо субъективный характер. Так, например, на знаниях и опыте специалистов основаны оценки степени риска при реализации того или иного инвестиционного проекта, конкурентоспособности определенного вида продукции, уровня компетентности кандидата на вакантную должность и т.п. В этих случаях используют особый тип порядковых шкал - вербально-числовые шкалы. Их особенность как раз и состоит в том, что они позволяют измерить степень интенсивности какого-либо свойства, имеющего субъективный характер. В состав вербально-числовой шкалы входят содержательное (словесное) описание выделенных градаций и соответствующие им (градациям) числовые значения.
Наиболее известна широко применяемая на практике шкала Харрингтона, показанная в табл. 6.1.
Таблица 6.1.
Шкала Харрингтона
Приведенные в таблице числовые значения получены на основе статистического анализа большого массива данных, благодаря чему шкала Харрингтона имеет универсальное применение и может в соответствующих модификациях (например, в виде шкалы баллов) использоваться для оценки различных показателей качественного характера.
Подводя итоги изучения экспертных методов, следует отметить, что их значение состоит в том, что они усиливают элемент коллегиальности в процессе принятия сложных решений и, используя интуицию и коллективную генерацию идей, позволяют находить новые, оригинальные решения проблем, к которым нельзя прийти с помощью только логических рассуждений.
В то же время между всеми рассмотренными способами разработки и обоснования решений (методами моделирования и экспертными методами) на практике довольно трудно установить четкие границы, т.к. разрешение комплексных проблем современного менеджмента требует и комплексного использования различных логических, статистических, математических и эвристических приемов. Поэтому не какая-то одна, а преобладающая группа способов и формирует тот или иной метод. Области применения методов принятия решений зависят, в основном, от характера решаемых проблем и условий принятия решений, что отражено на рис. 6.1.
Выводы
Сущность экспертных методов принятия решений заключается в получении ответов специалистов на заранее поставленные перед ними вопросы, обработке полученной информации с помощью специальных логических и математических процедур и преобразовании ее в форму, удобную для выбора наиболее предпочтительной альтернативы решения.
Среди методов экспертных оценок (различающихся процедурой организации экспертизы) основными являются метод комиссий, метод мозговой атаки, метод Дельфи и метод разработки сценариев.
В процессе формирования экспертной комиссии возникает проблема оценки качеств эксперта - необходимость учитывать его профессиональные знания, опыт деятельности и результаты работы в предшествующих экспертизах.
Способы оценки качеств эксперта делятся на три группы: априорные (не учитывающие эффективность его участия в предыдущих экспертизах); апостериорные (основанные на реальных результатах участия специалиста в проведении экспертиз) и тестовые (предполагающие проведение специального испытания для потенциального эксперта).
Экспертная информация может носить как количественный, так и качественный характер. Для получения количественных оценок основными методами являются метод непосредственной количественной оценки и метод средней точки. Для получения качественных оценок используются экспертная классификация, ранжирование альтернатив и метод экспертных кривых. Этим двум группам методов получения экспертных оценок соответствуют и два типа шкал: шкалы количественных измерений и шкалы качественных измерений.
Вопросы для самопроверки
Что включает в себя понятие априорные методы оценки эксперта?
В каких случаях принято использовать апостериорные методы оценки?
Каковы условия применения тестовых методов оценки качеств эксперта?
В чем различие количественных и качественных экспертных оценок?
По каким параметрам строятся качественные шкалы?
Методы измерения и оценки личностного и профессионального развития
План
1. Количественные и качественные измерения.
2. Основные направления измерения личностного и профессионального развития.
3. Противоречия личностного и профессионального развития.
4. Личностное и профессиональное развитие и его мониторинг
Ключевые слова: качественная оценка, количественное измерение, личностное развитие, профессиональное развитие, мониторинг.
– качественная оценка предполагает нечисловую (даваемую на уровне измерений наименования или порядка) оценку значимых личностных и профессиональных качеств;
– количественное измерение производится на основе разработки специальных числовых шкал (на уровне измерений интервалов или отношений) для оценки выраженности значимых личностных и профессиональных качеств;
– личностное развитие в узком смысле – это актуально достигнутый уровень выраженности значимых качеств личности как целостного системного образования. При этом для различных практических задач значимыми оказываются различные по своей обобщенности и уровню качества личности; в широком смысле динамика изменения значимых личностных качеств в различной временной перспективе. Методически для изучения личностного развития в широком смысле чаще всего используется процедура мониторинга личностного развития;
– профессиональное развитие – в узком смысле – это актуальный уровень выраженности качеств личности, существенно связанных с ее профессиональной успешностью; в широком смысле – это изменение за определенный промежуток времени (например, между двумя аттестациями) качеств личности, связанных с профессиональной успешностью. Для оценки такого развития может применяться процедура мониторинга профессионального развития;
– мониторинг представляет собой систематическую процедуру сопоставимого измерения уровня выраженности значимых личностных и профессиональных качеств, производимую через регулярные интервалы времени. Он позволяет оценить динамику изменения оцениваемых качеств.
Количественные и качественные измерения
Качественная оценка и количественное измерение в психологических исследованиях и практических приложениях с формальной точки зрения могут рассматриваться как частные случаи более общей процедуры измерения. В первом приближении, приписывание числовых значений для представления свойств можно назвать измерением . В результате измерения, в каждом конкретном случае с измеряемым свойством ассоциируется числовое значение. Однако такое приписывание не является произвольным. Необходимо, чтобы отношения между числовыми значениями соответствовали тем отношениям, которые реально существуют между измеряемыми ими аспектами объекта измерения. Для удобства исследователей принято выделять четыре типа такого рода соответствий, которые получили название уровней измерения. Различают следующие уровни измерения (или шкалы для измерений):
Наименований (номинальный);
Порядковый (ординвальный);
Интервальный;
Отношений.
Первые два уровня измерения традиционно рассматривают как качественную оценку, а последние два в совокупности образуют то, что называется количественным измерением свойств.
Чем выше уровень, тем большим набором "полезных" для исследователя и практика свойств обладает соответствующая измерительная шкала. С этой точки зрения самым низким уровнем измерения является номинальный, а самым высоким – уровень отношений. Традиционно развитие измерительных средств (например, шкал в психологических тестах) идет от простого к сложному. В терминах уровней измерения это означает, что от первоначального создания измерительных инструментов, работающих на номинальном уровне происходит последовательный переход, по мере познания особенностей изучаемых свойств и их связей с другими свойствами, сначала к порядковому уровню измерения, а затем к количественному уровню измерения, воплощенному в балльных шкалах. На практике этой тенденции противостоит постоянно растущая сложность измерительных методик, приводящая к росту стоимости их использования и повышению требований к специалистам применяющим их.
Рассмотрим подробнее особенности представленных выше уровней измерения и конкретные примеры их использования для оценки личностных и профессиональных качеств работников.
Номинальное измерение формализует процедуру классификации, но при этом обладает самым маленьким набором полезных свойств, давая лишь набор дискретных категорий, позволяющих разграничивать разные объекты.
Наиболее простые примеры номинального уровня измерений связаны с полом, национальностью, партийной принадлежностью оцениваемого лица.
В целях оценки кадров достаточно широко применяется матричный метод, предполагающий сопоставление, например, набора реальных и требуемых качеств. Результат такого сопоставления является номинальным по уровню измерения и содержит оценки "соответствует – не соответствует". Отметим, что существуют и более сложные варианты этого метода, позволяющие получить количественные оценки работников.
Метод выполнения - методика, предусматривающая качественное описание того, что сделал работник за определенный период. Она же позволяет получить оценку деятельности на номинальном уровне (в терминах "сделал – не сделал"). Кроме того иногда используют метод критического случая (метод инцидентов ), в рамках которого проводится анализ поведения оцениваемого лица в трудных или критических ситуациях, а так же могут рассматриваться его срывы в работе.
Порядковое измерение позволяет не только разбить объекты на классы, но и упорядочить их. Наиболее известным примером такой шкалы является школьная отметка (от 1 до 5).
Для оценки с помощью порядковой шкалы латентного одномерного свойства на основании совокупности внешних проявлений (которые имеют или не имеют место в отношении конкретного объекта), разработан специальный алгоритм построения соответствующих шкал, получивший название шкалы Гуттмана*. Распространенность порядковых измерений для оценки профессионального развития иллюстрируется традиционным итогом аттестационных процедур "соответствует занимаемой должности" – "соответствует занимаемой должности при условии улучшения работы" – "рекомендуется смена деятельности", образующим типичную порядковую шкалу.
* Ядов В.А. Социологическое исследование. Методология, программа, методы. М., 1987. С.98-102.
Наряду с этим, в силу своей простоты, достаточно распространена, особенно при проведении оценки в небольших трудовых коллективах (до 10 человек), методика классификации по порядку, предусматривающая выделение лучших и худших работников.
Для этого эксперты располагают работников по каждому из оцениваемых критериев (их может быть несколько) по порядку, от самого лучшего до самого худшего. Индивидуальная итоговая оценка может определяться как сумма порядковых мест по всем используемым критериям оценки. Благодаря такому суммированию (хотя с точки зрения теории измерения не совсем корректному) появляется возможность перейти от порядковых шкал к интервальным и дать итоговую оценку в баллах.
Интервальное измерение – позволяет не только классифицировать или упорядочивать объекты, но и сказать, насколько большим или меньшим количеством измеряемого свойства по сравнению с другими объектами они характеризуются. Измерение основывается на существовании некоторой стандартной единицы измерения.
Например, доход можно измерять в рублях за год. Единицей измерения является рубль. Другой пример – измерение температуры. Есть разные системы измерения (Цельсия, Фаренгейта, Кельвина). Практически все стандартизованные психологические тесты, использующиеся для оценки профессионального и личностного развития дают в результате балльные оценки, что позволяет отнести их к интервальному уровню измерения.
Очень многие интервальные шкалы являются "естественными". Это шкалы возраста, дохода, веса. Кроме того, существует технология разработки интервальных шкал, применяемых для измерения латентного показателя по его внешне наблюдаемым проявлениям. Наиболее известна шкала равных интересов Терстоуна.
Шкала равных интервалов Терстоуна используется для определения субъективного отношения (зачастую явно не осознаваемого) к некоторому явлению, например, отношения к работе, на основании ряда внешних признаков. Для этого выполняются следующие шаги.
1. Выработать не менее 30 суждений позитивного и негативного характера (это внешние признаки). Например, "труд является первой жизненной потребностью", "без труда не вытащить и рыбку из пруда", "работа не волк, в лес не убежит" и т.д.
2. Подобрать группу экспертов (не менее 50 человек, отобранных случайно из исследуемой аудитории).
3. Каждый из экспертов должен рассортировать весь список суждений по 11 классам. Число классов может быть и другим, оно зависит от необходимой исследователю "дробности" шкалы, определяющей ее точность. В класс 1 попадают суждения с максимально положительным отношением к объекту, в класс 11 – с максимально отрицательным, в 6-й класс – с нейтральным отношением.
4. Проводится анализ экспертизы:
определяется цена (вес) каждого суждения на шкале в 11 интервалов. Так, если для определения веса использовались мнения 300 судей-экспертов, то для одного какого-то утверждения, например, "работа не волк, в лес не убежит" оценки могут распределяться следующим образом (см. табл. 1).
Количественные оценки, например деловых и организаторских качеств работника, производятся, как правило, с помощью экспертных оценок. При этом для характеристики кандидата на должность сначала устанавливают (с учетом специфики производства и условий работы) 6-7 критериев. Например:
1. способность организовывать и планировать труд;
2. профессиональная компетентность;
3. сознание ответственности за выполняемую работу;
4. контактность и коммуникабельность;
5. способность к нововведениям;
6. трудолюбие и работоспособность.
По каждому из этих критериев на основе изучения деятельности кандидатов на должность дается соответствующая оценка по избранной, например, пятибалльной шкале (отлично - 5; хорошо - 4; удовлетворительно - 3; не -удовлетворительно - 2; плохо - 1).
Оценки по критериям обычно располагают по нарастающему количественному значению. Например, при оценке по критерию "способность организовывать и планировать труд":
"1" - явно неорганизованный работник и руководитель;
"2" - не умеет организовывать и планировать свой труд и труд подчиненных;
"3" - умеет организовать трудовой процесс, но не всегда удачно планирует работу;
"4" - умеет хорошо организовывать и планировать свой труд и труд подчиненных;
"5" - умеет создавать и поддерживать четкий порядок в работе на основе эффективного планирования.
По своей значимости в общей оценке кандидата на конкретную должность определенные качества всегда имеют различный удельный вес, что устанавливается экспертным путем. Например, по шести указанным выше критериям могут быть приняты определенные значения.
Для определения общей оценки деловых и организаторских качеств кандидата на управленческую должность составляется специальный оценочный лист.
Естественно, чем выше общая оценка по каждой группе качеств, тем более достоин кандидат заместить должность в аппарате управления. Наибольшая возможная оценка - 5, а самая низкая - 1.
Образование, стаж работы и возраст работника должны обязательно учитываться при оценке деловых качеств. Дело в том, что образование - одна из основных качественных характеристик при определении уровня квалификации работника, стаж работы - количественная мера опыта, а возраст находится во взаимосвязи со стажем работы.
Данные об образовании кандидата, его стаже и возрасте учитываются путем расчета коэффициента профессиональной перспективности по формуле:
К = Оу.обр. (1 + С/4 + В/18), где
Оу.обр. - оценка уровня образования, которая обычно принимается (составляет
0,15 для лиц, имеющих незаконченное среднее образование;
0,60 - для лиц со средним образованием;
0,75 - для лиц со среднетехническим и незаконченным высшим образованием;
1,00 - для лиц с высшим образованием по специальности;
С - стаж работы по специальности. В соответствии с рекомендациями НИИ труда он делится на 4 (в связи с тем, что, как установлено, стаж в 4 раза меньше влияет на результативность труда, чем образование);
В - возраст. В соответствии с рекомендациями НИИ труда он делится на 18 (установлено, что влияние возраста на результативность труда в 18 раз меньше, чем влияние образования). При этом за верхний предел возраста для мужчин принимается 55 лет, а для женщин - 50.
На этапе определения общей оценки кандидата на должность величина коэффициента профессиональной перспективности суммируется с общей оценкой по деловым и организаторским качествам. Совершенно очевидно, что предпочтение отдается тому кандидату, который в итоге получит наибольшую оценку, притом обязательно еще и с учетом таким же способом полученных оценок по группам личностных качеств.
Проверка практикой, бесспорно, имеет решающее значение для оценки любого управленческого работника. В связи с этим рекомендуется осторожно и терпеливо испытывать и распознавать среди них настоящих организаторов, сочетающих интерес к делу с умением наладить совместную работу коллектива людей. Для этого при работе с резервом кадров на выдвижение широко практикуется их привлечение к временному исполнению обязанностей руководителя в период его отсутствия, стажировка и другие формы и методы практической проверки. Однако и в таких случаях результаты работы требуют объективных оценок.
На ряде российских организаций накоплен положительный опыт оценки управленческого персонала. Сущность одного из наиболее апробированных и достаточно эффективных методов заключается в использовании квалификации, опыта и интуиции наиболее компетентных в своей области работы специалистов - экспертов. Важнейшими условиями применения этого метода является обеспечение анонимности выставляемых экспертами оценок и обоснованность подбора состава экспертных комиссий.
Если анонимность достигается через специальное анкетирование или тестирование, то обоснованность подбора состава экспертов состоит в их тщательной предварительной оценке, а также в методически грамотном и целенаправленном формировании количественного и качественного состава. Например, главные требования к эксперту - его компетентность в управлении производством, нравственность, глубокие знания и признанное умение решать специальные задачи в соответствии с определенными- функциями.
Одно из требований - хорошо разбираться в одной из смежных специальных областях деятельности, например, для технолога - в экономике, для экономиста - в технологии, линейного руководителя - в правовых вопросах и т. д. Традиционное требование к формированию группы экспертов состоит в их способности провести экспертизу с учетом разнообразных сторон деятельности оцениваемого работника.
Главная опасность при подборе состава экспертов состоит в завышении доли какой-либо подгруппы экспертов, заведомо близкой в своем мнении. Эта опасность заключается не только в односторонности выставляемой оценки, но и в том, что при обработке экспертных мнений все другие оценки потеряют свою значимость. По той же самой причине нежелательно включение в экспертную группу специалистов, авторитет которых резко отличается от среднего авторитета членов комиссии.
Используются группы экспертов двумя способами - индивидуально или группой. Индивидуальный, более распространенный и эффективный способ, заключается в том, что каждый эксперт дает оценку анонимно и независимо от других, а затем эти оценки обобщаются. Групповой способ основан на совместной работе экспертов и получении суммарной оценки от всей группы в целом. При таком способе согласование индивидуальных оценок сочетается с последовательным ознакомлением каждого эксперта с оценками остальных. Требование анонимности при таком способе соблюсти возможно, но при "бумажной технологии" уже появляются сложности.
Групповая экспертиза включает следующие обязательные этапы:
Разработка программы (выбор формы группового суждения с перечнем вариантов или оценок), рекомендаций, решений; выработка принципов и методов получения группового суждения;
Выбор техники опроса или способов выявления индивидуальных мнений;
Формирование экспертной группы;
Проведение опроса экспертов;
Обработка результатов (получение группового суждения);
Анализ результатов.
Результат работы экспертов отражается в документе, вариантами которого могут быть рекомендации, обобщающие оценки, решения. Самым гласным вариантом оформления экспертизы является решение. Самым распространенным - рекомендации, но с указанием определенных признаков будущего решения.
Подбор, согласование и утверждение экспертных комиссий обычно проводят начальник отдела кадров и руководитель организации (организации). Начальник отдела кадров знакомит экспертов с методикой оценки с помощью научного консультанта, который первый раз практически руководит всей работой. На уровне организации в состав экспертных комиссий (комиссия для оценки руководителей аппарата управления, комиссия для оценки линейных руководителей производственных подразделений, комиссия для оценки специалистов аппарата управления) включают обычно 3 - 5, но не более 7 человек. При этом в числе экспертов должны быть как оцениваемый, так и его руководитель.
Анкета оценки руководителя или специалиста, карточка эксперта на аттестуемого, бланк результатов опроса экспертов на аттестуемого, а также, бланк расчета итоговой оценки на аттестуемого - таковы обязательные документы почти любой методики независимо от способа расчетов (вручную или с использованием компьютера).
Основным инструментом аттестации является анкета, которая представляет собой специально разработанный вопросник, включающий перечень определенных качеств и варианты ответа. При этом перечень качеств, которыми должен обладать специалист, зависит от сферы его деятельности и занимаемой должности. Поэтому правильный подбор качеств, их перечень для каждой конкретной должности, а также оценки в баллах рекомендуется устанавливать конкретной экспертной комиссией в организации. Именно в этом - одно из важнейших условий объективной оценки работника.
После обсуждения результатов каждая экспертная комиссия утверждает не только перечень качеств для включения в анкету, но и определяет количественную оценку каждого качества в баллах. Например, в анкету рекомендованы десять качеств, и все они оценены по десятибалльной системе оценок (смотри Таблицу 1).
Таблица 1.
Расположены эти качества в анкете в ранжированный ряд - от более до менее значимого. В соответствии с этим и выставляется первая оценка аттестуемому. Она характеризует степень значимости качества. Вторая оценка - это оценка степени проявления этих же качеств аттестуемого по четырем вариантам ответа. Эксперт при этом должен установить, как часто определяемое качество проявляется у аттестуемого по следующей балльной шкале:
1. если всегда - 1,5 балла;
2. если в большинстве случаев - 1 балл;
3. если иногда - 0,5 балла;
4. если почти никогда - 0 баллов.
При первой оценке ставится знак "+" в графе против качества и его оценки в баллах. При второй оценке ставится знак "+" в графе, соответствующей мнению эксперта.
Обработка результатов оценки аттестуемого осуществляется путем заполнения специального бланка - "Бланк результатов опроса экспертов на аттестуемого". С этой целью знаки "+" из анкет, поставленные экспертами, переносят со знаком "V" в этот бланк. В другом бланке ("Бланк расчета средней оценки аттестуемого") по каждому качеству рассчитывается средний балл по формуле:
Где Зср - средний балл оценки качества по степени его функциональной значимости;
З10 ... 31 - оценка экспертом степени значимости качества по десятибалльной шкале;
N10 ... n1 - количество экспертов, которые присвоили качеству оценку по степени значимости (в баллах);
Одновременно в этом же бланке по каждому из качеств рассчитывается средний балл степени проявления этого качества у аттестуемого по формуле:
Где Пср - средняя оценка степени проявления качеств у аттестуемого;
П1,5 ... П0,5 - степень проявления качеств у аттестуемого по оценке экспертов;
N1,5 ... n0,5 - количество экспертов, отнесших качество к степени его проявления у аттестуемого к тому или иному баллу оценки;
N - общее количество экспертов.
Затем по каждому качеству определяется средневзвешенный балл по формуле:
К = Зср * Пср, где К - качество.
Расчет эталона производится следующим образом: сумма баллов по всем 10 качествам (10+9+8+7+6+5+4+3+2+1 = 57) умножается на 1,5 (коэффициент степени проявления качества, если оно проявляется всегда), или на 1,0 (если оно проявляется в большинстве случаев), или же на 0,5 (если качество присутствует иногда). В итоге получаем следующие результаты:
1) 57 х 1,5 = 85,5;
2) 57 х 1,0 = 57,0;
3) 57 X 0,5 = 28,5.
Таким образом, в первом случае, если оценка работника составляет более 85 баллов, формулируют вывод о его повышении или включении в состав резерва на выдвижение. Во втором случае, если оценка составит от 57 до 85 баллов, делают заключение о соответствии занимаемой должности. В третьем случае, если оценка составляет ниже 28 баллов, фиксируют вывод о том, что работник не соответствует занимаемой должности. При этом весьма ценно и то обстоятельство, что детальный анализ оценок экспертов по качествам может помочь определить для каждого работника конкретные направления совершенствования его деятельности.
