Методы измерения как средство контроля знаний учащихся

     2) задания со свободно конструируемым ответом, в котором необходимо составить развернутый ответ в виде полного решения задачи или дать ответ в виде микросочинения.

     В заданиях с ограничениями заранее определяется, что однозначно считать правильным ответом, и задается степень полноты представления ответа. Обычно он бывает достаточно кратким – одно слово, число, символ и т.д. Иногда – более длинным, но не превышающим двух-трех слов. Естественно, что регламентированная краткость ответов выдвигает определенные требования к сфере применения, поэтому задания первого вида в основном используются для оценки достаточно узкого круга умений.

     Отличительная особенность заданий с ограничениями на дополняемые ответы заключается в том, что они должны порождать только один, запланированный разработчиком правильный ответ.

     Задания второго типа со свободно конструируемым ответом не имеют никаких ограничений на содержание и форму представления ответов. За определенное время учащийся может писать что угодно и как угодно. Однако тщательная формулировка подобных заданий предполагает наличие эталона, в качестве которого обычно выступает наиболее правильный ответ с описывающими его характеристиками и признаками качества.

     В заданиях на установление соответствия преподаватель проверяет знание связей между элементами двух множеств. Элементы для сопоставления записываются в два столбца: слева обычно приводятся элементы задающего множества, содержащие постановку проблемы, а справа – элементы, подлежащие выбору.

     К заданиям дается стандартная инструкция: «Установите соответствие». 

     Пример 3. Установите соответствие

Свойство а) коммутативности б) ассоциативности в) дистрибутивности относительно сложения

Формула 1) (a+b)+c = a+(b+c) 2) a+b = b+a 3) (a+b)c = ac+bc 4) a(b+c) = ab+ac 5) ab = ba 6) (ab)c = a(bc)

     а) – _________________, б) – _____________, в) – _____________.

     Следует отметить, что желательно, чтобы в правом столбце элементов было больше, чем в левом. В этой ситуации возникают определенные трудности, связанные с подбором правдоподобных избыточных элементов. Иногда на один элемент левого множества необходимо выбрать несколько правильных ответов из правого столбца. Кроме того, соответствия могут быть расширены на три и большее число множеств. Эффективность задания существенно снижается, если неправдоподобные варианты будут легко различаться даже незнающими учащимися.[12]

     Эффективность задания также снижается в тех случаях, когда число элементов в левом и правом столбцах одинаково и при установлении соответствия для последнего элемента слева просто не из чего выбирать. Последнее правильное или неправильное соответствие устанавливается автоматически благодаря последовательному исключению элементов для предыдущих соответствий.

     Тестовые задания на установление правильной последовательности предназначены для оценки уровня владения последовательностью действий, процессов и т.п. В заданиях приводятся в произвольном, случайном порядке действия, процессы, элементы, связанные с определенной задачей. Стандартная инструкция к этим заданиям имеет вид: «Установите правильную последовательность действий».

     Пример 4. Установите правильную последовательность

     Команда полного ветвления на УАЯ имеет формат:

• иначе <серия 2>
• кв
• то <серия 1>
• если <условие>

     Задания на установление правильной последовательности получают доброжелательную поддержку у многих преподавателей, что объясняется важной ролью упорядоченного мышления и алгоритмов деятельности.

     Цель введения таких заданий в учебный процесс – формирование алгоритмического мышления, алгоритмических знаний, умений и навыков.

     Алгоритмическое мышление можно определить как интеллектуальную способность, проявляющуюся в определении наилучшей последовательности действий при решении учебных и практических задач. Характерные примеры проявления такого мышления – успешное выполнение различных заданий за короткое время, разработка самой эффективной программы для ЭВМ и т.п.

     Выбор форм заданий определяется многими весьма противоречивыми факторами, в числе которых особенности содержания, цели тестирования, а также – специфика контингента испытуемых. Проверка проще при использовании заданий закрытой формы, однако, такие задания менее информативны. Задания открытой формы более информативны, но сложнее организовать их проверку. Еще более сложной задачей является создание компьютерных программ для проверки правильности ответов на такие задания. Это связано с богатством словарного запаса испытуемых (при ответе могут быть использованы синонимы), внимательностью (опечатки, несоответствие регистров) и т.п.[18]

     Для успешной ориентировки в формах заданий можно использовать специальную таблицу (см. таблицу 2.1.) сопоставительного анализа заданий, предложенную М.Б. Челышковой.

     По мнению разработчика, настоящая таблица носит сугубо ориентировочный характер, однако, ее использование может облегчить процесс подбора тестовых заданий различной формы для решения тех или иных диагностических задач.

     Таблица 2.1.

     Сопоставительный анализ характеристик тестовых заданий

     Соответствие заданий в тестовой форме требованиям педагогической корректности содержания и формы являются необходимыми, но недостаточными условиями для того, чтобы называть их тестовыми.

     Превращение заданий в тестовой форме в тестовые задания начинается с момента статистической проверки каждого задания на наличие у них тестобразующих свойств.

     2.2. Эмпирическая проверка и статистическая обработка результатов.

     Наличие достаточного числа тестовых заданий позволяет перейти к разработке теста как системы, обладающей целостностью, составом и структурой. На третьем этапе отбираются задания и создают тесты, повышаются качество и эффективность теста.

     Целостность теста образует взаимосвязь ответов испытуемых на задания теста, наличие общего измеряемого фактора, влияющего на качество знаний.

       Состав теста образует правильный подбор заданий, позволяющий минимально необходимым числом отобразить существенные элементы языковой компетентности испытуемых.

     Уровень и структура знаний выявляются при анализе ответов каждого испытуемого на все задания теста. Чем больше правильных ответов, тем выше индивидуальный тестовый балл испытуемых. Обычно этот тестовый балл ассоциируется с понятием "уровень знаний" и проходит процедуру уточнения на основе той или иной модели педагогического измерения. Один и тот же уровень знаний может быть получен за счет ответов на различные задания. Например, в тесте из тридцати заданий испытуемый получил десять баллов. Эти баллы скорее всего, получены за счет правильных ответов на первые десять, сравнительно легких заданий. Присущую для такого случая последовательность единиц, а затем нулей можно назвать правильной структурой подготовленности испытуемого. Если же обнаруживается противоположная картина, когда испытуемый правильно отвечает на трудные задания и неправильно - на легкие, то это противоречит логике теста и потому такой профиль знаний можно назвать инвертированным. Он встречается редко, и чаще всего, по причине ошибочности теста, в котором задания расположены с нарушениями требования возрастающей трудности. При условии, что тест сделан правильно, каждый профиль свидетельствует о структуре знаний. Эту структуру можно назвать элементарной (поскольку есть еще факторные структуры, которые выявляются с помощью методов факторного анализа).

     Для определения уровня структурированности подготовленности можно использовать коэффициент Л.Гутмана, ранее неточно называвшийся мерой «надежности теста». 

     r_g = 1 -

где r_g коэффициент структурированности;

• - сумма ошибочных элементов индивидуальных структур, подсчитываемых в векторах-строках баллов испытуемых;
• N – число испытуемых;
• k – число заданий.

     Уровень знаний в значительной степени зависит от личных усилий и способностей, в то время как структура знаний заметно зависит от правильной организации учебного процесса, от индивидуализации обучения, от мастерства педагога, от объективности контроля - в общем, от всего того, чего обычно не хватает. Путь к достижению этого идеала лежит через трудности создания качественных тестов.

     Разработка тестов начинается с анализа содержания преподаваемых знаний и овладения принципами формулирования тестовых заданий. К сожалению, на тесты все еще смотрят как на средство, которое легко придумать, в то время как сильная сторона тестов - их эффективность, проистекающая из теоретической и эмпирической обоснованности. [11]

     На третьем этапе от разработчиков нового поколения тестов потребуется некоторая математико-статистическая подготовка, знания теории тестов. Теорию тестов можно определить как совокупность непротиворечивых понятий, форм, методов, аксиом, формул и утверждений, способствующих повышению эффективности и качества тестового процесса. Кроме того, может потребоваться и некоторый опыт применения методов многомерного статистического анализа, и опыт правильной интерпретации тестовых результатов.

     Часто возникает вопрос: «Как поведут себя удаляемые задания в других группах испытуемых?» Ответ зависит от качества подбора групп, а точнее от статистического плана формирования выборочных совокупностей. Верный ответ на этот вопрос следует искать в смысле понятия «target group»; это множество испытуемых в генеральной совокупности, для которых предназначен разрабатываемый тест.

     Соответственно, если задания проектируемого теста ведут себя неодинаково в разных группах, то это является, скорее всего, указанием на ошибки в формировании выборок испытуемых. Последние должны быть такими же однородными, как и испытуемые в целевой группе. На языке статистики это означает, что испытуемые в целевой и в экспериментальных группах должны принадлежать одной генеральной совокупности.[10]

     Логарифмические оценки, называемые логитами, таких, казалось бы, реально несопоставимых феноменов как уровень знаний испытуемого с уровнем трудности каждого задания, были использованы для непосредственного сопоставления уровня трудности с уровнем подготовленности испытуемого.