Возможные варианты интерпретации результатов оценочных процедур. Кейс Единого государственного экзамена. Семинар «Актуальные вопросы развития региональной системы оценки качества образования» 5-6 декабря 2013 года, г. Казань, Республика Татарстан. Боченков Сергей Анатольевич, эксперт Независимого агентства оценки качества образования «Лидер», г. Чебоксары

Проблема корректного использования результатов ЕГЭ Результаты ЕГЭ нельзя использовать для измерения, мониторинга и оценки качества образовательных результатов Результаты ЕГЭ можно использовать для измерения, мониторинга и оценки качества образовательных результатов не используют В международной практике выделяют три группы оценочных процедур: экзамены, мониторинги и внутриклассное оценивание. Результаты экзаменов в управлении качеством не используют. ЕГЭ – это экзамен с «высокими ставками», он служит только для измерения индивидуальных образовательных результатов Почему результаты ЕГЭ используют для оценки образовательных результатов: Потому что нет ничего больше сравнимого по надёжности, защищённости, достоверности. Потому что ресурсы на процедуру уже потрачены. Почему бы не получить информацию отсюда, пока нет ресурсов на новую процедуру? ЕГЭ - это итоговая аттестация выпускников, основная процедура оценки результата на выходе Потому что ЕГЭ - это итоговая аттестация выпускников, основная процедура оценки результата на выходе Корректная интерпретации результатов ЕГЭ позволяет использовать их для управления качеством образования

Корректная интерпретация результатов оценочных процедур. Кейс единого государственного экзамена. 1.Различать в результатах ЕГЭ результаты итоговой аттестации и результаты вступительной компании. 2.Различать управленческий и методический (или исследовательский) аспекты использования результатов ЕГЭ Для корректной интерпретации результатов ЕГЭ необходимо:

Результаты ЕГЭ используются для разных целей: Индивидуальный результат выпускника по предмету – балл по 100-балльной шкале Для целей мониторинга и оценки качества образования, для использования механизма обратной связи Для завершения обучения в школе и отбор кандидатов для продолжения обучения в вузе ? Анализ результатов ЕГЭ по образовательному учреждению Анализ результатов ЕГЭ по муниципалитету Анализ результатов ЕГЭ по региону Методические рекомендации по подготовке к ЕГЭ (ФИПИ) Тренировочный экзамен – оценка уровня готовности к ЕГЭ Система мониторинга образовательных достижений учащихся Мероприятия по повышению объективности внутришкольного оценивания Примеры анализа и интерпретации результатов ЕГЭ Примеры оценочных процедур

Адресная подготовка аналитических материалов, выполненных на основе результатов внешних оценочных процедур (ЕГЭ, ГИА) и выстроенных под задачи управления качеством образования. Региональный отчёт является наиболее полным и всесторонним из всех информационных продуктов. Региональный отчёт открывает доступ к информации о результатах всем группам пользователей (информационная основа для спектра адресных продуктов и вторичного анализа результатов). Региональный отчёт задаёт подходы к анализу и к правильной интерпретации результатов оценочной процедуры. Региональный отчёт отражает качество самой оценочной процедуры, позволяет отслеживать ключевые показатели. Анализ результатов ЕГЭ-2012 по Чеченской Республике. Сводные таблицы и диаграммы по республике, муниципалитетам, образовательным учреждениям. – Грозный, – 140 с. О состоянии и результатах деятельности системы образования Чувашской Республики, 2012/2013 учебный год. Публичный доклад. – Чебоксары, – 164 с. Анализ результатов единого государственного экзамена по Ханты-Мансийскому автономному округу – Югре в 2011 году. Серия «По результатам ЕГЭ-2011». Выпуск 1. – Ханты-Мансийск: ООО «ТЕХНОПОЛИС», – 182 с.. Анализ результатов ЕГЭ по образовательному учреждению Экспресс-анализ результатов ЕГЭ по образовательному учреждению, муниципалитету, региону

Пример представления результатов ЕГЭ по школе - табличные данные Информация предназначена для мониторинга результатов ЕГЭ по каждой школе региона и унификации рамки качества для школ по результатам ЕГЭ. Основана на обезличенных данных протоколов результатов ЕГЭ и БД региональной информационной системы. Мониторинг построен на основе значений 10 ключевых показателей ЕГЭ в динамике за 4 года. Фоном для сравнения показателей по школе являются: – Кластер школ, аналогичных по контекстным характеристикам; – Город (район), муниципалитет – территориальная единица; – Собственные результаты – абсолютная динамика и динамика относительно данных по кластеру Результаты ЕГЭ в оценке деятельности школ. Мониторинг результатов ЕГЭ. Что может делать школа с результатами и по результатам ЕГЭ? Методические пояснения.

Независимая оценка индивидуальных образовательных достижений учащихся Использование контрольно-измерительных материалов, составленных в соответствии со спецификациями ЕГЭ, ГИА или других оценочных процедур. Тестирование на бланках, аналогичных бланкам ЕГЭ и ГИА с проверкой результатов по технологии ЕГЭ и ГИА: автоматизированная проверка тестовой части и критериальная проверка развёрнутых ответов экспертами. Результаты оценки представляются только заказчику: по учащимся в виде Листа оценки индивидуальных образовательных достижений, а учителю - Аналитический материал по результатам оценки группы учащихся. Проведение оценки осуществляется в сроки, удобные заказчику по мере готовности учащихся к ЕГЭ или ГИА. Проведение самой процедуры оценки образовательных достижений в школе организуется силами заказчика. Заказы на оценку уровня готовности ЕГЭ и ГИА принимаются на группу учащихся по каждому предмету. Участие в оценке уровня готовности к ЕГЭ и ГИА осуществляется строго на добровольной основе. Независимое агентство оценки качества образования «Лидер». Информация о проведении оценки индивидуальных образовательных достижений по и по телефонам 8(8352) , 8(917) Независимое агентство оценки качества образования «Лидер». Информация о проведении оценки индивидуальных образовательных достижений по и по телефонам 8(8352) , 8(917)

Как выглядит результат, который получает каждый участник процедуры оценки уровня готовности к ЕГЭ? Количество баллов по 100- балльной шкале Количество первичных баллов из 63 возможных Рекомендуемая отметка по 5- балльной шкале Уровень готовности к ЕГЭ (один из четырёх: высокий, повышенный, базовый или группа риска) До экзамена осталось 195 дней – ресурс времени на подготовку Образовательная программа Позадачная решаемость – указано, какое умение проверялось Что делать ученику с полученными результатами оценки? Сопоставить имеющийся уровень подготовки к ЕГЭ с необходимым для выбранной образовательной траектории. Принять решения о необходимости сдачи предмета по выбору в форме ЕГЭ при имеющемся уровне готовности и необходимом для поступления результате ЕГЭ. Наметить желаемый уровень успешности выполнения работы в первичных баллах и наметить, за счёт каких заданий работы можно добрать необходимый результат. Определить проблемные зоны в содержательных блоках и используя помощь учителя, репетитора или путём самоподготовки максимально отработать темы и задания, вызвавшие трудности на тренировочном тестировании. Решаемость по содержательным блокам и компетентностям

Как выглядит результат, который получает учитель по результатам независимой оценки? Тесты ЕГЭ-2014 по предмету: что нового? О процедуре оценки уровня готовности к ЕГЭ-2014 по предмету Общие результаты оценки уровня готовности Распределение участников по уровню готовности к ЕГЭ-2014 Назначение работы Возможные направления использования результатов оценки Система оценивания работы Назначение работы Возможные направления использования результатов оценки Система оценивания работы Изменения, внесённые в 2014 году Спецификация работы – перечень проверяемых умений Структура работы по содержательным блокам и проверяемым умениям Изменения, внесённые в 2014 году Спецификация работы – перечень проверяемых умений Структура работы по содержательным блокам и проверяемым умениям Группы участников по уровню готовности к ЕГЭ-2014: Высокий Повышенный Базовый Ниже уровня стандарта – группа риска Группы участников по уровню готовности к ЕГЭ-2014: Высокий Повышенный Базовый Ниже уровня стандарта – группа риска Замечания по оформлению бланка Протокол результатов оценки Сводные результаты оценки Результаты по содержательным блокам и проверяемым умениям Профиль решаемости заданий работы Замечания по оформлению бланка Протокол результатов оценки Сводные результаты оценки Результаты по содержательным блокам и проверяемым умениям Профиль решаемости заданий работы

Корректная интерпретация результатов оценочных процедур. Кейс единого государственного экзамена. Для корректной интерпретации результатов ЕГЭ необходимо: 3.Знать технологию процедуры и особенности шкалирования, применяемую в ЕГЭ для корректного сопоставления и оценки динамики и уметь выбирать «работающие» показатели.

Средний балл ЕГЭ – наиболее распространённый и принятый в системе образования РФ показатель, отражающий образовательные результаты. Если что-либо делается неправильно достаточно часто, оно становится правильным. Самарская область ~school120/ege.htm Чувашия /egeh_2012_chuvashija_sta tisticheskij_sbornik_2_ver.p dfhttp://ege21.ru/ege/metod /egeh_2012_chuvashija_sta tisticheskij_sbornik_2_ver.p df, стр.48. Сопоставление результатов ЕГЭ по школе с результатами по муниципалитету, регионе, стране Динамика результатов ЕГЭ по региону за три года

На практике мало кто задумывается, что такое однородность и продолжает считать «среднюю температуру по больнице»…

Средние величины и шкалирование. Совпадают ли шкалы оценочных процедур? Если тесты по двум предметам сопоставимы по сложности и шкалы выровнены, то уровень подготовки по русскому всех выпускников страны в среднем выше, чем по математике. Если тесты по двум предметам не выровнены по сложности, то возможно несколько вариантов: Уровень подготовки по русскому выше, чем по математике. Уровень подготовки по математике выше, чем по русскому языку, просто тест сложнее. Уровень подготовки по двум предметам примерно равный. ? ЕГЭ-2013

Два уровня освоения образовательного стандарта (ЕГЭ-2013) по методике ФИПИ Предмет ПБ1 (в скобках ТБ1 – балл по 100- балльной шкале) ПБ2 (в скобках ТБ2 – балл по 100-балльной шкале) Русский язык17 из 64 (36 из 100)54 из 64 (73 из 100) Математика5 из 32 (24 из 100)15 из 32 (63 из 100) Обществознание15 из 59 (39 из 100)48 из 59 (72 из 100) История13 из 58 (32 из 100)47 из 58 (72 из 100) Физика11 из 51(36 из 100)33 из 51 (62 из 100) Химия14 из 65 (36 из 100)58 из 65 (80 из 100) Биология17 из 69 (36 из 100)60 из 69 (79 из 100) География14 из 53 (37 из 100)43 из 53 (69 из 100) Информатика8 из 40 (40 из 100)35 из 40 (84 из 100) Иностранные языки16 из 80 (20 из 100)65 из 80 (82 из 100) Литература8 из 42 (32 из 100)36 из 42 (73 из 100) «…Указанная процедура позволяет согласовывать тестовые баллы одинаково подготовленных участников гг. и обеспечивает сравнительную сопоставимость результатов экзамена по годам». ПБ1 - наименьший первичный балл, получение которого свидетельствует об усвоении участником экзамена основных понятий и методов по соответствующему общеобразовательно му предмету ПБ2 - наименьший первичный балл, получение которого свидетельствует о высоком уровне подготовки участника экзамена, а именно, о наличии системных знаний, овладении комплексными умениями, способности выполнять творческие задания

© С.А. Боченков Соотношение 100-балльной шкалы и уровней освоения образовательного стандарта (РФ, ЕГЭ-2013) 70 баллов Сравнение 100-балльных шкал по среднепро- центильным рангам, или что лежит в основе сравнения среднего балла ЕГЭ между предметами 63,4 58,6 67,8 53,5 48,7 72,4 59,5 63,1 1,9% 2,6% 7,0% 4,4% 6,0% 6,7% 3,6% 1,1%

Пример сравнения результатов ЕГЭ двух школ: Профиль школы Кол-во выпускников Средний балл ЕГЭ, при условии, что все выпускники все предметы сдали с одинаковым результатом, равным ТБ2 Вывод о результатах профильной подготовки Вывод об эффективности вузов, по качеству подготовки поступивших в них выпускников этих школ Школа с инженерным профилем (математика, физика + русский язык) 30 (математика 63 + физика 62 + русский 73) / 3 = 66,0 При одинаковом качестве подготовки (равном ТБ2 -балл, получение которого свидетельствует о высоком уровне подготовки участника экзамена, а именно, о наличии системных знаний, овладении комплексными умениями, способности выполнять творческие задания ) средний балл инженерного класса оказывается НИЖЕ показателя медицинского класса на 11,3 балла или на 17% Все выпускники поступили в соответствующие профильные вузы на инженерное и медицинское направление подготовки. Таким образом, медицинский вуз оказывается на 17% лучше инженерного по показателю среднего балла, при этом качество подготовки абитуриентов не отличается, а разницу определяет невыровненная стобалльная шкала Школа с медицинским профильным (биология, химия + русский язык) 30 (русский 73 + биология 79 + химия 80) / 3 = 77,3

Если не средний балл, то что? Какие показатели имеет смысл использовать при анализе результатов ЕГЭ? Группа показателей характеризующих распространения процедуры итоговой аттестации в форме ЕГЭ и активности участия выпускников в процедуре ЕГЭ Группа показателей, характеризующих освоение минимальных требований образовательного стандарта Группа показателей, характеризующих уровень и качество образовательных достижений Группа показателей, отражающих равенства доступа к образованию соответствующего качества Группа показателей, характеризующие уровень освоения содержания изучаемых предметов (блоков и отдельных проверяемых дидактических единиц) Условные знаки: - Показатель малоинформативен или имеет большие ограничения при использовании - Показатель содержит ошибку, приводит к ошибочным суждениям - Показатель информативен при грамотном применении

Группа показателей, характеризующих освоение минимальных требований образовательного стандарта Уровень освоения образовательного стандарта для получения документа о среднем (полном) общем образовании – доля выпускников, успешно сдавших (выше минимального порога) ЕГЭ по двум обязательным предметам, % Уровень освоения образовательного стандарта для получения профессионального образования - получение свидетельства о результатах ЕГЭ с баллами по всем предметам, необходимыми для поступления в выбранное учреждение профессионального образования - доля выпускников, успешно сдавших (выше минимального порога) все экзамены, которые они выбрали для сдачи в форме ЕГЭ в общем числе выпускников, %. Уровень освоения образовательного стандарта по каждому предмету - доля учащихся, преодолевших минимальный порог (по каждому предмету), %. Широкая область применения, т.к. задача учителя, школы, системы образования – создание условий для освоения образовательного стандарта. Достижение одних и тех же значений показателей может потребовать в разных условиях совершенно разного количества и качества образовательных ресурсов, поэтому сравнение целесообразно преимущественно в пределах кластера. Риск снижения уровня требований по предмету до минимальных. Риск перераспределения ресурсов в пользу обязательных предметов. Риск установления зависимости уровня минимального порога от общих результатов, полученных выпускниками данного года по РФ в целом. Примеры показателей: Ограничения и риски:

Группа показателей, характеризующих уровень и качество образовательных достижений Средний балл по 100-балльной шкале (вариации – только по обязательным предметам, только по профильным предметам). Средний балл по каждому предмету Доля выпускников, получивших соответствующее количество баллов ЕГЭ по предметам: от 50 до 75 баллов (вариант - до 50, 51-75); 70 баллов и выше (вариант – 80 баллов и выше, 90 баллов и выше), %. Доля (кол-во) участников, набравших 100 баллов (на 1000 участников), %. Доля выпускников, показавших по профильному предмету результат, соответствующий отличному уровню (относится к 10% лучших результатов по РФ). Доля выпускников сдавших экзамен по предмету с результатом равным ТБ2 (высокий уровень) и выше в общем числе изучавших данный предмет на профильном уровне. Доля выпускников, сдавших все предметы из изучавшихся на профильном уровне не ниже порога профильной подготовки (ТБ2) Возможно применение для оценки школ, реализующих модели профильного образования на старшей ступени. Необходимы для оценки эффективности профилей заявленных и реализуемых школой. Риск необоснованных требований максимально-высоких баллов. Стимулирование участия в нарушениях процедуры ЕГЭ и информационной безопасности. Шкала достаточно сильно различается по предметам и суммарный учёт результатов нескольких предметов не только малоинформативен, но и может привести к ошибочным выводам. Риск ошибочных выводов из-за несопоставимости среднего балла между предметами и динамики по годам. Риск подмены ориентира за освоения содержания учебного материала ориентиром на достижение высоких баллов. Примеры показателей: Ограничения и риски: Вебинар РТЦ «Интерпретация и представление результатов оценки качества образования для разных групп пользователей». Презентация и видео доступны здесь edu.ru/trainings/webinar/267http:// edu.ru/trainings/webinar/267 Вебинар РТЦ «Интерпретация и представление результатов оценки качества образования для разных групп пользователей». Презентация и видео доступны здесь edu.ru/trainings/webinar/267http:// edu.ru/trainings/webinar/267

Корректная интерпретация результатов оценочных процедур. Кейс единого государственного экзамена. Для корректной интерпретации результатов ЕГЭ необходимо: 3.Различать характеристики хороших (плохих) результатов ЕГЭ для учителя, для школы, для системы образования и понимать в какой мере эти результаты зависят от деятельности учителя, школы, муниципального или регионального управления образовательной системы. 4.Использовать результаты ЕГЭ в сочетании с контекстными данными, данными об условиях организации образовательного процесса и показателями, полученными из других оценочных процедур.

Что такое «результаты ЕГЭ»? Всё зависит от точки зрения... Индивидуальный результат выпускника по предмету – балл по 100-балльной шкале и решаемость заданий Хорошие результаты ЕГЭ для учителя – это чтобы все учащиеся сдали ЕГЭ хорошо… а именно: Чтобы все, кто подготовились к экзамену по предмету, пошли на экзамен, а неподготовлен- ные не ходили. Чтобы все кто пошли успешно сдали ЕГЭ (преодолели минимальный порог 100%) и получили результаты лучше, чем у других учителей и школ. Чтобы результаты ЕГЭ были адекватны текущим оценкам, которые выставил учитель. Хорошие результаты ЕГЭ для учителя – это чтобы все учащиеся сдали ЕГЭ хорошо… а именно: Чтобы все, кто подготовились к экзамену по предмету, пошли на экзамен, а неподготовлен- ные не ходили. Чтобы все кто пошли успешно сдали ЕГЭ (преодолели минимальный порог 100%) и получили результаты лучше, чем у других учителей и школ. Чтобы результаты ЕГЭ были адекватны текущим оценкам, которые выставил учитель. Хорошие результаты ЕГЭ для школы – это чтобы все учащиеся школы сдали ЕГЭ хорошо… а именно: Чтобы все выпускники, допущенные к ЕГЭ получили аттестат и полноценное свидетельство о результатах ЕГЭ. Чтобы спектр выбора выпускниками предметов соответствовал профилю школы. Чтобы результаты по профильным предметам были высокими в сравнении с аналогичными школами. Хорошие результаты ЕГЭ для школы – это чтобы все учащиеся школы сдали ЕГЭ хорошо… а именно: Чтобы все выпускники, допущенные к ЕГЭ получили аттестат и полноценное свидетельство о результатах ЕГЭ. Чтобы спектр выбора выпускниками предметов соответствовал профилю школы. Чтобы результаты по профильным предметам были высокими в сравнении с аналогичными школами. Хорошие результаты ЕГЭ для муниципалитета – это чтобы все учащиеся школ территории сдали ЕГЭ хорошо… а именно: Чтобы все выпускники, допущенные до итоговой аттестации успешно сдали экзамены и получили документы об образовании. Чтобы профиль школ сети подтверждался результатами ЕГЭ как по спектру выбираемых предметов, так и качеством полученных результатов. Чтобы различия в результатах ЕГЭ между школами были меньше, чем между результатами внутри школ. Чтобы не было нарушений процедуры и аномальных результатов Хорошие результаты ЕГЭ для муниципалитета – это чтобы все учащиеся школ территории сдали ЕГЭ хорошо… а именно: Чтобы все выпускники, допущенные до итоговой аттестации успешно сдали экзамены и получили документы об образовании. Чтобы профиль школ сети подтверждался результатами ЕГЭ как по спектру выбираемых предметов, так и качеством полученных результатов. Чтобы различия в результатах ЕГЭ между школами были меньше, чем между результатами внутри школ. Чтобы не было нарушений процедуры и аномальных результатов ?

Интерпретация результатов ЕГЭ для учителя Информационные запросы УЧИТЕЛЯ о результатах ЕГЭ Уровень требований контрольно- измерительных материалов ЕГЭ по предмету. Востребованность учебного предмета как экзамена в форме ЕГЭ среди его учеников. Освоение учениками образовательного стандарта на минимальном уровне. Освоение учениками образовательного стандарта на профильном уровне. Успешность освоения отдельных дидактических единиц (позадачная решаемость), содержательных блоков, сформированность умений и видов деятельности. Соответствие системы текущего оценивания внешней оценке. Информационные запросы УЧИТЕЛЯ о результатах ЕГЭ Уровень требований контрольно- измерительных материалов ЕГЭ по предмету. Востребованность учебного предмета как экзамена в форме ЕГЭ среди его учеников. Освоение учениками образовательного стандарта на минимальном уровне. Освоение учениками образовательного стандарта на профильном уровне. Успешность освоения отдельных дидактических единиц (позадачная решаемость), содержательных блоков, сформированность умений и видов деятельности. Соответствие системы текущего оценивания внешней оценке. «Рамка качества» работы УЧИТЕЛЯ в результатах ЕГЭ - если предмет изучается на базовом уровне: освоение образовательного стандарта на минимальном уровне стремится к 100%; все учащиеся из числа слабоуспевающих успешно решают определённый набор заданий, позволяющий им преодолеть минимальный порог - если предмет изучается на профильном уроне: востребованность предмета выше, чем среднее для территории и аналогичных образовательных учреждений освоение образовательного стандарта на минимальном уровне 100%; освоение образовательного стандарта на профильном уровне выше, чем среднее по территории и для аналогичных школ система текущего оценивания адекватна внешней оценке. «Рамка качества» работы УЧИТЕЛЯ в результатах ЕГЭ - если предмет изучается на базовом уровне: освоение образовательного стандарта на минимальном уровне стремится к 100%; все учащиеся из числа слабоуспевающих успешно решают определённый набор заданий, позволяющий им преодолеть минимальный порог - если предмет изучается на профильном уроне: востребованность предмета выше, чем среднее для территории и аналогичных образовательных учреждений освоение образовательного стандарта на минимальном уровне 100%; освоение образовательного стандарта на профильном уровне выше, чем среднее по территории и для аналогичных школ система текущего оценивания адекватна внешней оценке.

Пример интерпретации результатов ЕГЭ для учителя. Позадачная решаемость. Графическим выражением успешности, результата выполнения теста группой учеников является профиль решаемости, где видна успешность выполнения каждого задания. При сравнении с коридором ожидаемой решаемости видно, какие темы отработаны лучше, какие хуже, а какие вообще оказались провальными. Практика анализа результатов экзамена в разрезе отдельной школы, класса и учителя даёт разные профили по решаемости заданий.

Пример интерпретации результатов ЕГЭ для учителя. Результаты освоения содержательных блоков курса и сформированность основных умений. РУССКИЙ ЯЗЫК ФИЗИКА 71,9% 43,8% 69,3% 65,2% 72,3% Задания высокого уровня сложности Задания базового и повышенного уровня сложности Методы познания Квантовая физика Электродина- мика Молекулярная физика Механика

Пример интерпретации результатов ЕГЭ для учителя. Группы учащихся по уровню готовности к ЕГЭ-2012 по физике. Высокий уровень подготовки к ЕГЭ: знаний и умений достаточно для полноценного продолжения образования в профильном вузе с достаточно высоким конкурсом. Повышенный уровень подготовки к ЕГЭ: знаний и умений достаточно для продолжения образования по профильным специальностям в вузах со средним уровнем требований. Базовый уровень подготовки к ЕГЭ: знания, умения и способы деятельности соответствуют требованиям стандарта на минимально возможном уровне. В группу с базовым уровнем подготовки входят учащиеся, которые могут продолжать образование по профильным специальностям в НПО и СПО или выбрать направление обучения в вузе, где данный предмет не является профильным. Низкий уровень подготовки к ЕГЭ: группа риска, т.к. бессистемность и отрывочность их знаний не позволяет преодолеть минимальный порог для получения свидетельства о результатах ЕГЭ. Доля выпускников, успешно сдавших ЕГЭ по предмету от общего числа выпускников, сдававших данный предмет - 100% Доля выпускников, сдавших ЕГЭ по предмету с результатом, соответствующим повышенному уровню и выше от общего числа выпускников, изучавших предмет на профильном уровне – 81,25%

Интерпретация результатов ЕГЭ для школы (администрация, педколлектив, учащиеся, родители, социум) Информационные запросы ШКОЛЫ о результатах ЕГЭ Соответствует ли заявленный профиль школы спектру предметов, выбираемых выпускниками для сдачи в форме ЕГЭ? Каков уровень освоения образовательного стандарта на минимальном уровне (доля выпускников, успешно сдавших два обязательных экзамена, доля выпускников, успешно сдавших все экзамены в форме ЕГЭ) ? Каков уровень освоения образовательного стандарта на профильном уровне (доля выпускников, успешно сдавших все предметы из числа изучавшихся на профильном уровне с результатом, соответствующим повышенному уровню (ПБ 2) и выше)? Соответствие ли применяемая учителями система текущего оценивания внешней оценке? Каковы позиции школы в рейтинге по вышеназванным показателям среди школ города (района) и среди аналогичных (кластер) школ региона? Какова динамика значений ключевых показателей? Информационные запросы ШКОЛЫ о результатах ЕГЭ Соответствует ли заявленный профиль школы спектру предметов, выбираемых выпускниками для сдачи в форме ЕГЭ? Каков уровень освоения образовательного стандарта на минимальном уровне (доля выпускников, успешно сдавших два обязательных экзамена, доля выпускников, успешно сдавших все экзамены в форме ЕГЭ) ? Каков уровень освоения образовательного стандарта на профильном уровне (доля выпускников, успешно сдавших все предметы из числа изучавшихся на профильном уровне с результатом, соответствующим повышенному уровню (ПБ 2) и выше)? Соответствие ли применяемая учителями система текущего оценивания внешней оценке? Каковы позиции школы в рейтинге по вышеназванным показателям среди школ города (района) и среди аналогичных (кластер) школ региона? Какова динамика значений ключевых показателей? Что значит – «хорошая школа» по результатам ЕГЭ? это школа, выпускники которой активно выбирают экзамены в форме ЕГЭ из числа предметов профиля школы необходимые им для продолжения образования. это школа, все выпускники которой успешно справляются с двумя обязательными экзаменами в форме ЕГЭ (русский язык и математика). Это необходимо для получения аттестата о среднем (полном) образовании. это школа, все выпускники которой успешно сдали все экзамены (изучавшиеся на профильном уровне) в форме ЕГЭ (обязательные и по выбору выше минимального порога), т.е. получили полноценное свидетельство о результатах ЕГЭ для конкурса при поступлении на выбранную специальность. это школы, обеспечивающие общий высокий уровень подготовки по всем предметам, особенно по предметам профиля. это школа, показывающая положительную динамику или стабильность в высоких результатах по каждой из указанных позиций. Что значит – «хорошая школа» по результатам ЕГЭ? это школа, выпускники которой активно выбирают экзамены в форме ЕГЭ из числа предметов профиля школы необходимые им для продолжения образования. это школа, все выпускники которой успешно справляются с двумя обязательными экзаменами в форме ЕГЭ (русский язык и математика). Это необходимо для получения аттестата о среднем (полном) образовании. это школа, все выпускники которой успешно сдали все экзамены (изучавшиеся на профильном уровне) в форме ЕГЭ (обязательные и по выбору выше минимального порога), т.е. получили полноценное свидетельство о результатах ЕГЭ для конкурса при поступлении на выбранную специальность. это школы, обеспечивающие общий высокий уровень подготовки по всем предметам, особенно по предметам профиля. это школа, показывающая положительную динамику или стабильность в высоких результатах по каждой из указанных позиций.

не обеспечивает качества подготовки по востребованным предметам (биология, химия). обеспечивает высокий уровень подготовки как по предметам профиля (английский язык, обществознание), так и по другим предметам. кроме востребованной физики обеспечивает высокий уровень практически по всем предметам. Пример интерпретации результатов ЕГЭ для ШКОЛЫ. Соответствие между востребованностью учебных предметов и качеством подготовки к ЕГЭ

Интерпретация результатов ЕГЭ для управления образовательными системами (муниципальный, региональный уровни управления) Информационные запросы органов управления о результатах ЕГЭ в системе образования муниципалитета, региона Надёжность процедуры проведения ЕГЭ на территории(нарушения, фальсификации). Охват средним (полным) образованием учащихся соответствующего возраста учреждениями системы – освоение образовательного стандарта. Равенство доступа к образованию соответствующего качества. Выявление групп риска среди категорий учащихся, определение степени депрессивности территорий, выявление школ, работающих в трудных условиях. Удовлетворение потребностей населения в общеобразовательной и профильной подготовке, предоставляемой сетью школ. Контроль качества и оценка эффективности деятельности школ. Эффективность использования ресурсов сети. Информационные запросы органов управления о результатах ЕГЭ в системе образования муниципалитета, региона Надёжность процедуры проведения ЕГЭ на территории(нарушения, фальсификации). Охват средним (полным) образованием учащихся соответствующего возраста учреждениями системы – освоение образовательного стандарта. Равенство доступа к образованию соответствующего качества. Выявление групп риска среди категорий учащихся, определение степени депрессивности территорий, выявление школ, работающих в трудных условиях. Удовлетворение потребностей населения в общеобразовательной и профильной подготовке, предоставляемой сетью школ. Контроль качества и оценка эффективности деятельности школ. Эффективность использования ресурсов сети. Что значит – «хорошая система образования» по результатам ЕГЭ? Процедура проведения ЕГЭ защищена, в результатах ЕГЭ не наблюдается аномальных результатов. Все выпускники, допущенные до итоговой аттестации успешно сдают экзамены и получают документы об образовании. Различия в результатах между школами ниже, чем между результатами внутри школы. Выявлены группы риска в контингенте обучающихся, определена степень депрессивности каждого элемента территории, имеются данные об условиях работы каждой из школ. Профиль школ подтверждается результатами ЕГЭ как по спектру выбираемых предметов, так и качеством полученных результатов. Общеобразовательная и профильная подготовка, предоставляемая сетью школ обеспечивает потребности населения. Что значит – «хорошая система образования» по результатам ЕГЭ? Процедура проведения ЕГЭ защищена, в результатах ЕГЭ не наблюдается аномальных результатов. Все выпускники, допущенные до итоговой аттестации успешно сдают экзамены и получают документы об образовании. Различия в результатах между школами ниже, чем между результатами внутри школы. Выявлены группы риска в контингенте обучающихся, определена степень депрессивности каждого элемента территории, имеются данные об условиях работы каждой из школ. Профиль школ подтверждается результатами ЕГЭ как по спектру выбираемых предметов, так и качеством полученных результатов. Общеобразовательная и профильная подготовка, предоставляемая сетью школ обеспечивает потребности населения.

Модель интерпретации и границы использования результатов оценочной процедуры должны быть неотъемлемой частью самой процедуры и быть разработаны до введения данной оценочной процедуры в штатный режим. Необходимо указать, кому и на какие информационные запросы отвечает данная оценочная процедура при помощи каких показателей (аналогично – указываются ограничения и риски). Важно определиться, с какими из уже существующих оценок результаты новой оценочной процедуры могут быть сопоставимы. По опыту международных мониторингов для сопоставимости результатов разных оценочных процедур необходимо использование выравнивания шкал и уровневого подхода к представлению результатов. Сопоставимые показатели разных оценочных процедур собранные на едином информационном ресурсе в режиме мониторинга позволят судить о качестве образования на соответствующих уровнях управления образовательными системами (федеральном, региональном, муниципальном и на уровне образовательного учреждения). Необходимо определить границы использования результатов уже существующих оценочных процедур - ЕГЭ и ГИА. Также важно решить проблему сопоставимости результатов по учебным предметам внутри этих процедур (выравнивание шкал и порогов). Интерпретация – важная часть проектирования новых оценочных процедур

Устанавливается как минимальная граница определяющая успешность / неуспешность экзамена и соответствует 36 баллам 100-балльной шкалы. Порог устанавливается исходя из описания минимального уровня подготовки выпускника по соответствующему предмету, который оценивается набором заданий базового уровня сложности. Для преодоления порога необходимо успешно выполнить не менее 50% заданий базового уровня. Для сопоставимости результатов ЕГЭ при межпредметных сравнениях и определении общих правил игры на поле итоговой аттестации необходима унификация шкал. Один из возможных вариантов изменения шкалирования ПОРОГ ВЫСОКОГО УРОВНЯ ПОДГОТОВКИ - наименьший балл, получение которого свидетельствует о высоком уровне подготовки участника экзамена, а именно, о наличии системных знаний, овладении комплексными умениями, способности выполнять творческие задания МИНИМАЛЬНЫЙ ПОРОГ - наименьший балл, получение которого свидетельствует об усвоении участником экзамена основных понятий и методов по соответствующему общеобразовательному предмету. Базовый уровень подготовки: знания, умения и способы деятельности соответствуют требованиям стандарта на минимально возможном уровне. ПОРОГ ПРОФИЛЬНОГО УРОНЯ ПОДГОТОВКИ - наименьший балл, получение которого свидетельствует об успешном освоении курса на базовом уровне и выполнению ряда заданий повышенного уровня сложности Устанавливается как верхняя граница базового уровня подготовки (ориентир для учащихся профильных классов) и соответствует 60 баллам 100-балльной шкалы. Порог устанавливается исходя из описания максимальной базовой подготовки выпускника по соответствующему предмету. Повышенный уровень подготовки: знания, умения и способы деятельности соответствуют требованиям стандарта на базовом уровне. Высокий уровень подготовки к ЕГЭ: высокий уровень подготовки свидетельствует о наличии системных знаний, овладении комплексными умениями, способности выполнять творческие задания. Низкий уровень подготовки: группа риска, т.к. бессистемность и отрывочность их знаний не позволяет преодолеть минимальный порог для получения свидетельства о результатах ЕГЭ.

О состоянии и результатах деятельности системы образования Чувашской Республики, 2012/2013 учебный год. Публичный доклад. – Чебоксары, – 164 с. Анализ результатов ЕГЭ-2012 по Чеченской Республике. Сводные таблицы и диаграммы по республике, муниципалитетам, образовательным учреждениям. – Грозный, – 140 с. Материалы по теме: Примеры аналитических материалов в открытом доступе: Вебинар РТЦ «Интерпретация и представление результатов оценки качества образования для разных групп пользователей». Презентация и видео доступны здесь Вебинар РТЦ «Представление результатов оценки учебных достижений: почему нельзя полностью доверять среднему баллу теста?» Презентация и видео доступны здесь edu.ru/trainings/webinar/224http:// edu.ru/trainings/webinar/224 Учебный курс РТЦ «Актуальные вопросы использования результатов оценки учебных достижений школьников на разных уровнях системы образования» г. Ереван, edu.ru/trainings/study/283http:// edu.ru/trainings/study/283 Учебный курс РТЦ «Национальные экзамены и мониторинги учебных достижений: интерпретация и представление результатов для различных групп пользователей» г. Москва, Учебный курс РТЦ «Система оценки качества и образовательная политика: ключевые проблемы и направления развития» Кыргызстан, Методические материалы по проблеме анализа и интерпретации результатов оценочных процедур: Публикации: Боченков С.А. [Электронный ресурс]: Учитель, школа, система образования в зеркале ЕГЭ// «Проблемы современного образования» Научно-информационный журнал Российской Академии Образования, с Боченков С.А., Вальдман И.А. Интерпретация и представление результатов ЕГЭ: проблемы и возможные решения // «Вопросы образования», с edu.ru/sites/default/files/files/public/USE.pdfhttp:// edu.ru/sites/default/files/files/public/USE.pdf

СПАСИБО ЗА ВНИМАНИЕ! Сергей Анатольевич Боченков г. Чебоксары, залив