Данный браузер не поддерживает функционал прокторинга

Обновлено: 04.07.2024

Электронная сертификация по рекламным технологиям Яндекса выходит на новый уровень. Мы хотим поднять планку необходимых знаний специалистов по Директу на рынке и запускаем технологию онлайн-прокторинга в сертификации. Это новая процедура тестирования — с дополнительной авторизацией, наблюдением за ходом теста и отдельным сертификатом. Пока что она работает в бета-версии — будем рады вашим комментариям и обратной связи.

В этом году мы многое меняем в Директе — он становится умнее, быстрее и эффективнее. Сертификация по продукту тоже постоянно развивается. На этот раз мы решили: мало придумывать новые непростые вопросы, сама процедура тестирования тоже должна стать более технологичной — под стать предмету изучения. Поэтому сегодня в дополнение к привычной сертификации мы открыли для всех желающих тест с прокторингом. Так что если вы как раз планировали проверить свои знания, есть два варианта теста по Директу на выбор. И, соответственно, вдвое больше попыток.

Честность выгодна

Прокторинг — система контроля за процессом тестирования. Чтобы пройти тест с прокторингом, вам потребуется компьютер или ноутбук с веб-камерой.

Перед началом тестирования мы попросим вас принять пользовательское соглашение, сделать селфи и сфотографировать удостоверение личности (лучше всего — паспорт; важно, чтобы в документе были ваше фото, фамилия-имя-отчество и дата рождения), а во время тестирования — включить веб-камеру и не прерывать экзамен. Так мы будем уверены, что именно вы прошли сертификацию и подтвердили свой профессионализм.

Ваши данные будут надёжно защищены, изображения и видео обрабатываются в автоматическим режиме с помощью алгоритмов машинного обучения. Прокторинг анализирует поведение пользователя перед камерой, окружающую звуковую среду и многие другие поведенческие факторы. Решение о том, пройдена проверка по видео или нет, тоже принимает машина. Лишь в крайних случаях к просмотру видео могут подключиться наши специалисты — например, если вы не согласны с результатами прокторинга и хотите их оспорить.

Как подготовиться к тесту

Залог успешного тестирования — ваши знания и опыт в интернет-маркетинге и соблюдение простых правил прокторинга. Проверить себя перед тестированием или подтянуть отдельные темы помогут материалы для подготовки к сертификации по Директу. О правилах прокторинга — далее.

Как пройти тест с прокторингом

Тестирование с прокторингом доступно во всех браузерах, кроме семейства Microsoftи Safari. Пройти его можно только с десктопа с подключённой веб-камерой. Во время теста ваше лицо должно быть в поле зрения камеры анфас и хорошо видно. Вот несколько основных правил:

Для авторизации используйте свой настоящий документ.
Проходите тест непрерывно, не покидая рабочего места и не отвлекаясь.
Постарайтесь проходить тест в помещении, где нет других людей и постореннего шума — это снизит вероятность помех.
Во время тестирования не пользуйтесь дополнительными материалами или помощью сервисов.
Для сертификации с прокторингом действует правило «один специалист — один документ — один логин». Если вы зарегистрировались в системе прокторинга под одним логином, проходить тест под другим уже нельзя.

Уверены, для настоящих профессионалов пройти такой тест будет не сложнее, чем пройти обычное тестирование по Директу, а специальный сертификат покажет, что вы не только отлично разбираетесь в тонкостях ведения кампаний, но и готовы подтвердить свои знания. И надеемся, что при вашем участии тестирование с прокторингом позволит задать новый стандарт знаний специалистов по Директу на рекламном рынке.

Пандемия показала, что система отечественного образования срочно нуждается в модернизации, а также готовности перейти на онлайн-формат. При этом одни вузы более готовы к ней, другие – менее.

О новостях из жизни разных вузах вы можете читать на нашем телеграм-канале, который постоянно пополняется новостями. А в группе время от времени раздают бонусы и скидки студентам.

Одним из новейших решений стала система прокторинга. О том, что это такое, как оно работает и когда применяется – расскажем далее.

Что такое прокторинг и почему с ним лучше

Личный контакт с преподавателем (особенно на экзамене) многих пугает, как и ожидание перед дверью, тишина и зоркое внимание экзаменатора за каждым движением. Стоило преподавателю просто заподозрить обман. Он мог выставить студента для пересдачи. Это вносило оттенок субъективности.

С онлайн-прокторингом все стало объективнее и проще.

Прокторинг – система контроля на онлайн-экзамене/тестировании. Контроль осуществляет проктор – администратор, который наблюдает за процессом через веб-камеру.

Онлайн-прокторинг позволяет подтвердить личность учащегося, исключить использование шпаргалок и помочь преподавателю объективно оценить знания.

Система появилась в Америке еще в 2008 году

Сегодня технологии прокторинга сильно развиты. Есть 3 вида отслеживания онлайн-тестирования:

Проктор-человек: администратор следит за процессом по камере, фиксируя нарушения.
Автопрокторинг: программа автоматически распознает личность учащегося, мониторит его поведение, следит за направлением взгляда, анализирует появление посторонних предметов и звуков в помещении, ищет нарушения на видео и делает на основании полученных данных отчеты.
Комбинированный способ: программа и человек. Могут быть вариации. Например, весь процесс может контролировать программное обеспечение, подавая проктору сигналы о нарушениях. Есть другой вариант, когда администратор в онлайн-режиме сам отслеживает деятельность одновременно нескольких учащихся в программе. Второй способ считается более надежным.

Вуз может использовать синхронный прокторинг с помощью программы «Экзамус» (или другой, синхронный с участием проктора) и асинхронный прокторинг (система ведет запись всего процесса с фиксацией нарушений без прерывания экзамена, а запись потом проверяют специальные люди).

Как проходит экзамен во время прокторинга

Экзамен в системе прокторинга можно пройти в любом месте, где есть надежный интернет и веб-камера.
Учащемуся нужно заранее установить на свой компьютер специализированное ПО, которая будет записывать экран.

Процедура выглядит следующим образом:

Включить компьютер примерно за 20 минут до начала и зарегистрироваться в системе.
Протестировать оборудование на соответствие техническим требованиям, пропускает ли устройство экзамен (не закрыты ли порты, не запрещен ли доступ).
Подключиться к видеотрансляции, дать разрешение системе вести запись с экрана компьютера.
Верифицировать свою личность с предъявлением документов на камеру (водительские права или паспорт).
Показать помещение, рабочий стол (если попросит проктор) и начать проходить экзамен.

Что запрещено делать во время прокторинга

Есть четкий порядок действий, которые можно совершать во время экзамена в системе прокторинга. Например, можно пользоваться рукописным конспектом, звонить проктору, если возникли технические проблемы (пропал интернет, отключили свет и т.д.).

А вот чего делать нельзя:

перемещаться по другим вкладкам в браузере;
быть в наушниках;
использовать подсказки или помощь третьих лиц во время экзамена;
уходить без предупреждения или делать звонки по телефону.

Если проктор обнаружит хотя бы одно нарушение, он зафиксирует все и передаст замечания преподавателю. Если студент совершает сразу несколько грубых нарушений или не реагирует на замечания проктора, экзамен можно прервать или даже аннулировать.

Где можно использовать прокторинг

Эта система, ставшая популярной в сфере образования из-за пандемии, может быть полезной и в следующих сферах:

Подбор персонала. Руководители и менеджеры по персоналу могут проводить собеседования и проверку профессиональных навыков кандидатов со всех уголков страны (и даже за ее пределами) без потери времени и денег.
Онлайн-обучение. Компании выгодно отправлять сотрудников на обучение. Но обучение в офлайне приводит к отрыву персонала от работы и большим финансовым вложениям. Обучение сотрудников онлайн с последующей сдачей экзаменов в системе прокторинга – это проверка профпригодности и повышение квалификации персонала без отрыва от производства. А еще работодатель всегда может быть уверен, что его вложения в сотрудников оправданы, так как на экзамене за участниками будут следить.
Тестирование/аттестация сотрудников. Систему прокторинга эффективно используют для определения у персонала hard skills. Это нужно, когда сложно принять решение о надбавках.

Советы по подготовке к экзамену в системе прокторинга

Если вы раньше никогда не проходили экзамен с прокторингом, вот несколько советов, которые помогут пройти испытание без лишней нервотрепки и проблем:

Выберите для экзамена отдельное тихое помещение, чтобы вас никто не отвлекал. Если собираетесь сдавать экзамен дома, попросите домашних не беспокоить вас в этот промежуток времени. Ограничьте доступ домашних животных, чтобы они не отвлекали вас.
Если проходите экзамен на работе/в офисе, лучше делать это в нерабочее время, чтобы рядом не было коллег. Посторонние шумы (разговоры, хождение людей и т.д.) – это грубое нарушение.
Предварительно пройдите тест оборудования, чтобы не терять время на устранение технических неполадок непосредственно во время экзамена. Протестируйте камеру и микрофон, пройдите верификацию личности. Настройте освещение – так проктору будет легче идентифицировать ваше лицо и паспортные данные.
Если во время экзамена захотите в туалет, сообщите об этом проктору в чат. Учащемуся на это отводится 2-3 минуты.
При технических неполадках позвоните проктору. Форс-мажор в виде отключения интернета, света или отключения компьютера – достаточная причина, чтобы продлить экзамен или хотя бы не зачесть ее как нарушение.

Как обойти прокторинг на экзамене

Лучше не искать способы, как обмануть прокторинг. Если у проктора возникнут подозрения, он может досрочно завершить экзамен.

Но некоторых это не пугает. Студенты умудряются подключаться по микронаушнику задолго до начала экзамена. Таким образом можно надиктовать своему помощнику на том конце провода вопрос и прослушать ответ.

Особенно продвинутые качают программы демонстрации экрана. И к моменту начала экзамена помощник студента уже видит по экрану все то же, что видит сам студент. И по тому же микронаушнику получает правильный ответ.

Разработчики не рассказывают о том, какие технологии используют в системе онлайн-прокторинга. Это не только коммерческая тайна, но и способ не дать студентам разобраться в них, чтобы потом искать методы обхода.

С первого взгляда может показаться, что система прокторинга в электронном обучении слишком строга. На самом деле сдать в ней экзамен гораздо проще, чем у преподавателя. Здесь напрочь отсутствует субъективное отношение, человеческий фактор в виде плохого настроения/самочувствия преподавателя. Можно надеяться только на свои знания.

Впрочем, в любом случае у вас всегда будет надежная поддержка в виде сервиса студенческой помощи.

Наталья – контент-маркетолог и блогер, но все это не мешает ей оставаться адекватным человеком. Верит во все цвета радуги и не верит в теорию всемирного заговора. Увлекается «нейрохиромантией» и тайно мечтает воссоздать дома Александрийскую библиотеку.

Stepik — на данный момент единственная русскоязычная образовательная онлайн-платформа, на который любой желающий может создать экзамен с прокторингом (онлайн-сопровождением и контролем учащегося). Притом такой экзамен может иметь заданную продолжительность, ограниченное время на прохождение, точную дату начала.

В данной статье мы расскажем про то, зачем нужен прокторинг, и в подробностях опишем интеграцию системы онлайн-прокторинга ProctorEdu с платформой Stepik.

Если вы знаете, что такое онлайн-прокторинг и какие он дает преимущества для реализации процесса проведения онлайн-экзаменов, то пропускайте следующую описательную часть и сразу переходите к вопросам реализации в главе Что такое экзамен на Stepik?

Вступление

Для перевода обучающих материалов и тестовых заданий в онлайн-формат подходят практически любые области знания — от IT до HR. Например, онлайн можно можно проводить обучение новых сотрудников в компании, или осуществлять автоматическую проверку кода, или обучать работе с базами данных — и всё это непосредственно на образовательной платформе без необходимости для преподавателей или учащихся разворачивать инфраструктуру на локальных компьютерах. При этом решается проблема проверки полученных знаний, т.к. можно провести финальный экзамен по курсу в том же онлайн-формате, в котором учащийся проходил онлайн-курс. Не надо заставлять человека, желающего получить сертификат, ехать в рабочее время в Центр тестирования, нервничать из-за новой незнакомой обстановки, когда можно предоставить возможность пройти онлайн-экзамен в том же знакомом интерфейсе в удобное время, при этом сидя в комфортном кресле.

Рассмотрим IT-индустрию: например, центр сертификации Microsoft позволяет проходить сертификационные экзамены удаленно, компания Hortonworks организует получение сертификатов по администрированию собственной платформы, предоставляя доступ к удаленной виртуальной машине и список заданий, которые нужно сделать.

И, всё-таки, несмотря на неудобство для экзаменуемых, стоимость сертификатов в IT-индустрии достаточно высока, и оборудование физических помещений под цели проведения экзаменов, для которых необходимо проверять личность сдающего и осуществлять строгий контроль за процессом сдачи, может быть рентабельно. Но если посмотреть на ситуацию, когда быстрорастущей компании, которая работает в нескольких регионах, нужно массово обучать и проверять знания сотрудников, а затем на основе этой информации принимать финансовые и HR-решения, процесс организации физического присутствия сотрудников на экзаменах может стать очень дорогим и организационно сложным для масштабирования.

Как же прокторинг всех спасёт?

Давайте представим, что появился новый конкурент Uber компания Taxibus, которая называет своим ключевым преимуществом вежливость и высокий профессионализм своих водителей. Для этого водитель, сотрудничающий с компанией Taxibus, должен ежеквартально сдавать теорию по ПДД и экзамен по правилам эффективного общения. В случае успешной сдачи экзаменов водитель получает льготный тариф, который позволяет ему отдавать транспортной компании не 7, а 5% комиссии от стоимости каждой поездки. К работе с компанией Taxibus подключилось уже около 7 тысяч водителей в 15 городах страны, и чтобы не тратить деньги на аренду помещений и оплату зарплаты сотрудникам-прокторам, осуществляющим контроль процесса сдачи экзамена, компания разработала онлайн-экзамены, доступные водителям в любое время с их личных компьютеров или мобильных устройств. Однако, некоторые водители не хотят готовиться к экзаменам, но их привлекает возможность получить дополнительный бонус от компании. Поэтому они просят своих друзей, уже успешно сдавших экзамен, пройти экзамен вместо них.

Чтобы однозначно подтвердить личность сдающего и получить уверенность, что экзамен был сдан честно, без использования посторонней помощи, организаторы обучения могут подключить к экзаменам в своей обучающей платформе систему онлайн-прокторинга. Основная задача таких систем — через доступ к веб-камере, микрофону и рабочему столу пользователя подтверждать соблюдение регламента экзамена в автоматическом или полуавтоматическом режимах (о чем мы еще скажем ниже), как делал бы это реальный проктор при физическом присутствии сдающего на экзамене. Подробнее о том, как работают такие системы можно прочитать здесь.

В случае сдачи онлайн-экзаменов по IT-дисциплинам может использоваться такая же система. Системы прокторинга довольно сложны сами по себе, т.к. они требуют работы с несколькими видео-потоками, организации систем хранения видео и аудио информации, технологий распознавания лиц и речи, разработку интерфейсов проктора для управления процессом сдачи экзамена и экзаменуемого. Поэтому Stepik не стал разрабатывать свою технологию онлайн-прокторинга, а использует уже имеющиеся решения. В этом посте мы хотим рассказать некоторые технические подробности, о том, как мы интегрировали систему онлайн-прокторинга ProctorEdu для работы с нашей платформой, и как наши преподаватели курсов могут настроить прокторинг в экзаменах в своих курсах на Stepik для более надежной верификации экзаменационных сессий.

Что такое экзамен на Stepik ?

В Stepik уроки объединяются в модули или учебные недели. Любой модуль можно превратить в экзамен, выбрав в настройках тип модуля «Экзамен» и задав продолжительность экзамена. Учащиеся смогут приступить к прохождению экзамена в промежуток времени, который задает преподаватель курса, нажав кнопку «Начать экзамен». Пока длится экзамен, учащийся видит таймер с обратным отсчетом. После окончания экзамена учащийся больше не сможет набирать баллы в экзамене.

Когда пользователь приступает к экзамену, для него в базе создается запись exam-session, в которую записывается дата начала экзамена пользователем. Зная дату начала и продолжительность экзамена exam_duration_minutes, мы в интерфейсе отображаем оставшееся время пользователю. Пользователь получит только те баллы за правильные решения, которые он успел получить до окончания экзамена.

Как технически устроена интеграция с провайдером прокторинга?

Реализация возможности проходить экзамены с онлайн-прокторингом наложила дополнительные ограничения на возможность создания записи exam-session — пользователь должен иметь возможность записаться на доступный сеанс прокторинга и приступать к экзамену только, когда получил на это разрешение проктора. При этом проктор должен иметь возможность досрочно закрыть доступ к экзамену в случае нарушений, а также оценить наличие и отсутствие нарушений во время экзамена, которые могут повлиять на итоговую оценку. Для этого в Stepik мы добавили еще одну модель proctor-session, которая связана с экзаменационным модулем и позволяет создать exam-session только при наличии запущенной proctor-session (с установленной start_date).

Start — запуск сессии (установка start_date);
Stop — пользователь через интерфейс ProctorEdu может досрочно завершить экзамен;
Submit — завершение сессии проктором и вынос заключения (поле score, в котором сохраняется число от 0 до 1 (шкала с границами «не одобрено»/«одобрено»).

Как мы уже упомянули выше, для учащегося отличие экзамена с прокторингом от обычного экзамена состоит в том, что на прокторинг нужно записываться заранее, когда у проктора, контролирующего экзамен, есть свободные слоты времени. В интерфейсе Stepik это решается на странице экзамена — пользователю предлагается записаться на сеанс прокторинга, для записи пользователь переходит по ссылке на ProctorEdu (в этом момент создается proctor-session для данного пользователя), регистрируется там со своим Stepik-аккаунтом через протокол OAuth2 и выбирает время, доступное для прохождения экзамена.

Учащийся сможет начать экзамен (т.е. создать exam-session) только при наличии запущенной proctor-session (для которой proctor выполнил команду start). Когда учащемуся экзамен становится доступным для прохождения, он видит активную кнопку «Начать экзамен» и может приступить к прохождению экзамена.

Для управления proctor-sessions пользователей провайдер прокторинга (которому мы назначаем специальную роль «proctor») регистрирует у нас серверное приложение по протоколу OAuth2. Данное приложение сможет управлять сессиями прокторинга учащихся на платформе Stepik, с помощью команд которые мы описали выше.

Как создать экзамен с прокторингом на Stepik?

Создать курс;
Сделать в нем модуль-экзамен, и наполнить его уроками с экзаменационными задачами;
Настроить даты начала и даты окончания экзамена, продолжительность экзаменационной сессии;
Включить для курса режим прокторинга и задать ссылку на домен провайдера прокторинга, что позволяет делать брендированный домен для разных заказчиков услуг прокторинга (пока недоступно в интерфейсе и делается по запросу администраторами платформы).

Интеграция ProctorEdu и Stepik: взгляд со стороны системы прокторинга

Автоматизированная система прокторинга ProctorEdu — облачное решение SaaS (программное обеспечение как сервис), которое позволяет организовать и провести экзамены по процедуре прокторинга. Сеансы записываются и анализируются на предмет нарушений, после чего формируются отчеты.
ProctorEdu предоставляет интерфейсы для организации рабочего пространства прокторов со стороны образовательной организации, но также может и предоставлять своих прокторов.

Как происходит интеграция ProctorEdu и LMS в общем случае?

Подключение LMS к системе ProctorEdu;
Добавление функций прокторинга в LMS.

Интеграция ProctorEdu и Stepik

Схема подключения Stepik к системе ProctorEdu

Для интеграции с платформой Stepik на данный момент используется первый вариант из описанных выше: был разработан специальный API, который построен таким образом, чтобы можно было гибко настраивать протокол обмена данными между LMS и системой ProctorEdu в формате JSON.

Студент авторизуется в системе ProctorEdu через платформу Stepik по протоколу OAuth2. На странице авторизации есть кнопка для входа через Stepik. По нажатии на эту кнопку осуществляется запрос доступа к профилю текущего пользователя на платформе Stepik. После разрешения доступа автоматически происходит вход в систему без необходимости вводить логин и пароль.
Студент попадает в интерфейс ProctorEdu и заполняет профиль. Заполнение профиля не является обязательным шагом в зависит от требований конкретной образовательной организации. В профиле делается фотография лица, заполняются текстовые поля и загружаются дополнительные документы при необходимости. Фотография из профиля пользователя в дальнейшем используется для идентификации личности студента на каждом экзамене. Если фотографию в профиле не делать, то она будет сделана и сохранена в начале первого экзамена и будет использоваться в дальнейшем для идентификации личности студента.
После этого студент либо сразу может приступить к экзамену, либо будет необходимо выбрать время экзамена и приступить к экзамену в выбранное время. Планирование экзаменов является опциональной функцией и зависит от наличия прокторов онлайн. Если сценарий сдачи экзамена предполагает наличие наблюдателя онлайн, то имеет смысл использовать расписание. В этом случае прокторы составляют график своей работы, а студенты планируют свои экзамена на основе этого графика. Следует отметить, что есть ограничение числа одновременных экзаменов на одного проктора, обычно оно не превышает девяти.

Экзамен не будет начат пока эти требования не будут соблюдены. Во время самого экзамена осуществляется трансляция и запись веб-камеры, рабочего стола и дополнительной камеры студента, выполняется автоматическое отслеживание нарушений. В начале каждого сеанса автоматически делается фотография лица студента, эта фотография проходит процедуру идентификации личности и определяется процент схожести лица в сеансе с фотографией из профиля.
На протяжении всего экзамена осуществляется непрерывная верификация личности человека за компьютером, которая основана на методах автоматического обнаружения и распознавания лиц и методе анализа клавиатурного почерка. Проктор может наблюдать за назначенными ему студентами, видеть их трансляции, видеть уведомления о зафиксированных нарушениях. При необходимости проктор может связаться со студентом по видеосвязи или через чат. Также проктор может прервать экзамен в любой момент и указать причину в комментарии к сеансу.
После завершения экзамена формируется оценка степени доверия к результатам экзамена в процентах, формируется интерактивный протокол с видеозаписью всех трансляций, историей переписки и поминутной детализацией зафиксированных нарушений.

Интерфейс студента при прохождении экзамена на Stepik, проводящийся через систему ProctorEdu

Взаимодействие со Stepik осуществляется студентом из интерфейса системы ProctorEdu, в этом случае страница экзамена загружается через IFRAME по указанному в сеансе адресу. Экзамены импортируются из Stepik при входе студента в систему ProctorEdu.

Получение списка экзаменов из Stepik.
Как только пользователь авторизуется в системе ProctorEdu, ему отображается список доступных для сдачи экзаменов на платформе Stepik. Примем эти экзамены уже могут быть запланированы на какое-то конкретное время, установленное в настройках курса и модуля Stepik, либо студент сам может записаться на удобное для себя время с учетом графика работы прокторов;
Оповещение о начале сеанса прокторинга.
Когда время экзамена наступает, студент подключается к соответствующему сеансу. В этот момент API отправляет запрос на Stepik и доступ к этому экзамену открывается. Таким образом, нельзя начать экзамен без системы прокторинга.
Оповещение о завершении сеанса прокторинга.
После прохождения экзамена студент завершает сеанс прокторинга. В этот момент API отправляет запрос на Stepik для завершения экзамена и закрытия доступа к экзамену.
Отправка заключение по сеансу на Stepik.
После проверки протокола сеанса автоматически или вручную проктором выставляется заключение по сеансу, которое может быть положительное или отрицательное. Этот результат передается на Stepik и отображается рядом с экзаменом. Если заключение отрицательное, то результаты экзамена не засчитываются.

Заключение

В окончании статьи хотим привести плюсы и минусы экзаменов с онлайн-прокторингом.

Экономия денег и времени на организацию компьютерных классов для проведения экзаменов, поиск и обучение людей, которые должны следить за процессом прохождения экзаменов — автоматический прокторинг проверенный, масштабируемый и несложный в настройке инструмент. Просто создаем курс с задачами и включаем для него прокторинг. Количество экзаменуемых может быть и тысяча, и десять тысяч человек.
Удобство прохождения — экзаменуемый может выбрать время, в которое ему удобно пройти экзамен — прокторинг доступен не только в рабочее время.
Можно проходить экзамен из дома в комфортной обстановке, способствующей высоким результатам экзамена.
Минимум расходов на технику: компьютер, веб-камера и микрофон есть у всех или стоят очень дешево.
Отсутствие проблем с заинтересованностью местных организаторов в успешных результатах экзаменуемых. На ЕГЭ часто учителя помогают своим ученикам, т.к. учителей наказывают или поощряют за результаты их учащихся. Известны случаи, когда даже в классах, в которых установлены видеокамеры, учитель договаривается с учениками, чтобы они вслух задавали вопросы учителю. Тогда при отсутствии звука такой вид списывания сложно обнаружить.
Быстрое получение результатов: асинхронный прокторинг позволяет отфильтровать только подозрительные сессии, которые уже можно посмотреть вручную, и подтвердить, что экзамен был пройден честно.

Наличие достаточно быстрого и стабильного интернет-канала (скорость сетевого соединения 1 Мбит/c).
Проблема утечки задач — посылаем «первопроходца», который прощёлкивает и запоминает ответы и затем передает их знакомым (решается со стороны экзаменатора созданием вариаций шагов, интенсивным потоком вопросов, ответы на которые сложно запомнить).

Если вам интересно сделать свой экзамен с прокторингом на Stepik или полноценный онлайн-курс, напишите нам письмо.

Как вы считаете, достаточно ли надёжны результаты прокторинга? Если бы перед вами стояла задача проведения онлайн-экзамена, воспользовались бы вы функцией прокторинга?

Недавно ProctorEdu и КРОК запустили систему для контроля онлайн-тестирования на экономическом факультете МГУ. Она помогает наблюдать за студентами, которые сдают экзамен.

Эта система «подсвечивает» нарушения, подсказывает, на кого и на что обратить внимание. В результате один преподаватель может контролировать разом несколько десятков студентов, сидящих у себя дома.

Такой подход к онлайн-обучению, прокторинг, первыми внедрили Coursera и Udemy. Разработчики ProctorEdu задумали собственную систему прокторинга в 2016 году именно для учебных заведений, но вскоре поняли, что она способна решать другие, более серьезные задачи.

В конце концов, многие хотя бы раз в жизни списывали в школе или вузе, и мир до сих пор не рухнул, но в некоторых ситуациях жульничество на экзаменах приводит к серьезным последствиям.

Взять тестирование на знание основ информационной безопасности. Сотрудники — уязвимое звено в защите любой компании, и было бы действительно здорово, если бы все они выучили базовые меры предосторожности. Возможно, тогда бы Uber не оштрафовали на $1.2 млн. за утечку персональных данных, и не произошло скандала со взломом Twitter.

А ведь есть ответственная и опасная работа, где от знания должностных инструкций и техники безопасности зависят жизни людей.

Примеров много: от управления поездом до вахты на буровой платформе в открытом море. Это не говоря об экстремальных ситуациях, когда раздумывать просто некогда и нужны готовые, заученные решения.

Как правило, во всех этих сферах сотрудников регулярно обучают, тестируют и аттестуют, но часто это воспринимается, как формальность. К тому же, при популярных сейчас онлайн-экзаменах контролировать соблюдение правил довольно сложно.

Конечно, можно приставить к каждому участнику по проктору, следящему за соблюдением регламента из объектива веб-камеры, но чтобы всерьез протестировать персонал крупной компании за разумные сроки, потребуется целый взвод наблюдателей.

Разработчики ProctorEdu решают эту проблему при помощи нейронных сетей и нескольких десятков других алгоритмов, которые распознают нарушения по набору настраиваемых параметров.

Как это работает

Во время экзамена ProctorEdu ведет запись с камеры, микрофона и экрана компьютера.

Система отслеживает, кто находится в кадре: сравнивает человека с фотографией, сделанной перед началом тестирования, или со сканом паспорта, загруженного перед экзаменом.

Она проверяет, куда смотрит участник, нет ли в кадре других людей, и не говорит ли кто-то поблизости. Кроме того, ProctorEdu следит за тем, чтобы браузер был развернут на весь экран, детектирует переключение на другие окна и подключение дополнительных мониторов, периодически проверяет состояние сетевого подключения. Система собирает статистику по часто используемым диграфам и с ее помощью отслеживает манеру набора текста на клавиатуре.

Обычно, когда алгоритм фиксирует нарушения, например, теряет человека из виду, система сначала выводит на экран предупреждение. Если участник не реагирует, ProctorEdu приостанавливает тестирование, до тех пор, пока он не исправится. При этом делается отметка о нарушении регламента, к которой можно вернуться позже при просмотре видеозаписи экзамена.

На основе нарушений по формуле рассчитывается рейтинг достоверности результатов экзамена.

E ∈ [0, 100] ‒ оценка доверия (если E < 0, то E = 0), xk ‒ усредненное за сеанс значение метрики k, wk ‒ весовой коэффициент метрики k, M ∈ ‒ метрики

Оценка доверия базируется на всех метриках, которые отслеживает система (если они включены в настройках конкретного экзамена) и весовых коэффициентах, которые подобраны опытным путем. Оценка показывает суммарный средний процент нарушений за весь сеанс.

Протокол сеанса в PDF-формате

ProctorEdu может работать в полностью автоматическом режиме, передавать рейтинг в систему тестирования, которая аннулирует результаты с низким рейтингом достоверности. Но для большей объективности обычно приглашают живого проктора. Он может просматривать записи участников с низким рейтингом доверия уже после экзамена, а может участвовать в нем с самого начала.

В таком сценарии проктор может эффективно контролировать до 30 участников. Ему практически не нужно вмешиваться в ход экзамена. Система сообщает о нарушениях в реальном времени и подсказывает, на кого из подопечных обратить внимание.

Проктор может развернуть видео на весь экран и приглядеться к происходящему, объяснить участнику, что тот делает не так, предупредить о нарушении, приостановить или досрочно завершить экзамен.

Такая технологическая поддержка облегчает работу проктора, ускоряет проведение онлайн-экзаменов и аттестаций и позволяет сохранить высокую достоверность результатов.

Ограничения браузера и детекция лиц

Запись камеры и экрана, распознавание лиц, логирование клавиатуры… Это звучит не секьюрно, поэтому разработчики ProctorEdu сознательно отказались от идеи устанавливать свое ПО на компьютеры участников экзамена.

ProctorEdu работает через браузер при помощи супервизор SDK — JavaScript-библиотеки, в которой реализованы алгоритмы машинного обучения.

SDK не требует установки расширений и плагинов. ProctorEdu интегрируется с сервисом онлайн-тестирования при помощи стандарта IMS LTI или нескольких API-команд. Система запускается на странице тестирования и работает параллельно с ним.

Это удобно для пользователей, и браузер с его политикой безопасности дает независимую гарантию того, что данные собираются только во время экзамена.

Конечно, с таким подходом связаны определенные сложности. Разработчики сами наложили на себя ограничения, с которыми теперь вынуждены жить. Например, у системы нет доступа к оборудованию, процессам, окнам и другим ресурсам компьютера. Поэтому тестирование проходит в той же вкладке, где работает прокторинг. Это позволяет отслеживать переключение фокуса на другие вкладки и окна. Есть и нюансы, связанные с архитектурой и нейросетями.

Распознавание лиц в ProctorEdu реализовано при помощи сверточных нейросетей с использованием OpenCV и Dlib. Они регулярно переобучаются на свежесобранных данных. Для детекции лиц используется отдельная модель.

Разработчики с самого начала планировали запустить эти алгоритмы в браузере. Обычно такие задачи решают при помощи компиляции C++ в WebAssembly (Wasm). Считается, что это хорошая практика.

Чисто теоретически Wasm работает быстрее, чем JavaScript сценарий, но на практике выяснилось, что он медленнее, потребляет больше памяти и процессора, весит больше. Только загрузчик такого кода получается от 10 МБ.

Пришлось разрабатывать на JavaScript в несколько итераций. Первые версии были слабенькими и часто ошибались, но со временем команда ProctorEdu добилась стабильной работы и вывела это решение в продакшн.

Получилось быстро и компактно, но через какое-то время Сколтех пожаловался, что система не видит некоторых студентов. Оказалось, что курсы этого института проходит много чернокожих ребят, которые подключаются прямо из Африки, и алгоритм действительно не всегда их замечает.

За время обучения нейронка видела достаточно людей разных рас и возрастов, никто не ожидал возникновения такой проблемы. В конце концов выяснилось, что сетка здесь ни при чем, а дело в засветке. Африка просто слишком солнечная.

Если за спиной студента окно, или он сидит на ярком солнце в белой с иголочки рубашке, камера выставляет экспозицию по самому светлому участку изображения. Черты лица затемняются, сливаются, и алгоритму не с чем работать. Пришлось добавить рекомендации по освещению в инструкцию для участников экзамена.

Сейчас разработчики планируют перенести в браузер и алгоритм распознавания лиц. Пока что модель великовата (20—30 Мбайт с учетом сжатия), это в то время как все SDK весит около 1 мегабайта. Но здесь стоит постараться и найти решение.

Когда все изображения будут распознаваться в браузере, расходы на хостинг сократятся на добрых 30%. К тому же, на сервер будут передаваться только дескрипторы, по которым нельзя восстановить оригинальное изображение, а фото и документы так и останутся на компьютерах пользователей.

Серверная часть ProctorEdu

Кстати, об архитектуре системы.

Основной компонент ProctorEdu — сервер приложений. Он работает на Node.js и занимается обработкой веб-запросов и веб-сокетных соединений. Сервер приложений связан с базой MongoDB. Там хранятся все данные, не являющиеся бинарными объектами. Для файлов, изображений, записей экзаменов предусмотрено отдельное S3-совместимое объектное хранилище.

Архитектура ProctorEdu включает отдельный сервис под API распознавания лиц и документов, и TURN-сервер для координации WebRTC-подключений между компьютерами участников.

Раньше для видеосвязи использовался медиасервер, через который проходили видеопотоки всех клиентов. Но разработчики быстро поняли, как тяжело приходится онлайн-кинотеатрам: то соединения отваливаются, то данные не передаются, то память переполняется — вечно какие-то сложно диагностируемые проблемы. Когда они перешли на p2p архитектуру, проблемы решились сами собой.

Вся система поддерживает горизонтальное масштабирование. Ее компоненты упакованы в контейнеры. Их можно разбросать по разным физическим серверам и собрать кластерную конфигурацию в режиме мастер-мастер. Тогда нагрузка будет распределяться равномерно.

Обычно ProctorEdu разворачивают на базе одного из российских хостингов, поддерживающих хранение персональных данных, но систему можно запустить и на локальном сервере, как в проекте с МГУ и КРОК.

Требования к железу невысокие: компьютер с восьмиядерным процессором и 8 ГБ оперативной памяти потянет порядка 500 одновременных сессий. Однажды ProctorEdu обслуживала больше 5 тыс. одновременных участников экзамена и понадобилось всего 6 серверов для обработки клиентских запросов.

Можно ли обмануть систему?

Можно, но не так, как это обычно пытаются сделать.

В торговых сетях, где используют ProctorEdu, часто бывает так, что один сотрудник пытается пройти тесты за весь магазин. Порой пользователи подменяют видео с камеры на какую-нибудь видеотрансляцию. Так, однажды разработчики наблюдали, как тесты по технике безопасности на предприятии проходила известная порноактриса.

Был случай, когда один из участников подготовился особенно серьезно: напечатал чужое фото на листе А4, вырезал глаза, привязал резинку и использовал как маску.

Конечно, это все легко детектируется.

Раньше можно было поставить смартфон перед монитором так, что его не было видно с фронтальной камеры. Казалось, что участник постоянно смотрит только на монитор. Теперь ProctorEdu обеспечивает и боковой обзор. К системе подключается вторая камера или тот же смартфон.

Еще можно попробовать списывать при помощи удаленного рабочего стола или виртуальной машины. Отследить их с вкладки браузера практически невозможно. Чтобы закрыть эту возможность, в систему добавили интеграцию с Safe Exam Browser.

Это браузер с открытым исходным кодом, который блокирует компьютер на время экзамена. Он не позволяет использовать удаленный рабочий стол, посторонние программы, а также распознает виртуальные машины.

Конечно, и это не панацея. Если постараться, Safe Exam Browser можно обмануть. Еще можно раздобыть скрытые наушники или аппаратный сплиттер для мониторов. Любой алгоритм можно обойти, вопрос лишь в том, сколько усилий для этого потребуется. ProctorEdu делает так, чтобы было проще выучить, чем смухлевать. И наши клиенты подтверждают, что система успешно справляется с этой задачей.

Читайте также: