EU AI Act и ИИ-прокторинг: руководство по соответствию на 2026 год

Посмотрите, как EU AI Act может классифицировать ИИ-прокторинг, как контроль со стороны человека влияет на риск и какие университеты и поставщики сертификации должны документировать сейчас.

Оркен Рахматулла

Руководитель образования

10 сент. 2026 г.

ИИ-прокторинг, используемый учебным или профессиональным учреждением для мониторинга и выявления запрещенного поведения во время экзамена, может подпадать под категорию образования высокого риска EU AI Act. Но классификация зависит от целевого назначения системы, того, как используется ее выход, и выполняет ли ИИ решение, имеющее существенные последствия или узкую вспомогательную задачу.

Служба AI Act Европейской комиссии теперь приводит конкретные примеры прокторинга. Это делает 2026 год подходящим временем для университетов, поставщиков сертификации и поставщиков технологий, чтобы документировать свои варианты использования вместо того, чтобы полагаться на общий ярлык, такой как «мониторинг ИИ». Эта статья является практическим руководством по планированию, а не юридической консультацией.

Почему предназначение имеет большее значение, чем название продукта

AI Act классифицирует системы по тому, что они предназначены для реального развертывания. Два продукта могут использовать аналогичные модели, но попадают в различные анализы риска, потому что один обнаруживает запрещенное поведение во время сертификационного экзамена, а другой только помогает с процедурной проверкой личности.

Примеры, которые Комиссия перечисляет как потенциально имеющие сферу охвата

Прокторинг с поддержкой ИИ используется во время сертификационного экзамена для мониторинга доступа к несанкционированному материалу или связи с другим лицом.
Анализ поведения в режиме реального времени используется для выявления закономерностей, которые могут указывать на мошенничество во время онлайн-экзамена.
Мониторинг экзамена ИИ используется для обнаружения запрещенных объектов или поведения во время личной оценки.

Примеры, которые могут выходить за рамки конкретного случая использования с высоким риском

Проверка плагиата, которая анализирует работу, произведенную вне живого или контролируемого теста.
Проверка личности, которая обрабатывает документы или данные лица, но оставляет доступ и решения о санкциях проктору, может квалифицироваться как узкая процедурная задача.
ИИ, используемый человеческим проктором для подтверждения или оспаривания наблюдения, уже сделанного этим проктором, может квалифицироваться как улучшение ранее завершенной человеческой деятельности.

Эти примеры полезны, но они не являются ярлыком. Организация должна документировать фактический рабочий процесс, результаты моделирования, точки принятия решений, затронутых людей и последствия. Название функции или договорный отказ от ответственности не будут переопределять то, как система спроектирована и используется.

Делает ли проверка специалистом ИИ прокторинг низкого риска?

Не автоматически. Человеческий надзор важен, но рецензент должен обладать полномочиями, информацией, временем и обучением, чтобы оспорить выход ИИ. Обзор резиновых штемпелей не меняет практического воздействия системы. Ключевые вопросы заключаются в том, инициирует ли ИИ или определяет последующий результат, существенно ли его результат формирует решение и может ли рецензент самостоятельно оценить доказательства.

Для целостности экзамена более безопасная операционная модель заключается в том, чтобы рассматривать результаты ИИ в качестве индикаторов риска. Система должна показывать основные сроки и соответствующие доказательства, в то время как обученный рецензент применяет правила учреждения. Кандидаты должны иметь доступ к документированной процедуре вызова или апелляции.

Текущая временная линия EU AI Act

Текущий график реализации Европейской комиссии гласит, что правила прозрачности применяются с августа 2026 года. В соответствии с соглашением об упрощении 2026 года правила высокого риска для автономных систем в чувствительных областях, включая образование, будут применяться со 2 декабря 2027 года. Организации должны проверять последние официальные сроки принятия решений, поскольку сроки осуществления и вспомогательные руководящие указания могут меняться.

Дополнительное время подготовки не должно рассматриваться как разрешение на ожидание. Управление доказательствами, контроль со стороны человека, качество данных, тестирование точности и возмещение ущерба кандидатам - это операционные системы, которые требуют времени для разработки и проверки.

Практический чек-лист соответствия

1. Написать точное заявление о целевом назначении

Опишите пользователей, тип экзамена, отслеживаемое поведение, выходы модели и решения, на которые может повлиять выход. Отдельная проверка личности, обнаружение поведения, приоритизация доказательств и окончательные решения о ненадлежащем поведении вместо описания всего как одной функции ИИ.

2 Картографируйте каждое человеческое и автоматизированное решение

Документ, который видит каждый флаг, какие доказательства они получают, могут ли они отменить его, и что происходит дальше. Определите любую ситуацию, когда автоматический результат блокирует вход, аннулирует попытку, меняет оценку или вызывает санкцию.

3. Создание системы регистрации и отслеживания доказательств

Держите надежную запись правила, события, метки времени, модели или контроля, действия рецензента и окончательного результата. Регистрация должна поддерживать обеспечение качества и апелляции без сбора несвязанных данных о кандидатах.

4.Точность тестирования в реальной популяции кандидатов

Измерять ложные срабатывания и ложные срабатывания по типу экзамена, устройству, состоянию сети, освещению, языку, инвалидности или пути размещения и другим соответствующим условиям эксплуатации. Глобальной модели недостаточно для понимания риска развертывания.

5. Определение значимого человеческого надзора

Обучайте рецензентов, предоставляйте им доступ к основным доказательствам, предотвращайте предвзятость автоматизации и контролируйте соглашение рецензента. Установите пороги эскалации для двусмысленных случаев или случаев с высокой отдачей.

6. Минимизировать и регулировать персональные данные

Определите законную основу и цель для каждого типа данных, ограничьте доступ, опубликуйте правила хранения и удаления и оцените биометрическую и видеообработку отдельно. Закупочные команды должны понимать, где хранятся записи и журналы, и может ли клиент контролировать резидентность данных.

7. Сообщать кандидатам и обеспечивать возмещение ущерба

Используйте простой язык для объяснения мониторинга, запрещенного поведения, участия ИИ, использования доказательств, удержания, размещения, технической поддержки и апелляций. Кандидат должен знать, как запросить проверка специалистом оспариваемого результата.

8. Контроль поставщиков и изменения моделей

Требуется документация для изменения модели материала, порога, функции и потока данных. Повторное тестирование рабочего процесса, когда изменение может повлиять на точность, классификацию или опыт кандидата.

Вопросы к поставщику ИИ Proctoring

Какие решения принимает система, рекомендует или расставляет приоритеты?
Может ли клиент настроить флаги ИИ только в качестве консультативного доказательства?
Какие доказательства показаны рецензенту для каждого флага?
Как измеряются и исследуются ложные срабатывания?
Как система обрабатывает низкую пропускную способность, плохое освещение, вспомогательные технологии и размещение?
Где хранятся видео, биометрические данные и журналы событий, и кто контролирует хранение?
Как обрабатываются виртуальные камеры, воспроизводимые носители, удаленный доступ и обходы на уровне устройств?
Какие документы и уведомления об изменениях доступны для управления и аудита?

Часто задаваемые вопросы

Является ли каждая система прокторинга ИИ высокой степенью риска в рамках EU AI Act?

Нет. Анализ зависит от целевого назначения и использования. Мониторинг ИИ в режиме реального времени для запрещенного поведения во время образовательных или сертификационных экзаменов четко определен в качестве конкретного примера, в то время как узкая процедурная проверка личности или ИИ, которая поддерживает только предыдущую оценку человека, может претендовать на исключение в некоторых обстоятельствах.

Сохранение человека в цикле гарантирует исключение?

Нет. Участие человека должно быть значимым. Рецензентам необходимы авторитет и достаточные доказательства, чтобы оспорить результаты, и ИИ не должен эффективно определять результат до того, как произойдет обзор.

Рассматривается ли проверка личности так же, как обнаружение обмана?

Не обязательно. Комиссия приводит пример, когда проверка личности, которая упрощает проверку документов или лиц, без решения о доступе к экзаменам или санкциях, может рассматриваться как процедурная задача. Необходимо оценить весь рабочий процесс.

Что должны сделать организации в 2026 году?

Создайте список вариантов использования и карту решений. Эти два документа показывают, какие системы требуют более глубокого анализа классификации и где отсутствуют доказательства, контроль со стороны человека, конфиденциальность или контроль возмещения.