Человек авторизируется через приложение, получает «белый адрес» и доступ в интернет. С этого момента, абсолютно все сторонние действия заморожены. Он не может открыть лишние вкладки, мессенджеры, воспользоваться AI-помощниками. За ним наблюдают сразу несколько камер. За ним наблюдают сразу несколько камер. Трансляцию с них экзаменатор может смотреть в режиме реального времени, а может не смотреть вовсе. После экзамена система сама сформирует отчёт и выставит каждому сдающему индекс доверия. Высокий – экзаменуемый не пытался обмануть систему, низкий – замечны признаки мошенничества. Так работает проект Ерсултана Ерманова и его команды разработчиков. О нём мы и расскажем в этом материале El.kz.
– Ерсултан, расскажите историю проекта. Как давно появилась идея, сколько времени ушло на реализацию, подготовку, создание и набор команды?
– Проект исторически начался в 2018 году. Тогда мы стартовали как Learning Management System: предлагали систему для организации дистанционного обучения в образовательных и частных корпоративных организациях. Два года мы, по сути, ходили безуспешно и искали свою модель. Потом разработали функционал для дистанционных проверок знаний с обеспечением академической честности. На нас тогда смотрели как на сумасшедших: мало кто верил в концепцию. Честно говоря, мы уже думали закрыть проект. С наступлением пандемии всё резко поменялось. Спрос на такие услуги вырос, в гипотезу поверили, потому что она стала максимально актуальной. Начали обслуживать клиентов – первыми были вузы. Мы проводили львиную долю онлайн-сессий во многих образовательных учреждениях страны.
– Что происходило после пандемии?
– Мы нашли для себя новые ниши. Например, проведение образовательных олимпиад и конкурсов через платформу, чтобы не собирать детей в одной локации. Были кейсы, когда олимпиаду одновременно проходили 100 тысяч детей по всей стране. Мы контролировали, чтобы они не списывали и не пользовались сторонней помощью. Дальше появились корпоративные кейсы. Сейчас мы являемся оператором теоретического теста на водительское удостоверение по всей стране. Также ведём работу в направлении проведения единого национального тестирования.
– Вы работаете только в Казахстане или уже есть международные проекты?
– Мы представлены и за рубежом. В Великобритании совместно с Ассоциацией автошкол Великобритании проводим сертификацию водителей такси и автобуса. Есть кейс в Канаде по сертификации сотрудников пищевой промышленности при Министерстве здравоохранения. Сейчас идёт активная фаза выхода на новые рынки.
– Расскажите о команде: сколько человек работает над проектом, где они находятся?
– Сейчас над проектом работает 22 человека. Основной костяк – это техническая команда. В целом компания разношёрстная. Есть локальный бэк-офис в Астане, и астанинская команда обслуживает кейсы как внутри страны, так и за рубежом. Глава государства наградил нас как самый активный стартап прошлого года. Наш проект оценил и Павел Дуров.
– В каком виде представлен ваш продукт: приложение, сайт?
– Основная цель очень простая: чтобы люди не списывали и не пользовались сторонней помощью во время сертификаций, проверок знаний, экзаменов, тестов и так далее. Форм взаимодействия несколько, в зависимости от того, насколько критично заказчику, списывает человек или нет. В базовом варианте пользователь заходит через веб-интерфейс в личный кабинет, открывает задание, и мы даём базовые ограничения. Там используются поведенческие факторы и другие механики.
– Есть более глубокий уровень. Пользователь авторизуется через наше приложение. Мы блокируем компьютер полностью и оставляем доступ только к одному «белому адресу» в интернете, то есть разрешаем только нужную страницу. Все остальные действия «заморожены»: нельзя открыть вкладки, мессенджеры, сторонние приложения. Плюс мы подключаем дополнительную камеру: пользователь сканирует QR-код с экрана, включается видеозапись с телефона. В реальном времени клиент может видеть каждого пользователя, но даже это часто не требуется, потому что в конце мы генерируем AI-отчёт с «индексом доверия».
– Что такое «индекс доверия» и как он используется?
– Индекс доверия показывает, насколько поведение пользователя похоже на честную сдачу. Если индекс низкий, работу нужно перепроверить или, в теории, мы можем взять на себя полномочия по аннулированию. Если для нашей модели поведение кажется подозрительным, индекс может быть близок к нулю. Если индекс 100%, то, по сути, такую заявку можно даже не открывать: значит, человек не пытался обмануть систему.
– Почему сейчас есть особый интерес к таким решениям, особенно за рубежом?
– Сейчас сильный бум на инструменты, которые помогают списывать. Есть известные кейсы: например, в Кремниевой долине обсуждали проект, который позиционирует себя как cheating-as-a-service, то есть продажа услуг по списыванию и мошенничеству. Это расширение, которое устанавливается незаметно и помогает во время интервью, тестов, кодинг-интервью: считывает содержимое экрана, голос и подбирает ответы. Таких проектов много. Они появляются регулярно. Из-за этого люди начали всерьёз задумываться об академической честности, о том, как у детей развивать критическое мышление. Поэтому продукты вроде нашего стали особенно актуальны. И ещё важный момент: мы много лет работали на локальном рынке, и это дало нам большую базу знаний о том, как именно люди пытаются обмануть систему. На Западе индустрия в каком-то смысле только зарождается, а у нас уже накоплена методология.
– Допустим, я сдаю экзамен. Как вы понимаете, списываю я или нет? По каким признакам идёт наблюдение?
– Это можно объяснить через эволюцию проекта. В 2020 году пользователь был «не обучен»: заходил в систему и не понимал, что именно система отслеживает. Перед камерой ерзали, рядом ходили люди, подсказывали. Мы такие кейсы аннулировали. Потом пользователи поняли: перед веб-камерой нельзя делать очевидные вещи. И начали «эволюционировать»: сидят ровно, без шумов, без посторонних людей в кадре.Сейчас из большого количества экзаменов случаи, когда человек прямо в объективе камеры делает что-то запрещённое, почти нулевые. Все ушли в технические способы обхода. Появились расширения и запрещённое ПО, которые пытаются обойти ограничения. Наша работа теперь в основном в выявлении и блокировке такого ПО. Мы изучили эти кейсы и, условно, 99% сценариев, доступных обычному пользователю, мы блокируем и выявляем. Мы научились выявлять расширения, которые помогают во время экзамена, умеем выявлять микронаушники во время тестов. Это сейчас одни из ключевых схем цифрового мошенничества.
– Вы говорите, что система анализирует поведение. Это автоматизировано или вручную?
– Сама технология опирается на огромный массив данных. За годы работы мы накопили тысячи видеозаписей экзаменов и подробные поведенческие логи. Система фиксирует буквально всё: каждое действие пользователя, клики, движение мыши, паузы, поведение перед камерой. Эти данные мы использовали для обучения AI-модели, благодаря чему научились достаточно точно различать нормальное и аномальное поведение. Простейший пример: пользователь может десять минут находиться на экзамене, почти не отвечая на вопросы, а затем за две минуты дать правильные ответы практически на всё. Мы понимаем, сколько времени в среднем уходит на чтение вопроса, его осмысление и выбор варианта. Когда человек словно не читая отвечает несколько раз подряд — и каждый раз правильно — это противоречит теории вероятности. Такое поведение сигнализирует о возможной сторонней помощи. Подобные кейсы система автоматически относит к группе повышенного внимания. Далее начинается постанализ: изучаются логи, технические параметры устройства, изменения в поведении и другие метаданные. Это сложная фоновая работа, которая не видна пользователю, но играет ключевую роль.
– Но окончательное решение всегда за человеком? Или AI может сам «аннулировать»?
– Всё зависит от требований заказчика. Многие экзамены и сертификации жёстко регламентированы. В таких случаях формат нельзя менять: например, невозможно полностью передать право финального решения AI-модели. Как бы ни работала система, итоговый вердикт всё равно остаётся за человеком — результат обязательно перепроверяется вручную.
– Вы изучаете способы обхода систем только на своих кейсах или тестируете и другие решения?
– Мы мониторим все кейсы, которые сейчас доступны и «челленджим» другие системы. Сейчас, например, очень популярна услуга помощи в сдаче различных тестов: IELTS, TOEFL и других. За определённую сумму, люди показывают, как обходить ограничения. Мы эти кейсы пробовали, понимаем механику, и эти знания используем не для обхода, а для защиты.
– С кем вы сотрудничаете в Казахстане? И какие планы на будущее?
– Основная масса применения нашего продукта в Казахстане это сфера образования. Сейчас мы активно идём в школы. Эксперты много говорят о том, что дети часто не делают домашние задания сами, используют большие языковые модели, просто копируют ответы, и из-за этого не развивается критическое мышление. Также работаем в направлении техники безопасности. Можем генерировать отчёт: что человек прошёл биометрию, что это именно он, что он прошёл обучение и действительно обладает знаниями, отвечал сам, без помощи. И если потом случится инцидент, проверяющие органы смогут поднять записи и цифровой след и проверить, были ли факты мошенничества.
– Ещё большой спрос идёт со стороны HR. Много интервью с соискателями проводится онлайн, а люди используют запрещённые расширения, которые подбирают ответы на профессиональные вопросы. На интервью человек звучит уверенно, а в работе выясняется, что знаний нет. Компании несут убытки. У нас есть кейсы в этом направлении. В Казахстане мы, в принципе, покрыли все сферы, которые там так или иначе соприкасаются с чувствительной сертификацией. И у нас сейчас основной акцент за рубеж. Там мы идем нетривиальным путем. Решения подобные нашим работают, в основном, в карьерной сфере образования. Мы идем через рынок сложных сертификаций. Мы нашли партнеров, продемонстрировали нашу систему. Они в нас поверили. Мы сейчас активно и успешно работаем на этом рынке. Я думаю, это только начало. Все-таки наша сфера деятельности больше работает по принципу сарафанного радио. Есть кейс в Эфиопии по проверке знаний, похожий на модель ЕНТ, пока в пилоте.
Хотите узнать, как йога помогает жить без спешки и стресса? Об этом в нашем интервью рассказала йогиня и блогер Диана Назарова.