Разработан инструмент, который распознаёт тексты, написанные ИИ

Новый сервис под названием GPTZero создал выпускник Принстонского университета Эдвард Тиан. Об этом сообщает Tech & Learning.

Разработчик вдохновился вышедшим в ноябре ChatGPT — чат-ботом с искусственным интеллектом (ИИ), который способен генерировать тексты достаточно высокого качества. Если для России это пока не очень актуальная тема, то на Западе учителя и преподаватели вузов давно уже волнуются из-за того, что такие задания для учащихся, как написание эссе, рискуют стать бессмысленными, поскольку студенты легко могут генерировать эти тексты с помощью ИИ (англоязычные сервисы для этого уже довольно неплохо развиты).

Тиан специализируется на компьютерных науках и журналистике, а свою диссертацию он посвятил языковым признакам текстов, сгенерированных ИИ. В ChatGPT он тоже увидел инструмент, который можно использовать для академического мошенничества.

В результате Тиан попытался создать эффективный детектор текстов, сгенерированных ChatGPT, который могли бы использовать преподаватели. На данный момент готова бесплатная пилотная версия GPTZero. Ей удаётся определить, что текст создан ИИ, более чем в 98% случаев. Уже 20 тысяч педагогов со всего мира подписались на её обновления. Инструмент корректно работает с текстами на английском языке.

При анализе новый сервис опирается на два критерия — запутанность и волнообразность. Под запутанностью имеется в виду то, насколько знакомым программе кажется текст: если в нём использованы привычные для ИИ языковые модели, то с большой вероятностью его сгенерировал не человек. А под волнообразностью разработчик подразумевает, что в тексте, написанном человеком, обычно чередуются короткие и длинные предложения. А текст, написанный ИИ, будет более равномерным.

Однако пока новый сервис не выявляет работу ИИ, если части текста, сгенерированные им, разбавлены тем, что написал человек. Предполагается, что эту задачу удастся решить в следующей версии GPTZero. Тиан уверен, что подобные детекторы всегда будут идти в ногу со временем. По его словам, создать такую программу намного проще, чем обучить сервис вроде ChatGPT.

Кроме того, разработчик уверен, что даже со временем не уменьшится ценность текстовых произведений, созданных именно человеком: языковые модели не в состоянии создать что-то действительно оригинальное.

Кстати, недавно стало известно, что ChatGPT сдал экзамены в двух университетах США. Правда, высший балл получить не удалось.