Текст, сгенерированный искусственным интеллектом, нелегко обнаружить с помощью такого программного обеспечения, как ChatGPT. Такие инструменты, как ZeroGPT и Turnitin, неэффективны для идентификации контента ИИ. Общие показатели написания ИИ включают использование слов, повторение и несогласованность связности.
Появление больших языковых моделей оказало огромное влияние на любую отрасль, использующую текст, особенно на образование. ChatGPT — одна из таких моделей, которую снова и снова обвиняют в том, что она помогает учащимся списывать эссе и другие задания, что приводит к ряду случаев, когда студентов несправедливо обвиняют в списывании. Но можно ли обнаружить ChatGPT? Это сложно, но ответ в основном нет. Однако это нечто большее, так что продолжайте читать.
ChatGPT действительно не может быть обнаружен
Ни Microsoft Copilot, ни Google Gemini не могут
В целом детекторы искусственного интеллекта не могут и не работают, и причина этого довольно тонкая. По сути, они пытаются распознать закономерности и статистическую вероятность появления слов одно за другим в том порядке, в котором они появляются. Что касается академического текста, где обычно навязывается стиль письма, то он сразу же разваливается, поскольку имеет тенденцию быть написанным одинаково. Контент, написанный LLM, например GPT-4, GPT-3.5 или Gemini, также может быть реструктурирован и изменен.
Что касается того, почему такие инструменты, как ZeroGPT, Turnitin и другие сервисы, не работают, я думаю, что лучшим примером этого является собственный детектор GPT OpenAI, который компания выпустила летом прошлого года. Созданный только для того, чтобы его быстро отложили на полку, это был инструмент, который, как утверждали создатели ChatGPT, можно было использовать для обнаружения ИИ, но неудивительно, что он потерпел неудачу. Он не мог последовательно обнаруживать контент, созданный ИИ, и часто помечал контент, который не был создан ИИ, как созданный ИИ. Тогда это не совсем мощный инструмент, не так ли?
Если OpenAI не может сделать это правильно, с их беспрецедентным доступом к магии ChatGPT, то невозможно утверждать, что другие могут с какой-либо степенью последовательности. ZeroGPT, например, обнаруживает, что конституция Соединенных Штатов создана искусственным интеллектом. Возможно, я ошибаюсь, но я не думаю, что ChatGPT был доступен, когда в 1787 году было создано правительство Соединенных Штатов. Однако есть способы попытаться обнаружить контент ИИ, и ни один из них на самом деле не связан с программным обеспечением.
Как обнаружить ИИ-контент
Это не требует программного обеспечения
Есть несколько способов проанализировать текст, чтобы выяснить, сгенерирован ли он ИИ, но, честно говоря, вы никогда не будете уверены. Они послужат индикаторами, которые могут дать вам больше информации, которую можно будет собрать, если вам нужно будет с кем-то поговорить об этом, но они не дадут вам однозначного ответа.
Использование слов. Одним из наиболее красноречивых признаков написания ИИ является использование экстравагантных или иным образом ярких слов. Эти слова выделяются, особенно в тексте, который не требует этого или отличается от обычного стиля писателя. Повторение: модели ИИ часто повторяют одни и те же дескрипторы или фразы повсюду, особенно если контент представляет собой комбинацию нескольких разных подсказок. Следите за ними, так как это могут быть фразы из обучающих данных, которые не совсем соответствуют содержанию. Последовательность и связность. Текст, сгенерированный искусственным интеллектом, иногда может не иметь последовательности или иметь проблемы со связностью в длинных отрывках, поэтому следите за любыми логическими ошибками. Языковые модели не используют логику при генерации ответов (обычно, если она не математическая), поэтому следите за любыми логическими противоречиями. Ссылки на ChatGPT. Вы можете быть удивлены, узнав, что в прошлом учащимся удавалось выйти из себя, случайно включая в текст ссылки, которые ИИ делает сам на себя. Учащиеся копируют и вставляют ответы целиком, включая заключительную часть, в которой ChatGPT говорит, что это просто ChatGPT.
Это лучшие способы постоянно обнаруживать ИИ, но вам придется делать это самостоятельно. Не существует инструментов, которые могли бы сделать это за вас постоянно, особенно с учетом широкого разнообразия моделей, доступных сейчас для использования.
Если вы хотите попытаться идентифицировать контент, написанный искусственным интеллектом, вам нужно присмотреться; и даже тогда вы все равно можете его не найти.
