Вот как ChatGPT может решить свою основную проблему плагиата

Дядя Влад

ChatGPT — замечательный инструмент, но у этого продвинутого сервиса искусственного интеллекта есть темная сторона, которая может писать как эксперт практически по любой теме — плагиат. Когда учащиеся, которые должны демонстрировать свои знания и понимание темы, обманывают, тайно используя ChatGPT, это делает тестирование и оценку недействительными. Навыки искусственного интеллекта — это здорово, но это не единственный предмет, который должны изучать студенты.

Решить эту проблему оказалось непросто. Поскольку ChatGPT был обучен на обширном наборе данных человеческого письма, преподавателю почти невозможно определить, было ли эссе создано студентом или машиной. Было создано несколько инструментов, которые пытаются распознавать текст, созданный ИИ , но точность была слишком низкой, чтобы быть полезной.

На фоне растущих опасений со стороны преподавателей и запретов на использование учащимися ChatGPT Business Insider сообщает, что OpenAI работает над решением этой проблемы. В недавнем твите Тома Гольдштейна, доцента машинного обучения Университета Мэриленда, объясняется, насколько точным может быть обнаружение текста с водяными знаками, написанного ChatGPT.

#OpenAI планирует помешать пользователям #ChatGPT создавать ботов в социальных сетях и обманывать домашнюю работу с помощью "водяных знаков" выходы. Насколько хорошо это может работать? Вот всего 23 слова из 1,3-миллиардного параметра с водяным знаком LLM. Мы обнаружили его с достоверностью 99,999999999994%. Вот как pic.twitter.com/pVC9M3qPyQ

– Том Гольдштейн (@tomgoldsteincs) 25 января 2023 г.

Любой инструмент, способный определить плагиат почти со 100% точностью, быстро разрешит этот спор и развеет любые опасения. По словам Гольдштейна, одно из решений состоит в том, чтобы заставить большую языковую модель (LLM) выбирать из ограниченного словарного запаса слов, формируя белый список, который ИИ может использовать, и черный список слов, которые запрещены. Если в образце появляется неестественно большое количество слов из белого списка, это может означать, что он был сгенерирован искусственным интеллектом.

Этот упрощенный подход был бы слишком ограничительным, поскольку трудно предсказать, какие слова могут понадобиться для обсуждения, когда работаешь по одному слову за раз, как это делают большинство LLM. Гольдштейн предполагает, что ChatGPT можно дать возможность заглядывать дальше, чем на одно слово, чтобы он мог планировать предложение, которое может быть заполнено словами из белого списка, но при этом иметь смысл.

ChatGPT произвел большой фурор, когда он вошел в пул авторов сообщества, и также может стать отличным помощником в обучении. Внедрение искусственного интеллекта в школах важно, поскольку в будущем это будет важная технология для понимания, но она будет вызывать споры до тех пор, пока не будет решена проблема плагиата.