Какие слова выдают ИИ?

Новое исследование более 15 миллионов биомедицинских рефератов на PubMed показало, что не менее 13,5 процентов научных работ, опубликованных в 2024 году, демонстрируют признаки инструментов для написания с помощью искусственного интеллекта, в первую очередь ChatGPT от OpenAI.

Исследование, проведенное учеными из Северо-Западного университета и Института искусственного интеллекта Херти в области здоровья мозга при Тюбингенском университете, показало резкий рост в 2024 году количества словосочетаний, связанных с письмом, созданным искусственным интеллектом. Они включали в себя как необычные термины, такие как «углубление», «подчеркивание» и «демонстрация», так и более знакомые слова, такие как «потенциал», «выводы» и «решающий».

Чтобы измерить это изменение, исследователи сравнили частоту использования слов в 2024 году с базовыми данными за 2021 и 2022 годы. В конечном итоге они определили 454 слова, которыми часто злоупотребляют модели ИИ, в том числе «инкапсулирует», «заслуживает внимания», «подчеркивает», «тщательный изучение» и «бесшовный».

Тем не менее, эксперты объяснили, что частота слов сама по себе не является достаточным доказательством использования ИИ.

-Язык меняется со временем, — сказал Стюарт Гейгер, доцент кафедры коммуникации в Калифорнийском университете в Сан-Диего. — Слово «Delve» взлетело до небес, и это слово теперь в лексиконе общества, отчасти благодаря ChatGPT.

Гейгер подчеркнул, что обнаружение ИИ в письменном виде — это не просто техническая задача; Это также этично.

— Единственный способ разумно обнаружить использование LLM — это если вы находитесь там, наблюдая за процессом написания, — сказал он. — Это сопряжено с большими затратами, логистическими, моральными и техническими.

Тем не менее, Стюарт предостерег от поспешных выводов, основанных на поверхностных подсказках, не зная полного контекста.

— Возможно, они только что увидели кучу текстов, сгенерированных ChatGPT, и теперь думают, что именно так выглядит хорошее письмо, — сказал он. — Это вся проблема, с которой мы в академических кругах боремся, особенно когда мы не можем просто посадить студентов на места и убедиться, что это просто ручка и бумага.

По мере того, как текст, созданный искусственным интеллектом, становится все более распространенным, преподаватели обращаются к инструментам, которые утверждают, что обнаруживают его; Однако качество этих инструментов различается.

В октябре 2024 года Decrypt протестировал ведущие инструменты обнаружения искусственного интеллекта, включая Grammarly, Quillbot, GPTZero и ZeroGPT. Результаты сильно разнятся: ZeroGPT утверждал, что Декларация независимости США на 97,93% была сгенерирована искусственным интеллектом, в то время как GPTZero дал только 10%.

— Продается много змеиного масла, — сказал Гейгер.

По словам Гейгера, опасения по поводу инструментов написания с помощью ИИ перекликаются с прошлыми дебатами о проверке орфографии, Википедии и CliffsNotes и отражают более глубокие вопросы о цели письма, авторстве и доверии.

— Люди обеспокоены тем, что когда вам приходилось писать слова самостоятельно, вам приходилось думать о них, — сказал он. — Это то, на что люди так сильно реагируют, когда видят что-то, что кажется подозрительным.

Профессор бизнеса Университета Райса Кэтлин Перли утверждает, что, хотя письмо с помощью ИИ часто демонстрирует закономерности, такие как повторяющиеся структуры или слишком часто используемые слова, такие как «углубление», самое важное заключается в том, помогает ли он исследователям без ущерба для качества. По ее словам, это особенно верно для тех, кто не является носителем английского языка или людей, сталкивающихся с другими проблемами.

— Если ИИ помогает исследователям преодолевать такие проблемы, как языковые барьеры или трудности в обучении, и не ставит под угрозу оригинальность или качество их работы, то я не вижу в этом проблемы», — сказала она Decrypt. «Я думаю, что это может быть общим преимуществом, потому что это позволяет людям, у которых был другой опыт, идеи, опыт, участвовать в том, что могло быть препятствием из-за отсутствия формальных навыков письма.

Перли, советник по искусственному интеллекту деканов в Rice Business, отметила, что еще одна дилемма заключается в склонности людей менять способ написания из-за страха быть обвиненными в использовании ИИ, добавив, что она стала более осознанно относиться к определенным словам, которые могут быть помечены как потенциально созданные ИИ.

В то время как некоторые критикуют этот стиль за отсутствие индивидуальности, Перли рассматривает написание текстов с помощью ИИ как инструмент, который может демократизировать участие в официальных исследованиях.

— Конечно, мы могли бы получить больше «углублений» и длинных тире, — сказала она. — Но если ИИ помогает людям из разных слоев общества делиться важными исследованиями, мне все равно, насколько отполировано это звучит — оно того стоит.