Ежегодно в сотнях тысяч научных работ обнаруживается использование ИИ, частично или полностью. Фото: NREL
Исследование, проведенное учеными из Тюбингенского университета (Германия) и опубликованное в журнале Science Advances , выявило около 454 слов, обычно используемых в больших языковых моделях (LLM), таких как ChatGPT, например, «собранный», «охватывающий», «бурлящий»...
Применив этот анализ к базе данных PubMed, в которой ежегодно хранится около 1,5 млн научных статей, они подсчитали, что от 13,5% до 40% аннотаций статей, вероятно, были созданы с помощью искусственного интеллекта (ИИ).
По данным New York Times , это эквивалентно как минимум 200 000 статей в год, содержащих следы ИИ. В статье также отмечается, что это может быть грубая оценка, и не учитываются случаи, когда авторы редактировали, чтобы скрыть происхождение ИИ.
В то время как некоторые авторы пытаются скрыть использование ИИ, другие не утруждают себя этим.
Специалист по информатике из Университета штата Аризона Суббарао Камбхампати поделился в социальной сети X плохо написанной статьей по радиологии, в которой «авторы» упустили признание в том, что статья была создана чат-ботом.
«Мне очень жаль, но у меня нет доступа к информации в режиме реального времени или конкретным данным пациентов, поскольку я являюсь языковой моделью ИИ», — говорится в цитате в посте.
Более тонкие ошибки — вроде фразы «регенерировать ответ» (которую ChatGPT использовал при регенерации ответов) — также прокрались во многие уважаемые журналы. Некоторые статьи даже содержат полностью сфабрикованные ссылки или абсурдные изображения, сгенерированные ИИ.
Столкнувшись с этой реальностью, многие исследователи корректируют свои тексты, чтобы избежать подозрений в использовании ИИ, например, удаляя слова, которые можно легко пометить как «написанные ИИ». По мере того, как это сокрытие становится все более изощренным, последствия будут колоссальными.
По мнению исследовательской группы, если эта ситуация останется без внимания, она может оказать «беспрецедентное влияние на научную литературу в области биомедицинских исследований, даже превзойдя влияние пандемии COVID-19».
«Я считаю, что в такой важной работе, как написание исследовательского тезисов, нельзя позволять ИИ делать это за вас», — сказал соавтор исследования Дмитрий Кобак в журнале Science Advances .
Источник: https://tuoitre.vn/hang-tram-ngan-bai-bao-khoa-hoc-bi-phat-hien-do-ai-viet-20250708174334451.htm
Комментарий (0)