Инструмент для определения ИИ-текста нашёл признаки искусственного интеллекта в энциклике Папы Льва.

[В ней действительно обсуждаются:

регулирование ИИ,

права работников,

концентрация власти у технокомпаний,

автономное оружие,

влияние ИИ на общество и достоинство человека. ]

Папа Лев XIV опубликовал в воскресенье энциклику «Magnifica Humanitas» объёмом 42 300 слов, в которой призвал к государственному контролю над ИИ-компаниями, защите прав работников и запрету автономного оружия.

Сооснователь Anthropic Крис Ола назвал вмешательство Церкви «чрезвычайно важным», тогда как технологический деятель Дэвид Сакс усомнился в том, не откроет ли широкое регулирование путь к цензуре.

Анализ с помощью инструмента обнаружения Pangram показал, что 46% протестированного фрагмента, по всей видимости, написаны с помощью ИИ, сообщает The Verge; Ватикан никак не прокомментировал эти данные.

Комментарий

Интересно, что это уже не первый случай, когда ИИ-детекторы «обвиняют» классические или официальные тексты. Ранее они ошибочно помечали:

Конституцию США,

Библию,

тексты Шекспира,

студенческие эссе, написанные людьми.

То есть сама по себе цифра «46% AI» почти ничего не доказывает.

По поводу идентификации Библии, конституции США, Шекспира и так далее, как ИИ 

Чаще всего в этих вирусных примерах фигурировали именно GPTZero и ZeroGPT.

Например:

Ars Technica в 2023 году показывал, что GPTZero помечал фрагменты Конституции США как «likely to be written entirely by AI». 

В других вирусных скриншотах ZeroGPT выдавал для Конституции США оценку около 92% AI-generated. 

Причина в том, что такие тексты:

очень формальны,

предсказуемы по структуре,

написаны ровным стилем,

многократно цитировались в интернете и обучающих данных.

А большинство AI-детекторов анализируют именно статистические характеристики текста — так называемые:

насколько текст «предсказуемвариативность длины и структуры предложений

Из-за этого:

юридические документы,

Библия,

научные статьи,

академическая проза

часто выглядят для детектора «слишком гладкими» и получают ложные срабатывания.

Собственно, история с энцикликой папы — это почти тот же самый феномен, только теперь вместо GPTZero использовали Pangram. 

Объяснительная записка ☝️об ошибках идентификации искусственными интеллектами создана GPT OpenAi специально для редакции блога

https://www.theverge.com/ai-artificial-intelligence/937801/pope-leo-xiv-magnifica-humanitas-ai-pangram