Новые модели GPT-o3 и GPT-o4 mini тайно метят каждый текст

Исследователи из Rumi обнаружили, что GPT-o3 и GPT-o4 mini от OpenAI тайно встраивают в генерируемые тексты специальные символы-маркеры, невидимые для человека. Эти "водяные знаки" представляют собой особые Unicode-символы, в первую очередь "узкий неразрывный пробел", которые визуально неотличимы от обычных пробелов, но имеют другие ASCII-коды.

Маркировка обнаруживается преимущественно в длинных текстах, например, при запросе написать полноценное эссе.  Эти скрытые символы можно увидеть, вставив текст в текстовые редакторы вроде Sublime Text, которые способны выявлять эти обычно невидимые маркеры. В более ранних моделях, таких как GPT-4o, подобная маркировка не наблюдается.

https://mltimes.ai/novye-modeli-gpt-o3-i-gpt-o4-mini-tajno-metyat-kazhdyj-tekst/