В новых моделях OpenAI есть защита от биологических и химических угроз

Компания OpenAI объявила о внедрении системы мониторинга в своих новейших ИИ-моделях o3 и o4-mini. Эта система призвана предотвратить использование моделей для получения информации, которая потенциально могла бы использоваться злоумышленниками для осуществления вредоносных атак.

Согласно внутренним бенчмаркам OpenAI, модель o3 демонстрирует повышенную способность отвечать на вопросы, связанные с созданием определенных типов биологических угроз. Именно это обстоятельство, наряду с необходимостью снижения других рисков, побудило компанию разработать новую систему мониторинга, которую специалисты OpenAI характеризуют как "ориентированный на безопасность монитор рассуждений".

https://mltimes.ai/v-novyh-modelyah-openai-est-zashhita-ot-biologicheskih-i-himicheskih-ugroz/