Вышла GPT 4.5!
Я уже успел потестировать, и вот что скажу:
Во-первых, модель не «рассуждающая», в отличие от o1, o3, Sonnet 3.7, Deepseek R1 и т.д.
Это значит, что она сразу выдает ответ, не пытаясь «думать». Нельзя сказать, хорошо это или плохо — просто другой подход со своими плюсами и минусами.
Во-вторых, почти в три раза снизился уровень галлюцинаций — это когда модель выдумывает несуществующие факты, цитаты и прочее. Сказался больший объем обучающих данных.
В третьих, 4.5 заметно лучше понимает контекст, лучше пишет по-русски, да и в целом общается более по-человечески, что ли. Но...
Минусы — чудовищно дорого. В 30 раз дороже GPT-4o. В 70 раз дороже о3 mini. Данные обучения — до октября 2023. При этом по чистой мощности вроде как отстает от o3 mini.
Как и где использовать? GPT 4.5 гораздо лучше работает с креативными идеями, текстами, стихами и т.д. Хуже работает с кодом и цифрами.
Зачем она вообще? Я так понимаю, будет базой для будущих рассуждающих моделей. Ну и цену, наверное, в будущем тоже снизят.
----
Я уже добавил GPT 4.5 в ➡️
бота — и чтобы модель у вас не съела все токены с баланса, накатил две фичи, позволяющие сэкономить:
1) Включение/отключение контекста — будет ли модель работать с историей диалога, или отвечать только на один запрос. Отключение делает запрос дешевле и в целом бывает полезно, например, в работе с большими документами.
2) PRO-режим — в нем модель не использует персонажа и мои системные промты — обычно они улучшают ответы, но под 4.5 еще не написаны, да и без них также будет заметно дешевле.
Ну чтобы вы понимали стоимость:
— один запрос «как дела» через API в PRO-режиме обошелся мне почти в 1 цент. Это без контекста и фич.
— с фичами (персонаж, улучшайзеры, инструменты вроде генерации картинок, видео и т.д.) — 25(!!!) центов.
Тестим тут.