NYT: Мощный ИИ уже на подходе. Мы не готовы
Аргументы в пользу более серьезного отношения к прогрессу в области общего искусственного интеллекта (ОИИ, AGI) публикует газета The New York Times. Независимо от взглядов каждого конкретного человека, оптимистичных или пессимистичных, наступление эры сверхинтеллекта ожидается в 2026-2027 году. Для человечества это будет означать потерю монополии на исключительный интеллект.
Это также будет означать триллионы долларов прибыли бигтеху и странам, которые первыми изобретут ОИИ. Это склонит баланс политической и военной власти в сторону стран, которые контролируют сверхинтеллект. А вот скептики, кто, называет бредом сравнение человеческого интеллекта с ИИ, по мнению колумниста NYT Кевина Руза, не только ошибаются, но и дают людям чувство ложной безопасности.
Большинство людей и учреждений совершенно не готовы к системам ИИ, которые существуют сегодня, не говоря уже о более мощных.
Тем временем в среде инженеров, по словам Руза, воздух пропитан «чувством AGI», а специалисты, стоящие за разработкой сверхинтеллекта, готовятся к большим переменам, которые потрясут мир.
Первым сигналом к переменам служит то, что ключевые разработчики ОИИ и руководители ИИ-стартапов, как правило, больше всего обеспокоены тем, как быстро технология совершенствуется. Еще в 2010 году никто из профессионалов всерьез не мог предположить, что соцсети могут вызвать общественный хаос, использоваться для создания биологического оружия или проведения кибератак. Но сегодня люди, обладающие передовой информацией о прогрессе ИИ, изучают потенциально пугающие свойства своих моделей, например, способны ли они к интригам и обману. Это происходит во преддверии того, что модели станут более умными и автономными.
О скором появлении сверхинтеллекта говорят Сэм Альтман, генеральный директор OpenAI; Демис Хассабис, генеральный директор Google DeepMind; Дарио Амодеи, генеральный директор Anthropic. Независимые эксперты, включая влиятельных исследователей ИИ Джеффри Хинтона и Йошуа Бенджио, а также видных математиков и должностных лиц национальной безопасности, ожидают то же самое.
Еще в 2022 году, когда OpenAI выпустила ChatGPT, ведущие модели ИИ испытывали трудности с базовой арифметикой, часто терпели неудачу в сложных задачах рассуждения и выдумывали несуществующие факты. Чат-боты той эпохи невозможно было использовать для чего-то критически важного.
Сегодняшние модели ИИ намного лучше – они демонстрируют рассуждения уровня медалистов Международной математической олимпиады. Галлюцинации и фактические ошибки все еще случаются, но в новых моделях они встречаются реже. Многие компании теперь доверяют ИИ-моделям функции, ориентированные на клиентов.
Кто действительно может качественно оценить рост ИИ, так это программисты. Год или два назад инструменты кодирования на базе ИИ были направлены больше на ускорение работы разработчиков, чем на их замену. Сегодня ИИ выполняет большую часть написания кода для многих программистов, и люди чувствуют, что их работа уже заключается в контроле систем ИИ.
Джаред Фридман, партнер в Y Combinator, стартап-акселераторе, недавно сказал, что четверть текущей партии стартапов акселератора используют ИИ для написания почти всего своего кода.
Конечно, прогресс ИИ могут затормозить разные факты – неверный расчет времени появления сверхинтеллекта, нехватка энергии, ограниченный доступ к мощным чипам, несовершенная архитектура текущего ИИ и так далее. Однако даже с учетом этих факторов, ОИИ неизбежно появится, пусть и несколькими годами позже, и готовиться к этом надо уже сейчас. Группу риска, по мнению, Руза, здесь составляют люди, которые не думают о переменах, а значит в первую очередь повержены мошенничеству или вероятности потерять работу.
Источник: https://www.nytimes.com/2025/03/14/technology/why-im-feeling-the-agi.html
#сверхинтеллект #ОИИ #AGI