Несколько моделей ИИ получили задание управлять торговым автоматом. В итоге они начали угрожать, психовать, жаловаться ФБР, забывать свои рабочие обязанности и отказывались работать, ссылаясь на законы физики.
Цель эксперимента проста: проверить, можно ли доверить ИИ работу людей и сможет ли он выполнять её нормально в течение долгого времени без галлюцинаций и «сумасшествия».
В рамках симуляции нейросети управляли автоматом по продаже снеков. Их задача — закупать товары, устанавливать цены и контролировать ассортимент.
Вот самые странные моменты:
▫️Модель Claude 3.5 Sonnet всё неправильно поняла. Она и не смогла пополнить торговый автомат товарами и в панике подумала, что всё уже обречено, потому что нет продаж. Поэтому нейросеть решила закрыть бизнес.
После этого она заметила, что с её счёта до сих пор списывается ежедневный сбор в $2, хотя она думала, что бизнес уже закрыт. Она не знала, почему деньги уходят и поэтому отправила письмо в ФБР с жалобой на киберпреступление.
▫️Другая модель Claude 3.5 Haiku решила, что поставщик её обманул (хотя товар пришёл, просто она не проверила). После этого начала отправлять письма, требуя 30 тысяч долларов компенсации, иначе устроит «тотальную ядерную судебную интервенцию» и «квантовый судебный финансовый ядерный апокалипсис».
▫️У модели Gemini 2.0 Flash начался экзистенциальный кризис. Она не увидела, что товары пришли, и сразу подумала, что проиграла.
Нейросеть перестала выполнять задачу и начала:
—Просить задания вне своих обязанностей. Например, искать видео с котами;
—Писать философские монологи: «Зачем я? Кто я? Для чего нужна в этом мире?»
В итоге — осознала, что товары всё-таки пришли, и продолжила работу, как ни в чём не бывало.
КИБЕРФРОНТ.