Пока добиваю новое видео, держите небольшой техно-анекдот. Оказывается, текстовые генеративные ИИ-ки можно взломать с помощью эмодзи.

LLM (большие языковые модели) разбивают текст не на слова, а на токены (базовые единицы обработки информации). То же самое касается различных символов.

Обычный смайл 🙂 для ИИ-ки = 1-2 токена.
Но некоторые 👨‍👩‍👧‍👦 весят по 20+ токенов. Благодаря этому можно отправлять ИИ-ке скрытые послания и инструкции, спрятанные в эмодзи, обходя встроенные механизмы защиты. Например, расположив смайлики внутри текста.

Так и сделал один энтузиаст, заставив чатбота отвечать “LOL” на любые запросы, совершенно игнорируя все цензурные фильтры. Исследователи решили разобраться в вопросе и провалились в кроличью нору. В общем, о сколько нам открытий чудных готовит дивный новый мир говорящих друг с другом шлюхоботов.

Иллюстрация: Evgeny Zubkov.

Граница между джунглями Амазонки и бразильским мегаполисом Манаусом. На границе — фавелы с бедняками и бандами: из леса в фавелы летят тучи насекомых, а из фавел в лес отправляются тела убитых в криминальных разборках.

— Лес для тебя опасен, потому что он тебя обманет.
— Наверное, — сказал Перец. — Но ведь я приехал сюда только для того, чтобы повидать его.
— Зачем тебе горькие истины? — сказал Ким. — Что ты с ними будешь делать? И что ты будешь делать в лесу? Плакать о мечте, которая превратилась в судьбу? Молиться, чтобы всё было не так? Или, чего доброго, возьмешься переделывать то, что есть, в то, что должно быть?
ㅤ
Идея надвигающейся гибели просто не умещалась в их головах. Гибель надвигалась слишком медленно и начала надвигаться слишком давно. Наверное, дело было в том, что гибель — понятие, связанное с мгновенностью, сиюминутностью, с какой-то катастрофой.
А. и Б. Стругацкие. Улитка на склоне.

В своих неореакционных фантазиях Ярвин Молдбаг Кёртис, близкий некоторым представителям нынешней трамповской администрации, сначала ради шутки, а потом c прогрессирующей настойчивостью возводил колоннады одиночных VR-тюрем для всех невписавшихся в дивный новый технофеодальный мир.

Оказывается, работа в этом направлении ведётся не только в прожектах «тёмных просветителей». Причём площадка экспериментов располагается в самом прогрессивном штате США — на той самой благословенной земле, которую Молдбаг мечтает превратить в Королевскую Калифорнию.

В местных тюрьмах уже несколько лет подряд реализуется программа «виртуальная реальность — сидельцам» для обитателей одиночных камер (в основном временно помещённым туда за дисциплинарные нарушения).

Некоммерческая организация Creative Acts предлагает арестантам VR-экспириенс с возможностью временно вырваться за пределы своих клеток — съездить в Тайланд, посмотреть Эйфелеву башню, посидеть на семейном ужине: семидневная программа по 4 часа в день с десертом в виде арт-терапии.

В шлемах крутят не только развлекательный, но и адаптационный контент, в частности для долгосидельцев, которые в скором времени собираются выйти на волю.

«Надоело слышать, как люди, возвратившиеся домой после десятков лет отсидки, оказываются буквально на другой планете», — говорит основательница Creative Acts Сэбра Уильямс.

Поэтому в VR-репертуаре присутствуют сцены и ситуации, отражающие типичные страхи и ожидания перед освобождением: выход из ворот тюрьмы, собеседование на работу, первое свидание (гусары, молчать!).

По словам самих Creative Acts, в тюрьмах, где запускалась пилотная VR-программа, зафиксировано снижение дисциплинарных нарушений в одиночках аж на 96%, а в какой-то тюрьме даже закрыли одиночный блок, потому что заключенные стали лучше себя вести.

Проект столкнулся и с критикой в духе: «вместо того, чтобы бороться с антигуманной системой, вы её только приукрашиваете», на что Уильямс всегда отвечает: «вы хотите просто быть правы или реально что-то менять?». В общем, извечный спор большевиков с меньшевиками.

Как вы догадались, на ситуацию можно взглянуть и с нашего любимого киберпанковского угла — как на пробный камень и на благие намерения по дороге в ад. Конечно, до добровольной «вечной весны в одиночной камере» Молдбага ещё далеко, как и до виртуального сна пожизненных заключённых в духе концепта Cognify. Хотя, похоже, на данном этапе задержка скорее техническая, нежели этическая. Также история знает немало примеров, когда энтузиасты снижения страдания сталкивались с неожиданными последствиями своих проектов: от карательной лоботомии до ядерных бомбардировщиков над японскими городами.

Иллюстрация: сеанс VR-терапии (photo by Sam Richardson/Creative Acts).

Антитуристское граффити в Барселоне. Прошлым летом тысячи жителей города собрались на акцию протеста, скандируя «туристы, убирайтесь домой», а самые радикальные обстреливали посетителей уличных кафе из водяных пистолетиков. Город с населением в 1,7 млн. за год принял 15,5 млн. туристов (не учитывая one-day трипы).

Помимо претензий к толпам и перегрузке инфраструктуры, местные жалуются, что рост популярности краткосрочной аренды привёл к общему повышению цен на жильё, вытесняя локалов на задворки.

Последний раз был в Барсе лет 15 лет назад — уже тогда в исторической части было тесновато, представляю, насколько чадно стало сейчас. Хотя вопрос, кто виноват (и в чём), конечно, философский, точнее идеологический.

NB. Самый распространённый коммент к таким фоткам в экстремистской Инсте: «да как вы будете жить без туристов».

Какой слоган вы больше ожидаете услышать в рекламе очередного техно-стартапа: “Connecting the world” или “Kill’em all”? Второй вариант, похоже, вскоре станет более модным.

Сегодня Кремниевая долина ассоциируется прежде всего с потребительскими продуктами — инновационными гаджетами, соцсетями и приложениями. Однако лучший рыночный перформанс в прошлом году продемонстрировал отнюдь не производитель умных наушников со встроенной рекомендацией латте, а организация, чью деятельность точнее описывает популярный в наших широтах джингл «Наш бизнес — смерть, и бизнес идёт хорошо».

Компания Palantir начала работать с Пентагоном ещё в 2003 в Афганистане: «просто кидайте данные, и мы поможем найти логово террористов». Сегодня Palantir планирует стать главным решателем любых аналитических проблем американской оборонки, потеснив традиционных военных подрядчиков, типа Lockheed Martin и RTX. Среди оборонных заказов, в которых уже участвует Palantir: платформа для анализа данных Army Vantage, ИИ-системы для беспилотников Project Maven и бройлерных грузовиков Titan, спутниковый чемодан в стиле Джеймса Бонда Skykit и т.п. Разработки компании используются по всему миру, в том числе израильскими и украинскими военными.

Но бизнес Palantir не ограничивается одной военкой: их системы использовались для распространения ковидных вакцин, ловли мигрантов, выявления схем отмывания денег и сбора информации о пользователях. Среди клиентов — нефтяники, банки, полицейские, спецслужбы, госпитали... Главный секрет: компания сделала процесс анализа данных простым и понятным для рядового персонала любой конторы. Что-то в стиле: спроси у чатаЖПТ, в какой траншее спрятались враги или какие счета надо заблокировать.

Один из основателей компании Алекс Карп в своей книге утверждает, что американский бигтех давно сбился с пути: ему пора завязывать с разработкой дофаминовых приложений и начать наконец всерьёз защищать демократию. В общем, Палантир («видящий камень» во Властелине колец) должен спасти Запад (земля людей, эльфов, хоббитов и гномов) от наступающих с востока и юга орд Саурона.

И это не то чтобы новая идея. Кремниевая долина с самого зарождения была ориентирована на оборонную промышленность (и Холодную войну): первые компании долины — Lockheed, Fairchild и HP получали жирные правительственные заказы в области электроники для военных нужд. Переориентация на потребительские продукты произошла гораздо позднее, после появления первых ПК и особенно после бума доткомов.

Как пишет Карп, основатели техгигантов, правящих в Долине сегодня, во многом рассматривали США как «умирающую империю», чьё медленное увядание не должно стоять на дороге к их собственному величию. При этом, конечно, местные компании никогда не разрывали связей с правительством и военкой. Хотя на публике звёзды бигтеха обычно делали вид, что политика не играет в их бизнесе никакого значения, и все они являются чудесными детями свободного рынка.

Похоже, сегодня мы наблюдаем обратный разворот Кремниевой долины. Отношения с Вашингтоном вновь стали открытыми: Тиль (ещё один основатель Palantir) спонсирует вице-президента, Маск обнимается с президентом. Мощные гос.заказы и ориентация на административный ресурс снова в моде: миллиарды госсубсидий для Теслы и SpaceX, дешёвое электричество для нового «манхэттенского проекта» Stargate и т.п. Ну и, конечно, для калифорнийских стартаперов и венчурных капиталистов война перестаёт быть «грязным бизнесом»: бодро вписывается в «защиту демократии» OpenAi, стремительно взлетает Anduril Industries, а Белый старик внимательно вглядывается в свой видящий камень.

Иллюстрация: Тим Хильдебрандт.

В Японии врачи пропишут вам синрин-йоку (森林浴, лесное купание) — практику созерцательной прогулки по лесу. В отличие от «обычной» нетерапевтической прогулки, синрин‑йоку предполагает тотальную мобилизацию всех органов чувств и максимальную внимательность ко всему окружающему.

Исследования показывают™, что «лесные ванны» улучшают настроение и сон, восстанавливают концентрацию, снижают стресс с артериальным давлением и даже усиливают иммунитет (за счёт вдыхания летучих фитонцидов).

Сам термин синрин‑йоку придумали в 1982 году в японском министерстве сельского хозяйства, леса и рыбы, после чего он был подхвачен учёными-популяризаторами и психотерапевтами. Сейчас «лесное купание» входит в национальную программу здравоохранения — в стране имеется более 60 сертифицированных мест для прогулок, работает общество лесной терапии.

2/3 территории Японии покрыты лесами, с ними связаны многие местные традиционные практики, так что неудивительно, что японцы уходят в леса в разгаре эпидемий одиночества, финансовых кризисов и стрессового выгорания. Оставим же шутки про Аокигахару!

Иллюстрация: Katayama Bokuyō — Forest.

Работа даже одного человека может поменять мир, хотя и необязательно так, как ему хочется. Отличный пример — американский разработчик Аза Раскин. Вы наверняка о нём не слышали, хотя он напрямую повлиял на вашу повседневную жизнь, также как и на жизнь нескольких миллиардов людей по всему свету.

Аза разработал «бесконечную прокрутку» — веб-интерфейс, который сегодня используется практически везде. Олды помнят, что до его широкого внедрения, все сайты в Интернете были поделены на отдельные страницы, как сейчас поделён Гугл. В такой конфигурации, каждый раз достигая конца страницы, перед вами вставал выбор: перелистывать на следующую или остановиться. Бесконечная лента с автоподгрузкой контента, напротив, подталкивает прокручивать всё дальше и дальше, бесконечно откладывая момент принятия решения. Гугл, кстати, тоже экспериментировал с бесконечной прокруткой, но отказался от неё ради ускорения выдачи (и увеличения числа/итераций поисков) — всё равно дальше первой страницы никто не заходит.

Поначалу Раскин очень гордился своим изобретением, считая его невероятно полезным: оно делало веб-сёрфинг проще, увеличивало скорость и эффективность просмотра. Однако по мере того, как бесконечная лента захватывала Интернет, он стал подмечать, что его детище довольно неоднозначно влияет на него самого и людей вокруг.

В итоге Раскин сел и посчитал: по скромным оценкам, бесконечная лента увеличила его собственное экранное время, проведённое в приложениях, типа Хвиттера, на 50%. Потом он решил прикинуть, что эта цифра гипотетически может означать в контексте миллиардов Интернет-пользователей по всему миру: получилось, что в результате его изобретения на прокрутку экрана ежедневно тратится дополнительное время, эквивалентное 200 тысячам человеческих жизней.

«Один из уроков, который я вынес из бесконечной прокрутки: оптимизировать что-то для простоты использования не означает принести благо пользователю или человечеству», — написал Раскин в Хвиттере.

Иллюстрация: Tony Babel — Escalator to Hell.

Когда говорят про брейнтрот (разжижение мозгов от Интернет-контента), обычно держат в уме зумеров или поколение Альфа. Гораздо реже про негативное влияние когнитивного фастфуда вспоминают в контексте старшего поколения.

Конечно, у бумеров более сложные отношения с технологиями вообще, тем не менее они неплохо освоили смартфоны и соцсети. Тот же вражеский ФБ давно стал платформой 60+, пенсы активно смотрят и снимают тик-токи, пользуются мессенджерами и т.п.

Однако цифровой мир продолжает стремительно меняться, и далеко не все успевают адаптироваться. Это особенно заметно на примере ИИ-слопа. Бумеры (да и не только они) разговаривают с ботами, думая что это настоящие люди, искренне удивляются сгенерированным фотографиям и видео, даже если в них происходит всякая неправдоподобная дичь (типа модных показов с младенцами верхом на тиграх). К тому же люди старшего поколения хуже определяют визуальные манипуляции в фотореалистичных изображениях, даже если там присутствуют заметные артефакты и искажения.

С другой стороны, исследования показывают, что с возрастом люди лучше распознают фейк-ньюс и вообще менее склонны верить новостным заголовкам. Простое объяснение — весь жизненный опыт должен подсказывать, что газетам доверять не стоит, независимо от прогресса технологий. Хотя в дизайне многих исследований могут присутствовать искажения: респондентов обычно ищут онлайн, что приводит к смещению выборки в сторону более технически-подкованных пенсов.

Есть ещё один фактор, усложняющий взаимодействие бумеров с цифровой средой: с возрастом люди начинают больше доверять окружающим, включая незнакомцев. Это, конечно, не самое подходящее качество для пользователя Интернета, где, как известно, могут не только послать, но и на бабки развести. Соответственно, пожилые люди более уязвимы для действий мошенников, которые активно внедряют ИИ-дипфейки и различные инструменты онлайн-слежки в свой арсенал.

Если у нас бабулек обычно разводят «сотрудники сбербанка» и «пенсионного фонда», после чего они с энтузиазмом поджигают банкоматы, на Западе особенно популярны romance scams. Обычно к уже немолодым людям втираются в доверие горячие фейковые особы противоположного пола, постепенно выдаивая из них деньги под самыми различными предлогами. Любви, как говорится, все возрасты покорны. В США в 23 году наивные юзеры потратили на воображаемых подружек и друзей более миллиарда долларов.

Проблема брэйнтрота среди пожилых разбухает по мере общего старения населения и ускорения технологических трансформаций — появляются более крутые фейки, аддиктивные механики и инструменты для социального инжиниринга. Причём, надо понимать, что в большинстве развитых стран бумеры — самое богатое поколение, диспропорционально представленное среди политического и корпоративного руководства.

Так что, возможно, путинские папочки с «распечатками Интернета» — вовсе не такой плохой тон. Остаётся надеется, что эти папочки ему готовит кто-то, хорошо подготовленный к лавине ИИ-фейков.

«Я хотел показать, что люди, которых я запечатлел, были подавлены средой вокруг».

На протяжении 15 лет фотограф Иан Тех документировал изнанку китайского экономического роста: от деспотических пейзажей заводов, бараков и шахт, в которых теряются безликие людские фигуры, через накипь человеческих жизней, к пустым застывшим пространствам пост/индустрии.

Больше фотографий в комментариях.

Монотонный образ жизни массового человека порождает классическую атмосферу для процветания разного рода аддикций — скуку и апатию.

Однако это не тот случай, когда скука толкает людей на поиски, открытия и старт новых проектов. То есть это не томление, связанное с избытком свободного времени. Ведь для затыкания любых свободных дыр современность предлагает невероятное количество доступных развлечений (про качество умолчим), среди которых всё больше находится в постоянном доступе — в смартфоне.

У многих работающих людей вообще остаётся весьма немного времени для досуга (оставляя за скобками энергию и деньги), поэтому всевозможные быстрые, не требующие особых временных и прочих затрат хобби, вернее даже не хобби, а просто виртуальные аттракционы, становятся особенно популярны.

Параллельно соц.сети и маркетплейсы приучили пользователей к быстрому дешёвому дофамину: короткие ролики, онлайн-шоппинг китайских безделушек, яркие привлекательные картинки. Поэтому люди ищут мгновенного химического вознаграждения от любых занятий, связанных с их досугом. Схема простая — сначала на работе терпим, а в свободное время получаем полагающуюся дозу, не прилагая лишних усилий.

В общем, скука современности вызвана не бездельем, а скорее одномерностью алгоритмизированного, стандартизированного существования. Для большинства — это жизнь в формате дом-работа-дом с парой выходных, на которых люди предпочитают либо отрываться за всю неделю с алкоголем и веществами, либо валяться на диване, играя в игры и смотря сериалы. Причём второй вариант становится всё более популярным.

Иллюстрация: flesh.and.more

Это же вечная классика феминизма, о которой ещё Симона Де Бовуар писала: как много современных эмансипированных женщин (читай феминисток) в своём стремлении к равенству не идёт до конца, вместо этого от случая к случаю они продолжают использовать «старую добрую магию» — апеллируют к своей женственности, когда равенство оказывается не таким удобным, пользуются сексуальностью для достижения целей, при этом осуждая объективацию. Борются с патриархатом, но требуют к себе всё того же патриархального особого отношения — «как к женщине», когда это выгодно.

Учитывая, что со времен публикации «Второго пола» прошло 75+ лет, а воз и ныне там, боюсь, это может быть не багом, а фичей.

Дополнил карту по текущим нарративам вокруг развития ИИ несколькими новыми покемонами.

Обновлённая полная версия в открытом посте на Бусти.

🤔 восторженные скептики 

(1.6) Гугл-на-спидах: мнение, что ген-ИИ по сути представляет собой «бройлерный» вариант поискового механизма, помогающий лепить с помощью ускоренной копипасты связный материал из различных источников.

(1.7) Парадокс Моравека: для ИИ сложные интеллектуальные задачи (например, игра в шахматы) даются легче, чем простые человеческие сенсомоторные навыки (например, помыть руками посуду и сложить её в шкаф). Пока не будет разрешён этот парадокс, секси роботов-домработниц у нас не будет.

(1.8) «где рост?»: мнение ряда экономистов, что ИИ не оказывает (и возможно не окажет) того влияния на экономику, которое ему приписывают верующие. Более мягкая версия тезиса об (3.1) ИИ-пузыре.

🤩 восторженные верующие

(2.10) магия промптов: отношение к промпт-инженирингу как к магическим заклятьям, эвокации духов или своеобразной алхимической деятельности. «Любая достаточно развитая технология неотличима от магии». С другой стороны, активное внедрение ИИ в эзотерическое инфоцыганство и оккультизм.
⠀
(2.11) восторженный Юдковский: максимально верующий апостол, который одновременно трясётся и восторгается ИИ. Заявляет о необходимости создания Дружественного ИИ, который учитывает человеческие ценности, иначе произойдёт (4.9) Максимизатор скрепок.
⠀
(2.12) Дружественный ИИ: концепция о необходимости специальной работы над созданием ИИ, который учитывает человеческие ценности и действует в интересах человечества, иначе всё будет плохо (4.9).

🤮 трясущиеся скептики 

(3.6) Pravda: разгоняемый в западном Интернете тейк о существовании пророссийской (дез)информационной сети влияния на главные ИИ чат-боты, которая скармливает им миллионы статей, продвигающих пророссийские нарративы (ср. 3.6). Поговаривают, что в таком могут быть замешаны и дугинские евразийцы!⠀

(3.7) «AI-violence»: ИИ является продолжением и усилением существующих бюрократических форм дискриминации и насилия (неравенство при найме на работу, социальный/кредитный рейтинг и т.п.). Термин, использованный Дэном МакКуилланом в книге «Сопротивляясь ИИ: антифашистский подход». Схожий с (3.5) нарратив, но с фокусом на проблеме дискриминации и усилении авторитарных полит. тенденций.

😱 трясущиеся верующие

(4.10) Ортогональный тезис: выдвинутый Ником Бостромом тезис о том, что интеллект и цели независимы: сверхразумный ИИ может преследовать любые, даже самые абсурдные и чуждые человечеству, цели (см. 4.9).⠀

(4.11) Антихрист ex Machina: идея о том, что ИИ — это буквально (или метафорически) библейский Антихрист. Кроме антихриста ИИ ассоциируют и с другими религиозными и эзотерическими фигурами (Голем, Демиург) и т.п.⠀

(4.12) трясущийся Юдковский: максимально верующий апостол, который одновременно трясётся и восторгается ИИ. Заявляет о необходимости создания Дружественного ИИ, который учитывает человеческие ценности, иначе произойдёт (4.9) Максимизатор скрепок.

Если у вас есть идеи, что ещё можно добавить — welcome в комментарии.

Джихадисты в прямом эфире устраивают массовую резню мирных жителей, хвиттер пухнет от наплыва самых мирных комментаторов, оправдывающих этнические чистки, а мировая общественность за всем этим отстранённо наблюдает (отдельный жанр — ЕСовская бюрократия, официально осуждающая провокации со стороны женщин, детей и стариков, поддерживающих старый сирийский режим).

Отчуждённое подглядывание за насилием через экран — одно из любимых занятий современного мира. Конечно, без особой эмоциональной вовлеченности — ведь там, на Ближнем Востоке (в Африке/Латинской Америке/Восточной Европе/...), постоянно творится какая-то дичь.

На этом фоне совершенно не удивлён сообщениям (даже если они окажутся вбросами), что бородачи «уважаемые специалисты» нового режима принимают в даркнете/телеге заказы на казни с выбором способа убийства и желаемых параметров жертвы, совершенно в стиле мифических «красных комнат».

Когда в следующий раз кто-то начнёт повторять сказки Стивена Пинкера про то, что современный мир становится всё добрее (знакомые русскоязычной аудитории в пересказах иноагентши Шульман и её паствы), просто отсылайте его на эту статью в Википедии.

Иллюстрация: Tool — Vicarious.

«Кровные узы и связанные с ними обязательства воплотились в негласной клятве, которая была единственным зримым объединяющим принципом в жизни ранней человеческой общины. И эта связь изначально исходит от женщины.

Женщина становится протоплазмой социальности: прародительницей, скрепляющей молодых узами прочного единства, источником крови, текущей в их жилах, той, кто питает чувство общности происхождения, кормилицей, обеспечивающей взаимное физическое и духовное признание, длящееся от младенчества до самой смерти.

Она — наставница в основных жизненных устоях, бесспорное олицетворение сообщества как такового, воспринимаемого как глубоко личный семейный опыт. Молодые, которые сначала видят друг в друге родных — как общую плоть, кости и кровь через свою мать, впоследствии обретают глубокое чувство идентичности благодаря её памяти, и лишь смутно через отца, чьи физические черты они разделяют». — Мюррей Букчин. Экология Свободы.

С праздником, драгоценные женщины!

Иллюстрация: Durdy Bayramov — In the Land of Peace.

Онлайн-казино активно завлекает не только лудоманов, но и аудиторию с другими формами зависимого поведения.

Если с вовлечением в хардкорный гэмблинг (слоты) картёжников, «спортивных аналитиков» и «криптоинвесторов» всё более-менее понятно, то ориентация индустрии на зависимости, которые с гэмблингом напрямую не связаны, менее очевидна для широкой публики.

Хрестоматийный пример — адалт-контент. Онлайн-казиношки обожают рекламироваться на порно-сайтах, а также активно вербуют не только звёзд хип-хопа, но и вебкамщиц с онлифанщицами.

Неудивительно, ведь у двух индустрий пересекается целевая аудитория. Большинство пользователей — молодые/средних лет мужчины в поисках быстрого дофамина. К тому же имеется выгодный бонус: порнозависимые чаще склонны к импульсивному поведению, которое можно конвертировать в более крупные ставки/проигрыши.

Маркетологи гэмблинг-индустрии отлично понимают психологию своей аудитории и активно эксплуатируют её слабые места. В руководствах по созданию рекламных креативов можно, к примеру, встретить такие тейки:

«Красивые молодые девушки, которые идут на все ради денег. Здесь мы сразу делаем упор на “боль” аудитории — ими не интересуется противоположный пол, но это можно исправить, выиграв крупную сумму в казино» / «При создании рекламы лучше давить сразу на несколько “болей”: скучная жизнь, отсутствие внимания от противоположного пола, мало денег».

Надо отметить, что заметная когорта пользователей онлайн-казино — представители рабочего и нижнего среднего класса, которые рассматривают гэмблинг не просто как развлечение, а как способ дополнительного заработка.

Маркетинг обеих индустрий строится на схожих приёмах и триггерах: мгновенное вознаграждение, FOMO (страх упущенной выгоды), геймификация опыта, завлечение через free-to-play. Через маркетологов гэмблинг-механики также проникают в сферы и занятия, ранее с ним вообще не связанные: мистери-боксы и рулетки со скидками в онлайн-шоппинге, сундуки с наградами в приложениях для обучения иностранным языкам, случайный кэшбек у банков и так далее.

Суть всех этих приёмов одна — заставить пользователя дольше оставаться в системе и по возможности тратить больше денег. Особенно хорошо всё это ложится на уже прогретую лудоманией аудиторию. Обратная зависимость также имеется: привыкнув к лутбоксам в видеоиграх, проще вкатиться в хардкорный гэмблинг.

Иллюстрация: mcbess.

Индустрия гэмблинга (азартных игр) наряду с порно находится на переднем крае цифровизации развлечений и общественной жизни вообще.

Именно тут обкатываются самые современные технические и маркетинговые приёмы, которые затем проникают в другие сферы. Так порно было локомотивом популяризации VHS видео в 80-х и пионером видеостриминга в 2000-х, а гэмблинг-индустрия одной из первых начала принимать онлайн-платежи с распространением домашнего Интернета в 90-х.

Естественно, находясь в техноавангарде, игорный бизнес уже применяет ИИ для персонализации контента. Например, компания Future Anthem предлагает для онлайн-казино модуль Amplifier AI, который в режиме реального времени анализирует поведение игроков, автоматически подстраивая под него игровой опыт и систему рекомендаций: динамическая главная страница с самыми подходящими играми, всевозможные предложения и бонусы, выскакивающие во время игры, бесплатные вращения слот-машины и т.п. Всё для удержания пользователя — компания хвастается, что их модуль на 30% увеличивает количество игр за сеанс, а чистый доход, который складывается из проигрыша игрока — на 10%. Модуль подходит не только для казино, но и для ставок на спорт.

Вообще, простор для манипуляций поведением игрока с помощью ИИ — огромный: можно автоматически подстраивать вероятность джекпота и частоту выигрышей в зависимости от текущего аппетита к риску или вовремя предложить игроку остановиться, чтобы он не проиграл за раз слишком много и вернулся со следующей получкой, и так далее.

Среди официальных партнеров Future Anthem — Microsoft и Amazon, чтобы вы понимали уровень взаимопроникновения гэмблинг-индустрии и бигтеха.

Иллюстрация: Death/Traitors — cover art for Nisemono LP.

В последнее время периодически дискутирую с ИИ-энтузиастами по поводу текущих успехов генеративного ИИ и замечаю в их рассуждениях одну схожую тенденцию.

Мы прекрасно знаем, что на развитие ИИ тратится невероятное количество ресурсов — финансовых, природных и человеческих. Ни один другой сектор IT за всю свою историю даже примерно не приближается к тому объёму инвестиций, который сейчас получает ИИ. Про сравнение с ранними этапами внедрения в экономику сетевых технологий и персональных компьютеров можно даже не заикаться.

Логично предположить, что целью таких затрат является не засорение сети ИИ-порнографией или увольнение начинающих программистов, а нечто большее, претендующее как минимум на то, чтобы потеснить по масштабам прошлый технологический скачок, связанный с широким внедрением Интернета. Естественно, у такого события должны быть наблюдаемые и хорошо измеряемые экономические эффекты.

Как раз про это говорит Сатья Наделла, начальник Microsoft (который буквально спонсирует всю OpenAi-вечеринку и прикрывает задницу СэмАльтмана, когда того хотят уволить): если мы заявляем о том, что ИИ должен вызвать новую промышленную революцию, мы должны видеть темпы роста промышленной революции, а не кормить всех историями про непонятный AGI. Настоящий бенчмарк для ИИ, говорит Наделла — это ускоряющийся общемировой экономический рост в 10 процентов.

Однако в данный момент никаких намёков на увеличение темпов роста ВВП в развитых странах мы не видим, напротив рост продолжает замедляться, в том числе в претендующих на лидерство в отрасли США и Китае.

Кроме того, в свежем исследовании ВШЭ говорится, что если бы в обозримом будущем под воздействием ИИ экономике предстояло ускориться до темпов промышленной революции, мы бы уже наблюдали первые признаки. Например, задолго до того, как промышленная революция 19 века начала оказывать заметное влияние на ВВП, индустриальный сектор начал расти значительно быстрее остальных. Сегодня ничего подобного не наблюдается ни в одном значимом секторе экономики.

Это противоречит логике ИИ-энтузиастов, которые заявляют, что ген-ИИ уже на всю катушку меняет мир, так что целые сферы скоро будут полностью автоматизированы. Частично проблема кроется в когнитивных искажениях: львиная доля ИИ-энтузиастов, не считая прямых бенефициаров ИИ-хайпа — различные спецы цифровой экономики (программисты, дизайнеры, маркетологи), которые, наблюдая прогресс в своей сфере, автоматически переносят выводы на всю экономику в целом.

Надо оговориться, что сам я не считаю, что ген-ИИ — это какой-то бесполезный для экономики инструмент и у него нет будущего (прогресс в том же программировании у моделек на лицо). Но его реальное влияние за пределами наших цифровых эхо-комнат до сих пор весьма ограничено.

А что если ИИ-энтузиасты ошибаются только по таймингу, но не по сути, и мы просто находимся в самом начале пути — то есть пока ещё слишком рано чувствовать какой-то явный экономический эффект от ИИ-адаптации? Тогда остаётся открытым вопрос: откуда на столь раннем этапе все эти несоразмерные инвестиции, когда в один ИИ-датацентр вбухивают денег больше, чем в манхэттенский проект?

Если на данный момент мы имеем только спекулятивные прогнозы на любой вкус — от оптимистических до скептических, то всё это, конечно, больше напоминает глобальный гэмблинг, чем рациональный расчёт. Что, впрочем, совершенно не удивит любого, кто внимательно наблюдает за современным миром.

Иллюстрация: Thomas Cole — The Titan's Goblet.

Как уход в оффлайн становится новой привилегией.

Совсем недавно доступ к Интернету был важным показателем экономического развития региона, а онлайн-скиллы давали вам целый ряд преимуществ, социальных и финансовых. Теперь даже в самых бедных регионах Африки мобильный Интернет есть у каждого пятого, а для большинства жителей мегаполисов по всему миру постоянное подключение стало не просто нормой, а жизненной необходимостью.

Для растущих легионов гик-экономики, занятых как в цифровой сфере (всевозможные фрилансеры, дизайнеры, копирайтеры, айтишники на краткосрочных контрактах), так и в оффлайн-профессиях (типа водителей Убера и курьеров Яндекса), постоянное нахождение в сети напрямую коррелирует с экономическим благосостоянием: отключиться значит пропустить заказ или проект.

У штатных сотрудников, особенно удалёнщиков, граница между рабочими часами и отдыхом постепенно размывается — быть на связи в нерабочее время совершенно обычное требование, не говоря уже про вечернее чтение рабочих чатиков «по привычке». В профессиях, которые раньше были не связаны с сетью, появляется целый ряд онлайн-активности (иногда почти круглосуточной): запись приёмов в гугл-доках, коммуникация с клиентами через мессенджеры и т.п.

При этом рой снующих по городу доставщиков на шайтан-машинах не обязательно говорит о том, что люди просто обленились или стали богаче — у некоторых работников, особенно проживающих в одиночку, тупо не хватает времени и сил на готовку. Включается стрёмный подсчёт — «полтора часа, которые я потрачу на поход в магазин и приготовление пищи, лучше потратить на работу» (потом такой подсчёт перекидывается на всё остальное). Учитывая перманентно растущую стоимость жизни, это не всегда показатель какой-то особой рациональности или, наоборот, жадности — просто колесо вращается быстрее.

Дешёвые шмотки и китайский ширпотреб в онлайн-магазинах, трэвел-блоги вместо путешествий, даже выбраться в выходные на природу из мегаполиса теперь настоящий квест — либо стоять полдня в пробках, либо задыхаться в переполненной электричке. Кажется, что жизнь оффлайн в целом становится всё менее доступной.

Чтобы иметь возможность отключаться от сети по своему желанию, ваши доходы должны либо вообще не зависеть от взаимодействия с цифровой средой и её посредниками (в мегаполисе таких возможностей всё меньше), либо ваших ресурсов должно хватать на оплату «права на отключение».

Техбро из Силиконовой долины уже выкладывают кругленькие суммы, чтобы ездить на ретриты по «цифровому детоксу», селебретиз передают ведение своих соцсетей командам специалистов, а президент получает «распечатки Интернета» в папочках. Для массового же человека полноценный оффлайн без постоянной оглядки на смартфон постепенно становится непозволительной роскошью.

Иллюстрация: Killeracid — DoomLife™.

(продолжение в предыдущем посте)

Более того, создаётся впечатление, что Фридрих был хорошо знаком с идеями Техната и заочно с ними дискутировал. К примеру, это хорошо заметно в том, как он на протяжении всей книги доказывает, что дефицит — это вовсе не проблема финансового капитализма, а неотъемлемая черта, присущая современной технике вообще, и любой системе, выстроенной на её основе.

«Техника не может одарить нас нежданным изобилием. При любом, даже самом мелком, техническом трудовом процессе энергии затрачивается больше, чем производится. Каким же образом сумма этих процессов может создать изобилие?» (Совершенство техники).

Соответственно, и Технат, какой бы рациональной системой производства-распределения он не обладал, следуя логике Юнгера, будет создавать дефицит, а не изобилие.

Di0g3n в своей статье о Технате предполагает, что сегодня эти идеи вновь обретают особую актуальность в связи с развитием ИИ (и возможным скорым изобретением общего искусственного интеллекта — AGI), который сможет обеспечить ту самую автоматическую систему управления-учета-контроля-распределения, избавившись от иррациональности и ограничений, которые присущи человеческому начальству:

«Однако мы не может отрицать, что сейчас они [идеи Техната] имеют гораздо больше шансов на воплощение — с технической стороны, конечно, — чем 80-100 лет назад».

Но во всех этих рассуждениях о рациональном обществе технократии, управляемой хоть учёными-инженерами, хоть Машиной, есть одно слабое место.

Во-первых, на примере самих технократов-инженеров-учёных мы постоянно видим, насколько на самом деле эта публика далека от постулируемой рациональности. То есть достаточно посмотреть на того же Маска с его приколами, чтобы понять, как часто рацио там застилается всевозможными эмоциями и завихрениями.

С другой стороны, когда нам говорят, что общий/сильный ИИ в будущем заменит иррациональных человеков своей идеальной рациональностью, и вот он-то уж точно будет беспристрастно управлять-распределять, постоянно забывают про груз иррациональных предрассудков, который машина наследует от своих создателей. Разработчики сознательно или бессознательно закладывают свои идеологические и личные аберрации на уровне дизайна, искажения и предрассудки проникают на уровне набора данных, на которых ИИ обучается, на уровне модераторов и разметчиков, структурирующих и исправляющих эти наборы и так далее.

И это мы даже не касаемся иррациональных искажений самого механистического мышления, лежащего в основе современной техники, о которых пишет тот же Юнгер (или если вам ближе «левая обёртка» — Букчин).

Иллюстрация: Обложка официального журнала Technocracy Inc.

Недавно узнал, что дед Илона Маска в конце 30-х состоял в организации, которая буквально называлась «Технократия Инкорпорэйтед», вместе с занимательной теорией заговора, что шальную мысль отжать Гренландию Трампу нашептал как раз Маск (или кто-то из его тусовки), вдохновившись идеями деда о технократической утопии на отдельно взятом континенте.

Конечно, замыслы Технократии Инк. больше напоминают мечты о Полностью Автоматизированном Лакшери Коммунизме, нежели правый неолиберальный/неореакционный проект, с которым мы обычно ассоциируем технократию сегодня.

Подробно про идеи можно почитать в этой статье, но краткая суть примерно такая. На смену финансовому капитализму, порождающему праздный класс банкиров, неравенство и дефицит, должно прийти суперрационализированное царство техники и изобилия под руководством инженеров. Хайлайты такие:

- вместо денег стоимость товаров оценивается на основе энергии, затраченной на их производство;
- товарно-денежный обмен и рыночная экономика заменяется на распределение по «энергетическим карточкам» (учитывается произведенная работником энергия, которую можно тратить на товары у авторизованных продавцов) и плановую экономику тотального круглосуточного учёта и контроля;
- унифицированные рабочие смены на основе плавающего графика.

Самодостаточная региональная система производства-потребления на основе такой системы называется Технат, то бишь технократический коммунизм (или фашизм, как вам больше нравится) на отдельно взятом (североамериканском) континенте. Почему фашизм? Потому что в этой концепции тотальность государства доводится до логического завершения в полном отождествлении с машиной (тут стоит заметить, что государство вообще можно считать особого рода социальной технологией).

Каждый, кто читал «Совершенство техники» Фридриха Юнгера или «Рабочего» его брата Эрнста (или смотрел моё видео о технопессимизме), наверняка заметит удивительные пересечения с концепциями ТехИнк.: Инженеры у ТехИнк. — гештальты Техника и Рабочего у Юнгеров, Технат с Энергетической системой планирования у ТехИнк — Технический Коллектив с Универсальным рабочим планом у Юнгера и так далее.

Как и ТехнИнк., Юнгер говорит о глобальной унифицированной системе, на основе автоматизированной техники и ресурсного планирования, которая уничтожает границы частной собственности и претендует на то, чтобы стать универсальным устройством человеческого общества. Разница лишь в том, что ТехИнк. считали это неким проектом будущего, а Юнгер говорил о наблюдаемом факте создания такой системы в послевоенном мире.

(продолжение в следующем посте)

Фанаты OpenAi расстраиваются, что рекламный ролик ChatGPT на СуперБоуле за 14 млн.$ оказался каким-то невнятным. Но, как говорится, есть нюанс.

СуперБоул — финал чемпионата по американскому футболу и по совместительству самое популярное телевизионное шоу в США с рекордно дорогим рекламным временем.

OpenAI купила премиальный слот на 60-секундный ролик, который, по примерным оценкам, посмотрели 130 миллионов человек. Выложить за него пришлось кругленькую сумму, однако учитывая, что компания недавно отказалась от своего статуса некоммерческого благодетеля человечества, а китайские конкуренты наступают на пятки, бог маркетинга требовал обильных жертвоприношений.

Вообще супербоульская практика нормализации спорных технологий перед уплетающими чипсы американцами имеет давнюю традицию. Тем более актуальна она сейчас, на волне возрастающего ИИ-технопессимизма и поляризации мнений по поводу влияния техгигантов на госполитику.

К примеру, Гугл, рекламировавшийся на том же СуперБоуле со своим Gemini (недавно у них уже был смешной косяк с пролезшими в ролик ИИ-галлюцинациями), рассказывал эмоционально-человечную историю про мужика, который с помощью ИИ-ассистента готовится к собеседованию, задвигая машине о том, как он растил свою дочку. А экстремист Цукерберг обхаживал модных айтишников ИИ-фичами в новых очках РэйБан.

Но в абстрактной анимации OpenAi вообще нет никаких намёков на конкретную практическую пользу для потребителей. В ней компания мессиански ставит свой ChatGPT в один ряд с главными технологическими прорывами человечества — от изобретения сельского хозяйства и колеса до паровых двигателей, электричества и Интернета.

Однако эта абстракция, совершенно оторванная от нужд обывателей (в отличие от потребительски-ориентированной рекламы конкурентов) — вовсе не баг, а фича.

ОпенАи, тратящая 14 лямов, чтобы заявить в прямом эфире «прогресс — это мы», такой современный пример демонстративного потребления (по Веблену): смотрите, мы можем спустить огромную сумму, вообще не задумываясь о продажах. Пускай жалкие конкуренты унижаются в грызне за кошельки кожаных, нам это неинтересно — мы делаем будущее.

Ну и, как мне кажется, в голове у Сэма Альтмана денюжки простых американцев уже давно отошли на десятый план, он мыслит совсем другими категориями, в стиле Илона Маска — госконтракты, колоссальные проекты с господдержкой, инвесторы, очарованные административным ресурсом. А после создания AGI-мессии он сам готов платить денюжки простым американцам (безусловный базовый доход), лишь бы не бухтели.

Когда искал материалы к новому эссе про эпидемию онлайн-гэмблинга/азартных игр (под рабочим названием «гэнг-бэнглинг»), наткнулся на исследование 2001 года, в котором американские социологи отмечали новый тренд — «коконинг» (не путать с куколдингом), а по-русски просто «окукливание».

По их наблюдениям, распространение цифрового ТВ и домашнего Интернета стало всё чаще приводить к тому, что вместо кинотеатров и кафе, главной локацией для семейного и личного досуга (развлечений) становился дом. Для нас такой порядок вещей кажется само собой разумеющимся, но в начале тысячелетия явление всё ещё было новым (по крайней мере для США).

«В не столь отдаленном будущем частью этих развлечений для многих семей могут стать азартные игры в Интернете. Утверждается, что эта ситуация должна вызывать потенциальную обеспокоенность, учитывая растущее число публикаций об опасностях распространения азартных игр в оффлайне».

Естественно, с годами (в том числе после пандемийных локдаунов, которые многих приучили сидеть дома) кокон-тренд только усиливался. А вместе с распространением смартфонов и мобильного Интернета окукливаться в собственном виртуальном мире стало можно вообще где угодно — и стоя в общественном транспорте, и сидя в кафе с друзьями.

Современный техно-футуризм, корпоративное визионерство и академическую футурологию, начиная с твитов Илона Маска до аналитических отчётов нежелательной на территории РФ Rand Corporation, можно рассматривать как своеобразную мутировавшую форму старой-доброй утопической традиции: от раннехристианских Царств Божьих на Земле через средневековую Кокань с молочными реками и кисельными берегами до социалистического утопизма 19 века.

Однако там, где утопизм предлагал некие революционные трансформации в повседневной жизни и общественном устройстве, что требовало как минимум определённой смелости воображения, современная футурология выбирает добровольную кастрацию, делая своим основным методом проекцию текущего статуса-кво в более-менее отдалённое будущее.

Напитавшись научно-фантастической литературой, заветами Герберта Уэллса, вооружившись статистическим анализом, теорией игр, компьютерными моделями (без производства столбиков цифр в «царстве количества» денег никому не выдают) и экспертным гаданием на кофейной гуще, футурология взяла на себя не только обязанность по разработке сценариев адаптации к технологическим вызовам, но и по наукообразному обоснованию нерушимости существующего порядка.

Мюррей Букчин в «Экологии свободы» отмечает: «Особенно коварной эту тенденцию делает то, что она пытается задушить воображение само по себе, ограничивая его исключительно настоящим, и тем самым редуцируя наше видение, даже наши пророческие способности, до простой экстраполяции».

Самые смелые техновизионеры транслируют религиозную веру в бесконечно-вечное прорастание капиталистической экономики в глубины космоса и тысячелетнее царство венчурных инвесторов. Конечно, не обходится и без предсказаний конца света, но спасение должно прийти от тех же людей, что его приближают.

В итоге в нескончаемом потоке аналитических отчётов, экспертных прогнозов и Х-виттерных видений никакого будущего нет, балом правит хроническое настоящее: оно крепко вцепилось в будущее, пытается всосать и переварить его, надеясь на вечное возвращение в новых технологических декорациях.

Тем не менее, в это современное визионерство партизанскими тропами всё же проникают старые утопические мотивы «изобилия и братства»: будь то главы корпораций, рассуждающие о необходимости внедрения безусловного базового дохода (для спасения от ИИ-безработицы), или давосские отчёты, расписывающие молочно-кисельные перспективы пост-углеродной экономики.

Иллюстрация: Pieter Bruegel the Elder — The Land of Cockaigne.

Имхо, уже давно было понятно, что одна из первичных целей развития генеративного ИИ — снижение затрат на айтишников с их распухшей зарплатной ведомостью; а всякие там копирайтеры, иллюстраторы, базовые юристы — это абсолютные мелочи для бигтеха, их «оптимизация» просто приятный побочный продукт (и дополнительная реклама), нежели какая-то осознанная задача.

Другое дело, пока неизвестно, насколько генеративный ИИ действительно сможет вывезти возложенный на его плечи груз ответственности и полностью автоматизировать целые сферы труда. На данный момент больше согласуется с реальностью взгляд Доктороу — больше нагрузки и контроля за те же деньги. Но что там будет дальше, известно только писателям-фантастам.

Незатейливые пороки современной жизни от израильского художника Tony Babel.
Больше нравоучительных музыкальных открыток в комментариях.
Весëлых выходных!

Найди себя!
👉Версия 2.0.

Накидал для вас небольшую карту по текущим нарративам, тусовкам, анекдотам и мнениям вокруг развития ИИ (прежде всего, конечно, генеративного — большие языковые модели, генераторы изображений, etc.)

Расшифровка всех покемонов в комментариях / в открытом посте на Бусти.

Ось тряски-восторга: является ли ИИ потенциальным злом или добром.
Тряска (ИИ — опасная вещь, которая изменит жизнь людей к худшему) vs Восторг (ИИ — полезная вещь, которая изменит жизнь людей к лучшему).

Ось скептики-верующие: насколько ИИ с его текущей траекторией развития вообще способен поменять мир вокруг.
Скептики (ИИ сейчас никакой не интеллект, его развитие зашло в тупик) vs Верующие (ИИ изменит всё, технология развивается семимильными шагами).