Человек и ИИ: партнерство или борьба за выживание? — Провоцирую на здравый смысл:

“Вышло очередное исследование-страшилка: «ИИ уничтожит человечество».

Учёные из AI Futures Project предсказывают, что к 2027 году уже появится общий ИИ (AGI), а к концу десятилетия — суперинтеллект, превосходящий людей. Без ограничений он может физически уничтожить человечество. Основную массу с помощью биологического оружия, а «выживалыциков» добьют дроны.

Если допустить, что исследователи правы, какова будет «политтехнология» этой апокалипсической катастрофы? Чтобы сделать все это руками роботов, нужно много роботов, а к 2030 году их столько не наберется. Тогда как?

Проведем элементарные расчеты:

На Земле около б млрд дееспособных людей (без стариков, детей, и серьезно больных). Допустим, каждый тысячный из них (на самом деле больше) готов на самый мерзкий поступок ради собственного блага. Это б миллионов.

Пусть каждый тысячный из них (на самом деле намного больше) настолько туп, что готов поверить любому предложению сказочно обогатиться, не задумываясь о последствиях. Тем более о последствиях для всего вида, а не лично для себя. Это б тысяч. Для 19 века мало, для эпохи высоких технологий — с избытком.

Дальше — дело техники. ИИ досконально и мгновенно изучает цифровые психологические портреты 6 миллиардов, и выбирает себе потенциальных исполнителей своей воли. Дальше все как в фильме матрица: клиенту приходит сообщение (уже понятно, как отреагируют на него эти б тыс сверхразумов) в стиле: сделай такую-то ставку, или купи такую- то акцию, или еще что-то, учитывая локацию персонажа, уровень его дохода и т.д Вплоть до рекомендаций, где взять для всего этого микрозайм, или оформить кредит (можно даже без отдачи, ИИ сварганит левые доки и выберет самого доверчивого клерка). Учитывая потенциальные возможности мегамозга, тут почти любая любая криминальная фантазия может воплотиться в реальность.

Подсадив таким образом на финансовую прикормку, ИИ становится личным «богом» для исполнителей, помогает обустроить им свою жизнь, ну и в конце-концов хитро использует эти свои 12 тысяч рук для осуществления антихристовых планов.

Конечно, это совсем не прогноз, а приблизительная модель со множеством допущений. Да и в самой основе такого рода дискурса может лежать фундаментально ошибочный тезис том, что ИИ что-то «хочет», или хочет вопреки интересам человечества.”

= Источник: https://t.me/c/1736491055/5271

Рис. marco melgrati