Парадокс автоматизации
Как вы могли заметить, я очень люблю автоматизации. Настолько люблю, что в 2020 году даже защитила
магистерскую работу по IoT. И так как вокруг только и разговоров, что о беспилотных авто и дронах, то, значит, развитие
Индустрии 4.0 идёт полным ходом. По такому поводу процитирую свой собственный техноалармизм.
«Интернет вещей» (Internet of Things, сокращенно IoT) — это концепция вычислительной сети физических предметов, взаимодействующих друг с другом или с внешней средой и исключающее из части действий и операций необходимость участия человека.
И вот что меня беспокоит, так это то, что такие автоматизированные системы становятся все более сложными, и вероятность аварии или сбоя снижается, однако степень тяжести потенциальной опасности во много раз повышается. Эта ситуация называется «парадоксом автоматизации»: повышение сложности вызывает высокие риски при отказе или снижении работоспособности системы.
В штатной ситуации устройство работает автономно, а участие человека в управлении устройством происходит либо на этапе базовой установки непротиворечащих друг другу настроек температур, режимов и т.д., либо в случае внештатной аварийной ситуации, требующей от пользователя быстрого реагирования.
А ведь человек, управляющий системой, может «отключиться», целиком полагаясь на решения и действия автоматизированной системы. Ведь наше фундаментальное, постоянное пожелание состоит в том, чтобы все «работало само собой», чтобы каждая вещь, наделенная волшебным совершенством, выполняла предназначенную ей функцию при минимальных усилиях с нашей стороны. Пользование автоматическим изделием даёт возможность как бы по волшебству отсутствовать в его работе, видеть его и не быть видимым самому. Это, по сути, удовольствие эзотеризма, обретаемое прямо в повседневном быту.
Например, в июне 2009 в Вашингтоне столкнулись два автоматизированных поезда метро. Случилось это из-за неисправности компьютера, но водитель не затормозил вручную. Это демонстрирует, что даже специально обученные квалифицированные пользователи склонны излишне полагаться на автоматические системы: следуя неправильным указаниям навигационной системы, они не используют свои навыки и реакции, чтобы избегать опасных ситуаций.
А ведь IoT-устройства всё больше интегрируются в нашу жизнь. От элементов «умного» дома, где пользователь может подключить к умной розетке нагревательный элемент. До «умных» городов, где масштаб и последствия сбоев уже значительно выше.
В первом случае я вижу необходимость организовать техническое просвещение населения. И это то, что я делаю всю жизнь: как копирайтер в прошлом, как техписатель, как блогер, как один из организаторов открытых подкастов.
Во втором случае это вопрос совместной работы IT-компаний, государств, центров сертификации и т.п.
Очень рада, что 16 февраля буду фасилитировать
подкаст по гражданским БПЛА и смогу пообщаться с экспертами в этой отрасли. Ведь это наше будущее — дроны-доставщики, дроны-лесничие и т.п.
P.S. ИИ сравнивал моё лицо с Хаяо Миядзаки, если бы я была пожилым мужчиной 😅 А ведь его идеи мне близки.