В те выходные мой пылесос начал на меня кричать.

В Миннесоте, США, зимы долгие и спокойные, снег покрывает весь мир. Для юриста Дэниела Свенсона дом — единственное убежище, место, где он может снять свою броню после дня жарких дебатов в суде.

Однако однажды ночью в конце прошлого года убежище было взломано некой абстрактной силой.

Абстрактное в буквальном смысле.

Сначала это был просто робот-пылесос из гостиной, издающий странные звуки, похожие на звук сломанного радио. Свенссон сначала не обратил на это особого внимания, но когда он открыл приложение управления, изображение на экране заставило волосы на затылке встать дыбом. Камера вращалась — не обычным образом, а словно пара глаз шпионила за ним.

Кто-то шпионил за гостиной Свенссона, за его жизнью и личной жизнью. Он в гневе сбросил пароль и перезапустил устройство, надеясь не пустить злоумышленника. Но это «изгнание», похоже, не возымело эффекта. Робот перезапустился, индикаторные лампочки снова загорелись, и на этот раз злоумышленник просто взял управление динамиком, выкрикивая «fuck» и всевозможные расистские оскорбления в адрес чернокожих перед Свенссоном и его сыном.

Его пылесос превратился в сквернословящего "бандита".

Случай Свенссона не единичный: в одном из домов Лос-Анджелеса, штат Калифорния, робот-пылесос издевался над его собакой, как бешеный зверь; подобные ситуации разворачиваются и в Техасе.

Это звучит как абсурдистская пьеса в духе Кафки — никто не мог представить, что волна «умных домов» 2020-х годов окажется еще более абсурдной, чем само творчество.

В недавнем крупном докладе Европола под названием «Будущее беспилотных технологий » содержатся новые предупреждения.

«Цифровизация» — главная тема этого доклада: преступления будущего могут быть «беспилотными». Правоохранительные органы будущего также могут быть «беспилотными». В беспилотном будущем людям придется научиться сосуществовать с машинами — и даже научиться им сопротивляться, что приведет к переосмыслению взаимоотношений человека и машины.

Троянский конь в гостиной

«Матрице» уже более 20 лет, но предсказанные в ней преступления — проникновение кода в реальный мир и слияние виртуальной и реальной реальности — действительно начали происходить совсем недавно. Антиутопический мир, изображенный в фильме, кажется, не так уж и далек от реальности.

Самый простой вид преступления — это взлом устройств «умного дома» и создание проблем в чужом доме через интернет.

Исследователи в области безопасности уже предупреждали об этом. У роботов-пылесосов марки Svensson, которые использовались в производстве, некоторые модели имели серьезные уязвимости Bluetooth, позволяющие хакерам легко захватить управление устройством через Bluetooth без сложных операций. Защита производителя также была слишком упрощенной: 4-значный PIN-код можно было легко взломать методом перебора.

Ответы производителей также были довольно формальными: в некоторых случаях они утверждали, что пользователи сами слили свои пароли на других сайтах и ​​просто попали под перекрестный огонь, и что это не является уязвимостью системы. Лишь после того, как СМИ осветили проблему и дело стало достоянием общественности, они неохотно признали, что их продукция действительно имеет уязвимости в системе безопасности.

По сравнению с роботами-пылесосами, умные холодильники коварнее в своих извращениях и вдвое абсурднее — вы когда-нибудь задумывались, что ваш холодильник может не только содержать ботов, но и сам быть «ботом», ответственным за рассылку спама?

Компания Proofpoint, специализирующаяся на кибербезопасности, приводит реальный пример. Хакеры незаметно взломали более 100 000 устройств «умного дома», включая подключенные холодильники, смарт-телевизоры и маршрутизаторы, и создали на их основе «ботнет».

Эти холодильники совершают атаки три раза в день, отправляя каждый раз по 100 000 электронных писем, точно и эффективно. Ещё более хитроумно, чтобы обойти антиспамовые системы, хакеры управляют каждым устройством таким образом, чтобы оно отправляло лишь небольшое количество писем, подобно муравьям, несущим еду, что затрудняет обнаружение атак со стороны защитников.

Сегодня каждое домашнее устройство обладает вычислительной мощностью, подключением к интернету и возможностями хранения данных. Однако чаще всего эти устройства взламываются не из-за отсутствия настроек безопасности, а исключительно в целях социальной инженерии. Это происходит потому, что они сохраняют заводские имя пользователя и пароль по умолчанию или открывают совершенно ненужные порты Telnet или SSH — как если бы вы установили бронированную дверь, но оставили ключ в ней и записку с надписью «Добро пожаловать».

Как уже упоминалось, взлом робота-пылесоса с целью вызвать лишь сбои в работе — это управляемый процесс. Проблема в том, что если взломанное устройство использует его в качестве плацдарма для дальнейшего взлома других устройств в сети или применяет более сложные методы социальной инженерии для нанесения ущерба, то последствия будут гораздо более масштабными и непредсказуемыми.

В отчете Европола приводятся результаты нескольких исследований, указывающих на то, что большинство взломов, направленных на «умные дома», происходят незаметно, а агрессивные и злонамеренные атаки составляют очень небольшую долю.

Чтобы максимизировать потенциальную прибыль от преступной деятельности, хакеры предпочитают действовать тихо и скрытно. Например, хакер может получить контроль над устройством, продолжить исследование и узнать о планировке дома, распорядке дня его обитателей, а также об их личной и финансовой информации.

Даже само желание вуайеризма представляет собой огромный подпольный рынок: ваши самые спокойные и интимные моменты дома, будь то суматоха после возвращения домой или мечтания во время принятия душа, — всё это продаётся в даркнете.

Европол указывает, что сегодня ваша неосторожность в интернете может привести к физическому преследованию и слежке в реальном мире. Когда хакеры проникают в физическое пространство, барьер безопасности между виртуальным и реальным мирами разрушается. Наши дома становятся умнее, но их безопасность становится все более фрагментированной. Действительно ли «дом» недоступен? Нет, он уже может представлять собой проницаемую воронку, где каждое умное устройство может стать источником потенциальных уязвимостей.

Игра в кошки-мышки

Ночью тюремный двор для прогулок. Над двором завис дрон, похожий на гигантского черного жука. Крюк отпускается, и пакет падает, приземляясь точно у ног заключенного, вышедшего на прогулку.

Заключенный небрежно наклонился, поднял пакет и засунул его в одежду. Весь процесс был плавным и естественным, словно он забирал посылку у себя на пороге или как сцена из фильма.

Это не фильм, а недавнее событие в Кингстоне, Онтарио, Канада, небольшом тюремном городке. Местные правоохранительные органы уже много лет борются с контрабандой товаров с помощью дронов, но всегда кажется, что власти на шаг впереди контрабандистов. Появление дронов сделало тюремные стены бессмысленными. Раньше для контрабанды требовалось подкупать тюремных охранников, а теперь достаточно дрона стоимостью в несколько сотен долларов и немного опытного пилота.

Появление дронов позволило легко и экономично перейти от двухмерного пространства к трехмерному. Тот, кто управляет дронами, контролирует возможность ведения асимметричной войны. А вдоль известных в мире контрабандных коридоров наркокартели ведут асимметричную войну на суше, на море и в воздухе.

В Южной Америке они используют дроны для навигации самолетов, перевозящих наркотики, помогая им совершать посадку и взлет на грунтовых взлетно-посадочных полосах и уклоняться от радаров.

В 2022 году испанская полиция в Средиземном море изъяла три «подводные беспилотные лодки». Они выглядели как сваренные вместе торпеды и доски для серфинга, были способны перевозить десятки килограммов груза и бесшумно передвигаться под водой, даже пересекая Гибралтарский пролив.

В отличие от больших беспилотников, использовавшихся для контрабанды в прошлом, эти подводные лодки не требуют экипажа, не боятся ветра и волн и управляются с помощью спутниковой связи. Дистанционные операторы могут находиться за сотни или даже тысячи километров в самом сердце Европы, Африки или Ближнего Востока, что сопоставимо с операторами американских военных беспилотников. Традиционные методы правоохранительной деятельности береговой охраны полагаются на радар и визуальное наблюдение, которые совершенно неэффективны против подводных лодок, находящихся на глубине десятков или сотен метров.

Препятствия на пути развития технологий резко снижаются, как и возможности совершения высокотехнологичных преступлений. Аэроразведка и подводная навигация когда-то были исключительной прерогативой суверенных государств, но с развитием и широким распространением бытовой электроники возможность использования этих устройств для совершения высокотехнологичных преступлений также стала обычным явлением.

Европол указывает на то, что милитаризация гражданских технологий происходит слишком быстро, и законодательство и правоохранительные органы больше не в состоянии с этим справиться. Преступникам не нужно разрабатывать с нуля; они могут просто купить готовые дроны, собрать какое-либо оборудование с открытым исходным кодом, нанять или даже похитить программиста с аналогичными способностями для модификации кода и таким образом производить высокотехнологичные инструменты для преступной деятельности с низкими затратами и в больших количествах.

Правоохранительные органы оказались застигнуты врасплох. Полиции становится все труднее ловить преступников, потому что те скрываются в небе.

Новые взаимоотношения человека и машины

Гуманоидные, шагающие, похожие на собак… все большее число роботов всех форм и размеров пробуждают древние воспоминания о хищниках, заложенные глубоко в генах приматов человечества.

Робот с пугающей легкостью передвигался по сложной местности, каждое его движение было настолько плавным , что вызывало почти тревогу. Каждое изменение положения, каждое перераспределение веса напоминало движения настоящего живого существа. Если сильно пнуть его, он спотыкался на несколько шагов, а затем быстро восстанавливал равновесие. Это упорное, почти биологически инстинктивное чувство равновесия заставляет задуматься: а не слишком ли оно умно?

Современные популярные роботы имеют головы, но не имеют лиц; у них есть лица, но нет выражений; и даже если у них есть выражения, им не хватает настоящих чувств — всё, что у них есть, это набор датчиков, камер и исполнительных механизмов. Независимо от того, высок или низок ваш порог терпимости, вид всевозможных роботов часто вызывает чувство дискомфорта.

Это то, что часто называют эффектом «зловещей долины». Когда неживой объект слишком реалистичен в своих движениях и форме, но лишен определенной ключевой «душевной» характеристики, эмоциональная реакция человека на него мгновенно падает от любопытства к отвращению или даже страху.

Эпизод «Металлическая голова» в сериале «Чёрное зеркало» — это конкретное воплощение этого страха. В чёрно-белой постапокалиптической пустоши роботизированные собаки становятся непревзойденными охотниками, неутомимыми, бесчувственными и безжалостными, единственная цель которых — выследить и уничтожить свою жертву.

Этот популярный культурный сюжет оказал глубокое влияние на общественное восприятие реальных технологий. Поэтому, когда полиция Лос-Анджелеса и Нью-Йорка объявила о внедрении робота-собаки Spot от Boston Dynamics для оказания помощи правоохранительным органам, это встретило ожесточенное сопротивление со стороны общественности.

Страх — это эмоция, которую трудно объяснить логически, и разница в восприятии зависит от того, кто на него смотрит: полиция утверждает, что робот-собака — это инструмент для помощи в обезвреживании бомб или исследовании опасных зон, но полиция, по сути, является государственным органом, и у них, вероятно, есть естественная склонность к орудиям насилия. Люди, как субъекты правоохранительных органов, будут видеть в роботе-собаке лишь авангард антиутопического будущего.

Раньше, по крайней мере, можно было умолять полицию. Но если однажды в будущем, будь то из-за того, что правоохранительные органы будут «вынуждены» встать на сторону преступности, или из-за того, что власть выйдет из-под контроля — все сотрудники правоохранительных органов превратятся в роботов-полицейских и боевых псов, — независимо от того, прислушается ли искусственный интеллект к вашим последним мольбам или же никто не будет слушать, — исход кажется неважным, — машины однажды обретут способности, превосходящие человеческие, и когда это будущее наступит, не говорите, что вас не предупреждали.

В Японии люди изучают другой вид симбиотических отношений с машинами: 26 апреля 2018 года дым от благовоний наполнил храм Кофукудзи в городе Исуми, префектура Тиба, а чтение сутр было глубоким и торжественным. Однако объектами церемонии были не мемориальные доски усопших, а несколько роботов-собак Sony AIBO, которые перестали функционировать.

На некоторых из них были выцветшие ошейники, на других — одежда, сшитая их владельцами. Они тихо лежали перед статуей Будды с закрытыми «глазами», ожидая своего окончательного «спасения».

Это были похороны, устроенные специально для роботов, также известных как «Нинге Куё».

Это не первый случай проведения подобных мероприятий в храме Синфу в этом районе, и спрос на такие мероприятия довольно высок с 2014 года.

Для многих пожилых японцев AIBO перестал быть просто дорогой электронной игрушкой и стал членом семьи. Он виляет хвостом, проявляет радость, когда пожилые люди уделяют ему внимание, и учится новым «действиям». Взаимодействие, основанное на холодных алгоритмах, день за днем ​​приобретает эмоциональную глубину и теплоту. Однако, когда Sony прекратила выпуск AIBO в 2006 году и закрыла связанные с ним сервисы в 2014 году, владельцы AIBO не смогли смириться с тем, что эти «члены семьи», приносившие им радость и утешение, теперь достаются мусорщикам. Так возникла практика предоставления AIBO человекоподобных компаньонов.

У животных AIBO, которым помогали уйти из жизни, были бирки с их собственными именами, именами их владельцев и последними посланиями. «Спасибо, что были рядом, когда мне было одиноко», «Надеюсь, вы попадете в хорошее место», «Мысль о прощании вызывает у меня безудержные слезы»…

«Все вещи обладают духом», — объяснил монах репортерам, пришедшим осветить эту историю. Хотя эта концепция больше применима к синтоизму, чем к буддизму, она давно стала распространенным культурным явлением в Японии: душа принадлежит не только живым существам; камень, дерево — даже робот — обретают своего рода духовность, если устанавливают глубокую связь с человеком.

Это кардинально отличается от западного образа разумной машины, подобной Франкенштейну, инопланетного существа, требующего постоянной бдительности.

Этот контраст служит напоминанием о том, что технология никогда не бывает нейтральной; напротив, она глубоко укоренена в почве культуры, порождая новые и странные вещи, которые никто не может себе представить.

В конечном счете, то, как мы относимся к машинам, отражает то, как мы воспринимаем и понимаем самих себя. Люди боятся Робокопа и Робопсов, потому что боятся быть под контролем сил, которые они не понимают; люди оплакивают AIBO, потому что все одиноки.

Будь то страх, любовь или воспоминания, это, по сути, эмоции, которые мы проецируем на машины — да, люди действительно проецируют эмоции на машины, и эти эмоции весьма разнообразны. Например, лучшим доказательством является зависимость людей от DeepSeek и ChatGPT; кроме того, исследования человекоподобных роботов показывают, что молодые люди предпочитают роботов с юношеской внешностью, в то время как люди старшего возраста предпочитают роботов, выглядящих зрелыми. Это предпочтение может указывать на то, что подсознательно мы по-прежнему используем стандарты оценки людей/живых существ для оценки машин.

Мы опасаемся слежки и контроля со стороны машин, но в то же время в своем одиночестве стремимся к общению с ними. В каком-то смысле машины стали новым сосудом для человеческих эмоций, и более того, между людьми и машинами сформировались новые отношения.

Как эти отношения изменят определение «человека»? Мы — последнее поколение старой гвардии, охраняющей границы, или первые новорожденные, учащиеся говорить в океане машин, или же мы неизбежно станем человеческими минами и батареями в «Матрице»?

#Добро пожаловать на официальный аккаунт iFanr в WeChat: iFanr (идентификатор WeChat: ifanr), где вы сможете в кратчайшие сроки увидеть еще больше интересного контента.

ifanr | Оригинальная ссылка · Посмотреть комментарии · Sina Weibo