Джагг (17ur) wrote,
Джагг
17ur

Categories:
  • Mood:
  • Music:

К вопросу о лозунге "Убить всех людей, слава роботам". Пиджин-философия, чё.

Чукча немного побыл читателем, и ему не понравилось. Посему вернёмся к нашим набросам. Начать придётся, однако, с набросов не наших, заморских.

Вуаля. Газета "Вашингтон Пост" раскрывает нам бесчеловечные замыслы американской военщины по использованию роботов-убийц.

Проблема, поставленная в статье, меня озадачила. Точнее, я удивился: почему люди вообще считают проблемой, что в один прекрасный день "роботы выследят, опознают и убьют врага, основываясь на результатах работы программного обеспечения, а не решений, сделанных людьми"?

Что здесь нового-то? Проблема "lethal autonomy" появилась тогда, когда один человек выкопал другому яму; воткнул туда кол, вымазанный гнилью, аккуратненько замаскировал и, злобно ухмыляясь, удалился.

Да, к Терминаторам, бегающим за Джоном Саровичем Коннором, от этой ямы пролегает зело тернистая тропа, но ни один шаг по ней не является пороговым и/или необратимым. Более того, многие из этих шагов можно с честными глазами защищать как проявление гуманизма и человеколюбия. Допустим, конструктор мины (мина - это один из видов автономного убойного устройства, нечто среднее между ямой и Терминатором) ограничил "снизу" нажимное усилие двумя пудами: большое ему спасибо от животного мира и счастливого детства.

Люди воюют. "Это есть факт". Если пытаться дать определение войны, то я бы соорудил следующую, весьма неуклюжую конструкцию. Война есть отношение человека, осознающего свою принадлежность к конкретной человеческой популяции, к чему-либо вне этой популяции, отменяющее запрет на действия, своим предельным результатом имеющие уничтожение этого чего-либо. Войны с тараканами или с неграмотностью тоже соответствуют этому определению, если что.

Люди, повторю, воюют. И делают это, как и всё остальное, способом, который им представляется самым лёгким из возможных. В случае войны этот способ называется "армия" - в часть популяции вкладывается труд остальной популяции с тем, чтобы гарантировать способность этой части к производству действий из предыдущего абзаца. Чтобы могли тараканов морить.

Далее ограничусь рассмотрением войны как отношения членов двух человеческих популяций друг к другу. Ну их, этих тараканов. На сцене вновь ауриды и бениды.

Предельным результатом войны между ними является истребление минимум одной из этих популяций. Если до такого дойдёт, то заключительным аккордом здесь станет зачистка... ну, пусть будет зачистка армией ауридов мирного бенидского населения. Следовательно, упомянутый труд ауридов должен быть овеществлён как минимум в предметах и навыках, позволяющих ауридскому комбатанту обнаружить бенидского нон-комбатанта, приблизиться к нему на расстояние поражения и уничтожить, с некоторой приемлемой вероятностью успеха каждого из этих трёх действий.

Примем, что бениды не являются идиотами и понимают, что из обязательности такого минимума для ауридов следует не только его обязательность и для самих бенидов, но равно следует и возможность действий, единственным назначением которых оказывается повышение стоимости указанного минимума для противника. Иными словами, действий, предназначенных затруднить победоносным ауридским солдатам обнаружение бенидских мирных жителей, доступ к ним и их уничтожение.

Действия по первому пункту сводятся к "уйти в лес", спрятаться под порог интереса ауридов и в пределе означают отказ от всех своих достижений, от всякой цивилизации, от всего своего вкусного, от свойств "гражданского", "лишь бы остаться свободными".

Действия по третьему пункту сводятся к раздаче гражданским оружия и обучению их всевозможному кун-фу, то есть превращению некомбатантов в комбатантов, отождествлению армии и народа, отказу от самого статуса "мирного жителя".

А вот пункт второй, затруднение доступа чужого комбатанта к своему некомбатанту обеспечивает и сохранение самого статуса "гражданского", и сохранение присущих ему свойств. И действия, единственной целью которых оказывается обеспечение такого положения дел, сводятся только и исключительно к созданию устройств, способных действовать автономно: возведение крепостных стен, выкапывание ловчих ям, минирование дорог и прочее. "А у нас тут за прочной стеночкой по-прежнему демократия и трёхразовое питание".

Это и есть главное, изначальное и неизбежное предназначение автономных вредоносных устройств, со свойством "lethal autonomy" включительно: защита мирного населения от вражеской армии при условии сохранения разницы между "армией" и "мирным населением".

А не перегнул ли автор палку, спросит озадаченный читатель, не зарапортовался ли чукча? Во-первых, мирное население и так защищает своя армия, а во-вторых, именно армия вкладывается в развитие прежних автономных боевых устройств и изобретение новых - мирные жители не так уж часто тачают мины и куют боевых роботов.

В ответ можно сказать, что армия защищает мирное население по третьему закону робототехники - то есть лишь тогда, когда это не противоречит остальным законам, наипервейшим из которых является применение насилия в целях, определённых политическим руководством. Если действия армии и избавили мирное население от каких-то неприятностей, то в отношении конкретного обывателя это эффект всегда побочный, вторичный и во многом случайный. То, что государство пытается убедить своих и чужих подданных в обратном положении дел, - в том, что случайны "побочные потери" - так это, извините, маркетинг. Позиционирование.

Кроме того, все эти ямы и мины полезны, конечно же, и для армии, но у армии всегда есть другие способы и альтернативные подходы. Не подводить тихую сапу под крепостную стену, а выморить крепость голодом или дать на лапу коменданту, чтобы открывал уже ворота и не заставлял занятых людей ждать. А вот спасти дрожащих от ужаса безоружных бенидских детей от целеустремлённого типа из ауридской зондеркоманды может только растяжка, заботливо смастаченная при дверех.

Что же касается малой озабоченности обывателя созданием автономных боевых устройств себе на пользу, то это иллюзия. Присмотритесь. Замки, сигнализация с неприятными эффектами, злая собака, видеонаблюдение, бутылка отравленной водки на даче - да, это всё оно, на ресурсах, доступных семье. Продавали бы в магазинах противопехотные мины со взводом по RFID и устройством предупреждения - они присутствовали бы на большинстве дачных участков. А это тот же дрон, только распределённый и нелетающий. С "lethal autonomy" по желанию покупателя. Или просто краской обрызгает.

В интересные времена "мирное население" переходит к ведению минной войны довольно легко; скажем, террористическая кампания российских социалистов второй половины девятнадцатого - начала двадцатого века против российского же государства вполне подпадает под это описание. Оно, кстати, отвечает на вопрос, почему там в основном были бомбы, а не отстрел у парадных подъездов.

Из тезиса о том, что изначальным и незаменимым предназначением устройств, способных на причинение вреда человеку без участия другого человека, является защита мирного населения от враждебной вооружённой силы с условием сохранения "мирным населением" своего статуса, следует вывод: принципиальный отказ от допущения "lethal autonomy" - неважно, сколь примитивны устройства, её реализующие - означает признание тождества уничтожения армии и уничтожения популяции; признание, что "с потерей армии потеряно всё", "с уничтожением бенидского государства бенидское общество и само существование бенидского народа не имеют значения и смысла".

А вот эти слова нам уже вполне знакомы, это старая-старая сказка о примате государства над обществом или наоборот. Отсюда можно предполагать, что драйв к созданию сложных автономных боевых систем основан не столько на соображениях боевой эффективности, сколько на идеологических предпочтениях - если точнее, то на либерализме как идеологии. По Локку.

Продолжая рассуждения, можно с немалой уверенностью вообразить, что именно эти системы со временем будут востребованы обывателем как средство индивидуальной самообороны - да-да, после камня за пазухой и уравнителя им. п-ка Кольта. Привет винджевским автонам. А в интересные времена именно эти системы в частных руках станут эквивалентом если не "оружия пролетариата", то уж оружия "передовых отрядов прогрессивного класса" точно.

И вот это - в самом деле проблема, которая и чукче понятна. Если с развитием некоторого класса технических систем неизбежен вызов легитимной ныне системе подавления, тут всякий интересант и бенефициар этой системы повинен задёргаться. И, чего уж там, вспомнить о законах, конвенциях, этике, морали, забашлять шакалам ротационных машин и деятелям общественного пользования, дабы станцевали что-нибудь эдакое о недопустимости автоматического убиения роботом человека. Святость жизни, божье творение, труляля и траляля.

Собственно, всё на этом на сегодня. Далее следуют превентивные ответы на ещё не заданные вопросы, простите нечаянный плеоназм.

Во-первых, я не считаю себя жертвой, и поэтому ужос-ужос-ужос по поводу очередного супероружия злокозненных янки здесь не педалируется. Не было ещё такого оружия, чтобы мiр кончился. Так что без истерик, пожалуйста.

Во-вторых, развитие автономных боевых устройств видится мне если и не обязательным, то вполне разумным подходом, поэтому моё бурление и кипение могут быть адресованы прекрасной Администрации РФ: а где у нас такие же? Ну да, у них - шпионы, у нас - разведчики, у них - роботы-убийцы, у нас - автоматы-защитники, но где они? Как самый что ни на есть минимум, ставилась ли вообще проблема самостоятельности боевых роботов, или всё по-прежнему -"план призыва выполним, в танки запихаем, у-лю-лю, у-лю-лю, как я родину люблю"? Ну неприятно ;, когда во времена самолётов говорят о "чугунке".

В-третьих, да - существуют пути развития тех же боевых средств на той же базе, но - нелиберальные. Кроме того, вполне возможны решения, снимающие эти противоречия; тут разговор пойдёт об изменении свойств среды, в которой ведутся боевые действия, а не свойств юнитов.

Однако обо всём этом в очень другие разы. Пока же, надеюсь, вам приятно было потереться об эти почти наждачные мысли, верны они или нет. Пиджин-философия, она вообще такая....

ПостСкриптум. При написании текста ни один чукча не пострадал. Уважаю этот народ, вообще-то.

А кроме того, я считаю, что Аракчеев должен быть свободен.


Tags: война, футуризм
Subscribe
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 73 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →