?

Log in

No account? Create an account

обратно | туда

Чукча немного побыл читателем, и ему не понравилось. Посему вернёмся к нашим набросам. Начать придётся, однако, с набросов не наших, заморских.

Вуаля. Газета "Вашингтон Пост" раскрывает нам бесчеловечные замыслы американской военщины по использованию роботов-убийц.

Проблема, поставленная в статье, меня озадачила. Точнее, я удивился: почему люди вообще считают проблемой, что в один прекрасный день "роботы выследят, опознают и убьют врага, основываясь на результатах работы программного обеспечения, а не решений, сделанных людьми"?

Что здесь нового-то? Проблема "lethal autonomy" появилась тогда, когда один человек выкопал другому яму; воткнул туда кол, вымазанный гнилью, аккуратненько замаскировал и, злобно ухмыляясь, удалился.

Да, к Терминаторам, бегающим за Джоном Саровичем Коннором, от этой ямы пролегает зело тернистая тропа, но ни один шаг по ней не является пороговым и/или необратимым. Более того, многие из этих шагов можно с честными глазами защищать как проявление гуманизма и человеколюбия. Допустим, конструктор мины (мина - это один из видов автономного убойного устройства, нечто среднее между ямой и Терминатором) ограничил "снизу" нажимное усилие двумя пудами: большое ему спасибо от животного мира и счастливого детства.

Люди воюют. "Это есть факт". Если пытаться дать определение войны, то я бы соорудил следующую, весьма неуклюжую конструкцию. Война есть отношение человека, осознающего свою принадлежность к конкретной человеческой популяции, к чему-либо вне этой популяции, отменяющее запрет на действия, своим предельным результатом имеющие уничтожение этого чего-либо. Войны с тараканами или с неграмотностью тоже соответствуют этому определению, если что.

Люди, повторю, воюют. И делают это, как и всё остальное, способом, который им представляется самым лёгким из возможных. В случае войны этот способ называется "армия" - в часть популяции вкладывается труд остальной популяции с тем, чтобы гарантировать способность этой части к производству действий из предыдущего абзаца. Чтобы могли тараканов морить.

Далее ограничусь рассмотрением войны как отношения членов двух человеческих популяций друг к другу. Ну их, этих тараканов. На сцене вновь ауриды и бениды.

Предельным результатом войны между ними является истребление минимум одной из этих популяций. Если до такого дойдёт, то заключительным аккордом здесь станет зачистка... ну, пусть будет зачистка армией ауридов мирного бенидского населения. Следовательно, упомянутый труд ауридов должен быть овеществлён как минимум в предметах и навыках, позволяющих ауридскому комбатанту обнаружить бенидского нон-комбатанта, приблизиться к нему на расстояние поражения и уничтожить, с некоторой приемлемой вероятностью успеха каждого из этих трёх действий.

Примем, что бениды не являются идиотами и понимают, что из обязательности такого минимума для ауридов следует не только его обязательность и для самих бенидов, но равно следует и возможность действий, единственным назначением которых оказывается повышение стоимости указанного минимума для противника. Иными словами, действий, предназначенных затруднить победоносным ауридским солдатам обнаружение бенидских мирных жителей, доступ к ним и их уничтожение.

Действия по первому пункту сводятся к "уйти в лес", спрятаться под порог интереса ауридов и в пределе означают отказ от всех своих достижений, от всякой цивилизации, от всего своего вкусного, от свойств "гражданского", "лишь бы остаться свободными".

Действия по третьему пункту сводятся к раздаче гражданским оружия и обучению их всевозможному кун-фу, то есть превращению некомбатантов в комбатантов, отождествлению армии и народа, отказу от самого статуса "мирного жителя".

А вот пункт второй, затруднение доступа чужого комбатанта к своему некомбатанту обеспечивает и сохранение самого статуса "гражданского", и сохранение присущих ему свойств. И действия, единственной целью которых оказывается обеспечение такого положения дел, сводятся только и исключительно к созданию устройств, способных действовать автономно: возведение крепостных стен, выкапывание ловчих ям, минирование дорог и прочее. "А у нас тут за прочной стеночкой по-прежнему демократия и трёхразовое питание".

Это и есть главное, изначальное и неизбежное предназначение автономных вредоносных устройств, со свойством "lethal autonomy" включительно: защита мирного населения от вражеской армии при условии сохранения разницы между "армией" и "мирным населением".

А не перегнул ли автор палку, спросит озадаченный читатель, не зарапортовался ли чукча? Во-первых, мирное население и так защищает своя армия, а во-вторых, именно армия вкладывается в развитие прежних автономных боевых устройств и изобретение новых - мирные жители не так уж часто тачают мины и куют боевых роботов.

В ответ можно сказать, что армия защищает мирное население по третьему закону робототехники - то есть лишь тогда, когда это не противоречит остальным законам, наипервейшим из которых является применение насилия в целях, определённых политическим руководством. Если действия армии и избавили мирное население от каких-то неприятностей, то в отношении конкретного обывателя это эффект всегда побочный, вторичный и во многом случайный. То, что государство пытается убедить своих и чужих подданных в обратном положении дел, - в том, что случайны "побочные потери" - так это, извините, маркетинг. Позиционирование.

Кроме того, все эти ямы и мины полезны, конечно же, и для армии, но у армии всегда есть другие способы и альтернативные подходы. Не подводить тихую сапу под крепостную стену, а выморить крепость голодом или дать на лапу коменданту, чтобы открывал уже ворота и не заставлял занятых людей ждать. А вот спасти дрожащих от ужаса безоружных бенидских детей от целеустремлённого типа из ауридской зондеркоманды может только растяжка, заботливо смастаченная при дверех.

Что же касается малой озабоченности обывателя созданием автономных боевых устройств себе на пользу, то это иллюзия. Присмотритесь. Замки, сигнализация с неприятными эффектами, злая собака, видеонаблюдение, бутылка отравленной водки на даче - да, это всё оно, на ресурсах, доступных семье. Продавали бы в магазинах противопехотные мины со взводом по RFID и устройством предупреждения - они присутствовали бы на большинстве дачных участков. А это тот же дрон, только распределённый и нелетающий. С "lethal autonomy" по желанию покупателя. Или просто краской обрызгает.

В интересные времена "мирное население" переходит к ведению минной войны довольно легко; скажем, террористическая кампания российских социалистов второй половины девятнадцатого - начала двадцатого века против российского же государства вполне подпадает под это описание. Оно, кстати, отвечает на вопрос, почему там в основном были бомбы, а не отстрел у парадных подъездов.

Из тезиса о том, что изначальным и незаменимым предназначением устройств, способных на причинение вреда человеку без участия другого человека, является защита мирного населения от враждебной вооружённой силы с условием сохранения "мирным населением" своего статуса, следует вывод: принципиальный отказ от допущения "lethal autonomy" - неважно, сколь примитивны устройства, её реализующие - означает признание тождества уничтожения армии и уничтожения популяции; признание, что "с потерей армии потеряно всё", "с уничтожением бенидского государства бенидское общество и само существование бенидского народа не имеют значения и смысла".

А вот эти слова нам уже вполне знакомы, это старая-старая сказка о примате государства над обществом или наоборот. Отсюда можно предполагать, что драйв к созданию сложных автономных боевых систем основан не столько на соображениях боевой эффективности, сколько на идеологических предпочтениях - если точнее, то на либерализме как идеологии. По Локку.

Продолжая рассуждения, можно с немалой уверенностью вообразить, что именно эти системы со временем будут востребованы обывателем как средство индивидуальной самообороны - да-да, после камня за пазухой и уравнителя им. п-ка Кольта. Привет винджевским автонам. А в интересные времена именно эти системы в частных руках станут эквивалентом если не "оружия пролетариата", то уж оружия "передовых отрядов прогрессивного класса" точно.

И вот это - в самом деле проблема, которая и чукче понятна. Если с развитием некоторого класса технических систем неизбежен вызов легитимной ныне системе подавления, тут всякий интересант и бенефициар этой системы повинен задёргаться. И, чего уж там, вспомнить о законах, конвенциях, этике, морали, забашлять шакалам ротационных машин и деятелям общественного пользования, дабы станцевали что-нибудь эдакое о недопустимости автоматического убиения роботом человека. Святость жизни, божье творение, труляля и траляля.

Собственно, всё на этом на сегодня. Далее следуют превентивные ответы на ещё не заданные вопросы, простите нечаянный плеоназм.

Во-первых, я не считаю себя жертвой, и поэтому ужос-ужос-ужос по поводу очередного супероружия злокозненных янки здесь не педалируется. Не было ещё такого оружия, чтобы мiр кончился. Так что без истерик, пожалуйста.

Во-вторых, развитие автономных боевых устройств видится мне если и не обязательным, то вполне разумным подходом, поэтому моё бурление и кипение могут быть адресованы прекрасной Администрации РФ: а где у нас такие же? Ну да, у них - шпионы, у нас - разведчики, у них - роботы-убийцы, у нас - автоматы-защитники, но где они? Как самый что ни на есть минимум, ставилась ли вообще проблема самостоятельности боевых роботов, или всё по-прежнему -"план призыва выполним, в танки запихаем, у-лю-лю, у-лю-лю, как я родину люблю"? Ну неприятно ;, когда во времена самолётов говорят о "чугунке".

В-третьих, да - существуют пути развития тех же боевых средств на той же базе, но - нелиберальные. Кроме того, вполне возможны решения, снимающие эти противоречия; тут разговор пойдёт об изменении свойств среды, в которой ведутся боевые действия, а не свойств юнитов.

Однако обо всём этом в очень другие разы. Пока же, надеюсь, вам приятно было потереться об эти почти наждачные мысли, верны они или нет. Пиджин-философия, она вообще такая....

ПостСкриптум. При написании текста ни один чукча не пострадал. Уважаю этот народ, вообще-то.

А кроме того, я считаю, что Аракчеев должен быть свободен.


Comments

( Всего-то 73 — добавить )
Страница 1 из 2
<<[1] [2] >>
vovkodav
18 окт, 2011 10:11 (UTC)
ну.. тут мне кажется слегка цели войны смещены в сторону "предела" - тут больше геноцидом пахнет. Цель войны не убийство, как правило, а порабощение и грабеж..
а роботизация боевых действий - это неизбежное будущее. И автономность роботов - это тоже неизбежность. Человек очень медленный. Против правильно запрограммированных ботов шансов никаких. Главные воины - это программисты.
17ur
18 окт, 2011 10:18 (UTC)
Нет. Нормальная западная война - это драка из-за денег, да. Но Адольф от Иосифа не денег хотел, а именно что "здесь всё будет по-моему, кто не согласен, тот умрёт".

А "государственническая" роботизация войны - это телеуправление с подменой первой сигнальной. Сражался, сам лично сразил смертоубойного террориста, погиб, отбивая атаку тысячи его подельников... логинюсь на следующего дрона.
(без темы) - vovkodav - 18 окт, 2011 10:30 (UTC) - Развернуть
(без темы) - 17ur - 18 окт, 2011 10:34 (UTC) - Развернуть
(без темы) - xlad17 - 18 окт, 2011 11:11 (UTC) - Развернуть
(без темы) - vovkodav - 18 окт, 2011 11:23 (UTC) - Развернуть
(без темы) - cromodex - 18 окт, 2011 14:03 (UTC) - Развернуть
falcrum
18 окт, 2011 10:12 (UTC)
Гм, всё-таки он Кайлович, а не Сарович... :)
17ur
18 окт, 2011 10:14 (UTC)
Это по первому фильму он Кайлович, а дальше Сарович-Коня-На-скаку-Останавливич... Антифем бы порадовался.
(без темы) - mithgol - 18 окт, 2011 13:11 (UTC) - Развернуть
(без темы) - 17ur - 19 окт, 2011 10:58 (UTC) - Развернуть
(без темы) - nekto333 - 9 май, 2012 10:26 (UTC) - Развернуть
38_pop
18 окт, 2011 10:50 (UTC)
Да, интересная логическая цепочка.
Но вот что странно - следуя логике этой цепочки следует ожидать приоритетного развития роботов оборонительных - своего рода активных замков-пограничников защищающих мирное население. Но в реале наблюдается как раз обратное - приоритет роботам наступательным.
То есть результат умозрительного построения не подтверждается практикой (критерием истины ©).
Видимо в этой логической цепочке есть лакуны.
Я не говорю, что их вижу и даже не говорю, что они есть (см.слово "видимо"). Вопрос в другом - как бы это построение подкорректировать так, чтобы оно давало результат, совпадающий с наблюдаемым.
larado
18 окт, 2011 11:28 (UTC)
Да ассоциация с миной и ямой дурацкая...
... наступательное оружие тоже можно было придумать. Нацеленная на землю бенидов ракета с горящим фитилем запуска тоже "lethal authonomy", но оружие нифига не для защиты созданное. А чтобы свои любимые солдаты там, у бенидов, на растяжки не дай бог не понаступали. Так и роботы - чаще всего не защищают родную землю, а обстреливают вражескую. Для экономии солдат.


(без темы) - 17ur - 19 окт, 2011 11:05 (UTC) - Развернуть
(без темы) - 38_pop - 18 окт, 2011 18:09 (UTC) - Развернуть
(без темы) - foxhound_lj - 18 окт, 2011 20:02 (UTC) - Развернуть
(без темы) - 17ur - 19 окт, 2011 11:23 (UTC) - Развернуть
gilgatech
18 окт, 2011 11:36 (UTC)
Хотят ли русские войны.
Приятно это слышать от сторонника крупного проекта. Сдержки и противовесы собственным мыслям?))
cromodex
18 окт, 2011 12:13 (UTC)
"Автоматизация" войны неизбежна
И лично для меня это стало очевидным ещё, дай бог памяти, в 1985 или 1986 г. после просмотра фильма "Враг мой". В этом фильме я впервые увидел сцену боя в космосе. И, немного подумав, понял, что человек учавствовать в таком бою не способен. Только компьютер может выдерживать сверхперегрузки при маневрировании и реагировать достаточно быстро.
Такая идея, — поручить управление летательным аппаратом компьютеру, — совершенно естественным образом прикладывается к современной боевой авиации. Уже сейчас истребители технически способны выполнять маневры, при которых живой пилот запросто может умереть от перегрузок. Скорость реакции человека тоже не выдерживает критики. Где-то я прочел, и мне запомнился такой пример: если, скажем, навстречу одному истребителю из облака на расстоянии 200 метров выскочит другой, пилоты этих самолетов даже не смогут увидеть друг друга.

Получается, что человек — самое слабое звено современной военной техники. Не только в авиации. Кстати, согласитесь, что защитить небольшой компьютерный блок намного дешевле и проще, чем обеспечить безопасность и жизнедеятельность человека в бою. Вдобавок, компьютер сможет и сам позаботиться о своей безопасности: его быстродействия достаточно, чтобы "увидеть" летящий снаряд, оценить его траекторию и уклониться. При этом компьютеры не устают, не отвлекаются, и не ошибаются. Наконец, компьютер не надо, как человека, обучать несколько лет, платить ему зарплату и заботиться о его здоровье. А если такой самолет упадет на территории противника, летчика не надо будет спасать и беспокоиться о том, что под пытками он выдаст военные секреты.

Пока что американцы упражняются лишь в создании автономных штурмовиков, неспешно находящих неподвижные или малоподвижные мишени на земле, но очень скоро вы услышите и об автономных истребителях. И когда они научатся их делать достаточно хорошо, всё небо над Землей будет принадлежать им.

foxhound_lj
18 окт, 2011 18:07 (UTC)
Re: "Автоматизация" войны неизбежна
>Уже сейчас истребители технически способны выполнять маневры, при которых живой пилот запросто может умереть от перегрузок.

Не способны. У современных истребителей ограничение по прочности - ~9g. Человека такая перегрузка не убьёт. Хотя специально сконструированные беспилотники смогут, конечно, выдерживать и большие перегрузки (в разумных пределах).

>Получается, что человек — самое слабое звено современной военной техники.

Да не только военной - вообще любой...
zhaw
18 окт, 2011 13:01 (UTC)
Идея понятна.
Есть две нестыковки:
- как уже было отмечено - lethal autonomy как класс не делится на наступательную и оборонительную после некоторого предела. Это как раз та точка невозврата на пути между ямой и терминатором.
- ямы-мины-ловушки - в руках что военных, что мирных людей - не могут сколько нибудь существенно оградить мирных бенидов в условиях войны. Сколь нибудь надежная защита с помощью минных полей от одной армии без наличия своей армии - невозможна. Защищаться терминаторами - это уже армия, которая совсем-совсем не оборонительная - а универсальная. А иметь терминаторов в личном пользовании в количестве, достаточном для дачи хоть какого нить отпора взводу солдат - не представляется реальным.
17ur
19 окт, 2011 11:13 (UTC)
Защита мирных жителей, бодигардинг - ПОД указанным пределом. Защищать город как целое - да, тут невозможно вывести разницу между обороной и наступлением. Защищать дом - и "наступление" уже надо искать с микроскопом.

Насчёт эффективности ям и мин - вообще-то здесь спорно. Можно указать, что мина очевидно эффективнее и универсальнее ямы. Её можно носить с собой, легче изменить параметры срабатывания и проч.. Экстраполяция этих свойств как раз и даёт робота-убийцу.
bantaputu
18 окт, 2011 13:28 (UTC)
Прочёл, подумал. Спасибо за материал для размышления.

Нашёл, что всё же нет. А именно, что автономный капутоносец лучше описывается в рамках иного множества - "средства дистанционного поражения". Стрелы, метательные камни, и т. д. Изначально созданные и приведённые в действие волей человека, но непосредственно действующие без его участия. В момент попадания стрелы в цель стрелок может быть даже и уже мёртв. То есть, принцип автономности средства поражения вполне соблюдён.

При этом идею охраны границ России Огромными Боевыми Человекоподобными Роботами всецело поддерживаю.
17ur
19 окт, 2011 11:14 (UTC)
Автономия - это срабатывание на действие возможной цели, а не на действие того, кто построил и нажал на курок. Стрельба здесь не катит.

Хотя, скажем, определить разницу между автономией и тропизмом - между дискретным и аналоговым поведением (скажем, самонаводящегося снаряда) - вопрос настолько философский, что чукче он не по зубам.
blue_slonopotam
18 окт, 2011 16:14 (UTC)
Задача современного оружия - сделать ведение войны доступным только самому богатому. Остальные пусть даже не рыпаются, проиграют на этапе "преступного замысла". Более "умное" оружие всего лишь реакция на asymmetric warfare, враг маленький, решение нужно принимать независимо в каждом конкретном случае.
Из этого следует, что никаким огородниками это не достанется, и наоборот, будет служить усилению государства.
karpion
18 окт, 2011 21:25 (UTC)
История показывает, что самый богатый - одновременно и самый уязвимый к нетрадиционным ударам.
(без темы) - cromodex - 19 окт, 2011 02:55 (UTC) - Развернуть
(без темы) - 17ur - 19 окт, 2011 11:15 (UTC) - Развернуть
_stilgar
18 окт, 2011 19:01 (UTC)
У Лема в "Фиаско" достаточно подробно написанно, чем черевата подобная автономия.
17ur
19 окт, 2011 11:17 (UTC)
Сферомахия как концепция вполне может быть истолкована в мою пользу. Там переход от самостоятельного к самовольному оружию был вызван кризисом телеуправления - противник глушил (вполне себе государства, кстати, не частники. Империи). Здесь речь идёт о разработке изначально самостоятельных устройств, бо моджахеды с глушилками - редкость, а то и миф.

Edited at 2011-10-19 11:19 (UTC)
(без темы) - karpion - 20 окт, 2011 09:07 (UTC) - Развернуть
hoholusa
18 окт, 2011 22:33 (UTC)
Основных проблем две: устойчивость к перепрограммированию противником и распознавание "свой-чужой".
17ur
19 окт, 2011 11:19 (UTC)
Да это, наверное, как обычно. Абсолютная надёжность недостижима, достижимая надёжность не абсолютна. Решать будут, достаточна ли достижимая надёжность и заранее делать утруску на последствия сбоев по внутренним и внешним причинам.
super_dale
19 окт, 2011 11:32 (UTC)
Будущее уже наступило!
И не знаешь-радоваться тому или нет-например робот-конь уже изготовлен,вот ролик с испытаниями прототипа http://www.gazeta.ru/video/science/ , Boevoi_robot-kon_.shtml ,на очереди боевой робот-гепард!А так же есть и прыгающий-ползающий мини-робот,его предполагается использовать в разведке,ролик с его испытаниями тоже есть в инете.Создан и робот-часовой... За роботизацией-будущее,спору нет,но никто не застрахован от сбоев программ даже самого совершенного компьютера! :(
karpion
20 окт, 2011 09:09 (UTC)
Снять ролик совсем несложно
А уверены ли Вы, что это настоящие устройства? Может, из сотни испытаний отобрали самое удачное и выложили его в сеть?
Я верю в другое - karpion - 22 окт, 2011 16:22 (UTC) - Развернуть
monster_igstab
19 окт, 2011 11:55 (UTC)
почему люди вообще считают проблемой, что в один прекрасный день "роботы выследят, опознают и убьют врага, основываясь на результатах работы программного обеспечения, а не решений, сделанных людьми"?
Просто это так неэпично, так негордо, так бесславно быть убитым каким-то там куском железа. Это что же получается, наш тщеславец хуже какого-то там куска железа? :)))

Да, а сага о нонкомбатантах, это ИМХО не более чем попытка политических деятелей выйти сухими из воды. Подумаешь, война приключилась. А они-то тут причём? :)) Их должен охранять Закон!!! :)))
(Анонимно)
20 окт, 2011 17:58 (UTC)
Джаг вы вот с этим знакомы?

Завещание Никлота.

http://via-midgard.info/news/article/nasledie/slav/2966-zaveshhanie-niklota.html
ru_antifem
22 окт, 2011 12:25 (UTC)
все не так
В армии служат люди - следовательно правительство вынуждено считаться с людьми. Если необходимость в людях отпадет - считаться не будут, права отберут, усилят гнет и т.п. Чем больший контроль вы позволяете правительству, тем меньше у вас прав да и сами вы не нужны становитесь.

Насчет зачисток - главный метод зачистки это голод.
ru_antifem
22 окт, 2011 12:27 (UTC)
"почему люди вообще считают проблемой, что в один прекрасный день "роботы выследят, опознают и убьют врага, основываясь на результатах работы программного обеспечения, а не решений, сделанных людьми"?"

Потому что когда приказы идут через людей, НЕЛЬЗЯ отдать любой приказ. Люди просто откажутся выполнять то, что идет в разрез с их моралью, пугает их и т. п. Отказ не обязательно демонстративный, куда проще все спустить на саботаже. А вот бездумная железяка будет делать все, что угодно. Так что правильно бояться.
karpion
22 окт, 2011 17:04 (UTC)
Когда приказы идут через людей, НЕЛЬЗЯ отдать любой приказ. Люди просто откажутся выполнять то, что идет в разрез с их моралью, пугает их и т. п.
Так ли сложно найти правильных людей? Ну, я не про страх гибели при выполнении задания и не про страх юридического наказания при поражении армии, а про моральные ограничения.
(без темы) - ru_antifem - 22 окт, 2011 17:18 (UTC) - Развернуть
(без темы) - karpion - 22 окт, 2011 17:21 (UTC) - Развернуть
(без темы) - ru_antifem - 22 окт, 2011 17:41 (UTC) - Развернуть
(без темы) - karpion - 23 окт, 2011 18:19 (UTC) - Развернуть
(без темы) - ru_antifem - 23 окт, 2011 18:26 (UTC) - Развернуть
(без темы) - karpion - 24 окт, 2011 10:50 (UTC) - Развернуть
Страница 1 из 2
<<[1] [2] >>
( Всего-то 73 — добавить )

Latest Month

Январь 2018
Вс Пн Вт Ср Чт Пт Сб
 123456
78910111213
14151617181920
21222324252627
28293031   
Разработано LiveJournal.com
Designed by Lizzy Enger