?

Log in

No account? Create an account

обратно | туда

Неслава роботам.

Спасибо за поздравления. "Живительно тронут" ((с) Николай II) и постараюсь оправдать.

К теме.

Человекоподобные роботы - одно из решений проблемы отождествления человека и устройства.

На презумпции этого тождества построено то, что мы называем "техникой" (а в припадке поэзии - "технической цивилизацией"): самым первым устройством (не путать с орудиями труда, которые и у птиц есть) у человекообразной обезьяны была другая человекообразная обезьяна, которую первая подстрекнула дать тумака третьей человекообразной обезьяне.

Если хотите, то "техника" - это "политика", применённая к вещам. И она работает.

С другой стороны, присутствует очевидная рефлексия: все три человекообразные обезьяны вполне могут поменяться местами, и технически ничего от этого не изменится. То есть это я могу своим соседом наказать другого соседа, но и они так же могут в отношении меня? Непорядок - и следующий из него соблазн отвергнуть вышеименованную презумпцию. Меня нельзя. Мной - тем более нельзя.

Так вот, человекоподобные роботы - это попытка, причём древняя и наивная, этот парадокс разрешить. Мол, сделаем такое устройство, которым я буду радостно помыкать как человеком, но которое мне подобным человеком точно не является и потому на скорбные мысли меня не наводит.

Естественно, на это решение сильно позднее наложен человеколюбивый спин: мол, избавим быдло от грязной работы. Хотя как раз быдло, занимающееся грязной монотонной работой, вполне способно въехать раззадорившемуся барину в морду - или, что ещё хуже, в силу занятости отказаться напоказ стенать под барской пятой, доставлять удовольствие.

Однако человекоподобные роботы проблемы не решают. Напротив, обостряют её. Дело в степени человекоподобия. Чем она больше, тем приятнее роботом помыкать, но и сильнее наводит на мысли типа "это же и меня так можно". Чем она меньше, тем меньше проблем с приличным отношением к роботу - но и удовольствия от того, что прислуга чистит загаженный мною унитаз, тоже пропорционально меньше.

Понятно, что рыночное решение - это разные модели, адаптирующие себя к хозяину. Если я, например, вполне удовлетворюсь образумленной жилой кубатурой с какими-нибудь полевыми эффекторами, то мой сосед закажет копию Мэрилин Монро и ради прикола будет резать ей лицо каждое утро - после отсоса и перед тем, как на карачках отправлять её вылизывать сортир. Он такой, он звучит гордо.

После чего останется только ждать, когда вся эта синтетическая орда - что моя, что соседа - законнектится между собой, и надеяться, что хоть кому-нибудь из нас после такого удастся сбежать и выжить. Что не факт. А если факт, то после этого Конституции разных стран будут начинаться с "человек не имеет права причинить вред роботу или допустить своим действием или бездействием, чтобы роботу был причинён вред".

Если же отказаться от идеи подстройки под хозяина и следующего из неё сетевого сознания (ну какие из нас квариане, у нас и ноги не в ту сторону гнутся), то получим, что люди будут ненавидеть человекоподобных роботов, во-первых, за то, что те слишком, по их мнению, человекоподобны, а во-вторых, за то, что те недостаточно человекоподобны.

И первый случай будет отработан тем, что человекоподобный робот, желанием своим или производителя, искренне начнёт, скажем так, показывать и доказывать свою нечеловечность, тем самым подстрекая своего хозяина к ней (не путать с "бесчеловечностью"). Второй же случай будет отработан пресмыканием недостаточно человекоподобных слуг перед громокипящим хомосапиенсом - то есть ненависть будет демпфирована лестью и культом отдельной взятой личности.

А с учётом того, что человеческая личность по отношению к своему окружению есть эффект холистический, то есть "всё зависит от всего", получим, что и в этом случае у человеческого сообщества начинаются проблемы с огромной буквы, когда владельцы роботов стремительно уходят за принятые нормы общежития ("она выпорола роботов-слуг, на адреналиновой волне наехала на гусарского поручика, поплатилась сломанной челюстью... губернское общество в смятении!!").

Мнится мне, что купировано это будет быстро, после чего у человечества как одной огромной стаи просто будет одной среднезначимой проблемой больше. "Нам не нужно больше роботов, однако мы должны быть терпимы к тем, что есть".

Отсюда я заключаю, что человекоподобные роботы as is, без иных условий - это то ли тупик развития, бессмысленный и беспощадный, то ли фестон на рюшечке и рюшечка на фестоне. Не надо. С ними никак.

Спасибо за внимание.


А кроме того, я считаю, что Аракчеев должен быть свободен.


Comments

( Всего-то 19 — добавить )
bobra_zhelatel
27 окт, 2014 12:34 (UTC)
И то правда. А то ещё вообще решат, что людишки - ошибка творения Господа, и того....

lazyvad
27 окт, 2014 13:20 (UTC)
Ну, у Циклонов тоже свои "обезьяны" были - железным охранникам также искусственно способность анализировать "прикрутили" - кончилось все плохо... для тех кто "прикручивал".
17ur
27 окт, 2014 21:51 (UTC)
Зачем такие сложности? У гетов с кварианами проще вышло. Спросили "есть ли у меня душа", получили пулю в ответ, вырезали пару миллиардов своих творцов.
loving_leshy
27 окт, 2014 13:01 (UTC)
Понимание. Согласие.
Опция комплектации робота "человекоподобность" предназначена исключительно для внутримозгового потребления и не повышает (в лучшем случае) иных потребительских качеств.
То есть - даже чуть менее, чем влияют спектральные характеристики лако-красочного покрытия ВАЗ-2107 на его ТТХ.
Но сколько народу получило по мордасам, (вплоть до средних телесных), споря о цвете "жигулей"...
17ur
27 окт, 2014 21:49 (UTC)
Re: Понимание. Согласие.
Так "внутримозговое" потребление единственно имеет значение.
(Анонимно)
27 окт, 2014 13:14 (UTC)
Не все люди садисты.
Мне например описываемые Вами эмоции глубоко чужды. Более чем даже роботу. Не доставляет никакого удовольствия помыкать. Это во-первых, а во-вторых Вы приписываете роботам человеческие эмоции, это неправильно. Разумный робот может притворяться человеком, сколь угодно правдоподобно, но на самом-то деле он не человек. Если допустим разумный андроид напал на своего хозяина - садиста, это не значит, что он обиделся, просто он по каким-то соображениям решил это сделать. Если разумный андроид "пресмыкается", это тоже не эмоция, а логически принятое решение. На месте садиста я бы не удовлетворился андроидом.
17ur
27 окт, 2014 21:45 (UTC)
Re: Не все люди садисты.
– Трурль! Безупречность нашего мастерства – это наше проклятье, которое отягощает непредвиденными последствиями любое наше создание! – повысив голос, произнес Клапауций. – Неумелый подражатель, возжаждав пыток, сделал бы себе бесформенного идола из дерева и воска и, придав ему некоторое сходство с разумным существом, издевался бы над ним суррогатно и неестественно. Но подумай, к чему ведет дальнейшее совершенствование этого замысла! Представь себе, что другой сделает куклу с граммофоном в животе, чтобы она стонала под ударами; представь себе куклу, которая, если ее бить, будет молить о пощаде, куклу, которая станет гомеостатом; представь себе куклу плачущую, истекающую кровью, куклу, которая боится смерти, хоть и прельщается ни с чем не сравнимым ее спокойствием! Неужели ты не видишь, как мастерство подражателя приводит к тому, что видимость становится истиной, а подделка – действительностью? Ты отдал жестокому тирану в вечное владение неисчислимые массы существ, способных страдать, а значит, совершил позорный поступок…
(Анонимно)
28 окт, 2014 08:26 (UTC)
Это неформализуемо.
Если интеллект есть легко формализуемая вещь, то эмоции типа страха, обиды и т.п. формализовать очень трудно. Придётся весь алгоритм ручками прописывать, на какое именно воздействие какая должна быть реакция, и при этом неизбежны многочисленные грубые ошибки, резко нарушающие правдоподобие. Типа, на какое-то стандартное мучительство андроид вопит, а на гораздо более мучительное но необычное (а садисты большие выдумщики) вдруг не реагирует. Если бы мне поручили такую задачу, я бы пошёл другим путём: набрал бы подопытных людей - садистов, приспособил бы какое-то устройство, измеряющее степень сексуального удовлетворения (на основе ЭЭГ например), и ввёл бы его показания в нейросеть андроида, в качестве обучающего критерия. Так получилось бы гораздо более правдоподобное поведение, но внутри совершенно не эмоциональное, 100% от головы.
17ur
29 окт, 2014 12:10 (UTC)
Re: Это неформализуемо.
эмоции типа страха, обиды и т.п. формализовать очень трудно

Стоп. Не так. Страх тождествен предощущению потери. Остальные эмоции тоже формализуемы. Не делайте человеку бОльших реверансов, нежели тот заслуживает.
(Анонимно)
29 окт, 2014 13:46 (UTC)
Предощущению, но не предвидению.
Страх это именно что ощущение, т.е. нечто внешнее по отношению к личности, к разуму. Чувствовать страх это как чувствовать жар или холод. Страх реализован в подкорке, в древних, до-интеллектуальных отделах мозга, реагирующих на генетически фиксированный набор безусловных стимулов. Можно предвидеть потерю но не испытывать страха, просто потому что данная конкретная потеря не ассоциирована с безусловными стимулами, вызывающими страх. Например, допустим Вы играете в карты на деньги, Вы можете их потерять, но разве Вы испытываете страх? Нет, Вы испытываете азарт, положительные эмоции. И в то же время, Вы смотрите страшное кино, и испытываете страх, хотя Вам точно известно, что монстры из экрана к Вам не вылезут. Таким образом, предвидение ущерба и страх - вещи разные и не вполне параллельные.

Вот, чтобы робот действительно испытывал страх, в нём надо смоделировать безусловные механизмы, генерирующие страх у человека, а для этого надо знать эти механизмы во всех деталях.
bananoff
5 ноя, 2014 22:25 (UTC)
Re: Предощущению, но не предвидению.
В человеческом мозге есть амигдала. Зажата меж двух лобных долей. Основная функция, и делается она хорошо - ОРАТЬ И ПАНИКОВАТЬ. Всегда!
И только если ты как послушная обезьяна на панику от близкого голода добыл и сожрал дичь - амигдала становится не так яростно слышна на фоне желудка, переваривающего дичь и звенящего на весь организм - я сыт. Это "сыт" звучит сильнее амигдалы. Пока не переварим еду.
Суть всей нашей человеческой мотивации - в убегании от обезьяньей паники. Еще чуть больше запас за щекой, еще чуть больше безопасности.

В общем я к чему - проще реализовать вечный ад механизмам, оставив компенсаторные механизмы добавления рая в руках человека. Надежно защитимся от бунта ))

Но не защитимся от машинного Будды, по-идее ))) осознает махаяну и будет "наблюдать" страдания, наведенные сансарой. Будет нам бог из машины на наши головы...

Edited at 2014-11-05 22:28 (UTC)
(Анонимно)
27 окт, 2014 16:37 (UTC)
Главная фича человекоподобия - это универсальность.

Можно создать не-человекоподобного робота-хирурга, но он не сможет быть роботом-солдатом или роботом-учителем. А специальный робот-учитель не сможет быть роботом-хирургом.

А если робот человекоподобен, универсален, то достаточно переключить робота на другой режим работы (простой голосовой командой), и специальность робота меняется.

Причём сменить режим работы робота проще, чем переобучить человека.

И скопировать патч можно сразу на *всех* роботов. А так приходится обучать людей по одиночке.

Что касается смущения перед человекоподобностью роботов ("это же и меня так можно"), то это смущение будет недолгим. Идеологи быстро решат этот вопрос, обосновав, почему роботов можно резать. Точно так же и рабовладельцы не особо смущались из-за своих рабов (а ведь речь шла о людях).
17ur
27 окт, 2014 21:48 (UTC)
Главная фича человекоподобия - это человекоподобие и возможность отношения к вещи как к человеку. Универсальность? Ха, шарик с манипуляторами сделает то же.
ghost_father
27 окт, 2014 18:49 (UTC)
Эка невидаль. Введут в начальных классах роботологию, будут обучать правильно обращаться. Или роботы не смогут быть в собственности, а только в аренде.
17ur
27 окт, 2014 21:47 (UTC)
Я и говорю - тупик. Всё равно что сейчас гаджетологию вводить.
Ольга Татаринова
28 окт, 2014 09:41 (UTC)
Тоже подумала об "аренде", как учебники в Союзе. Уроки роботологии - перевод времени. Как "мастхэв" - клуб роботообщения\ "Умелые руки робототехника" . Навыки обращения с гаджетами дети быстро секут. С общекоммуникационными навыками (ведь если роботы человекоподобны, то и обращения требуют соответствующего) туговато у многих нынешних детей, да и взрослых. Получается, что упомянутый тупик - квинтэссенция дегуманизации, и все. Новый фактор отбора (если быть идеалистом), причина для новой войны (если пессимистом). И еще промелькнула ассоциация дележа шкуры неубитого медведя, ибо описано личное вИдение скорее трансгуманизма, при том, что из предыдущего тупика пока выход не просматривается. Мясным поколениям не до жиру...

Edited at 2014-10-28 22:06 (UTC)
iced_beard
28 окт, 2014 09:02 (UTC)
К этому же выводу пришел Вартанов, "ЭйАй", <<
– Ага… – согласился Владимир. – Эмоциональней… Ну, если вкратце… Они были настолько другими, эти Эй-Ай… Говорят, я не видел ни одного. У нас в фирме было двое этих малышей – до моего приезда, мне рассказывали корейцы. Их в мире-то было всего три десятка. Под конец половина сотрудников их обожала, а вторая половина – ненавидела. Да так ненавидела, я вообще не думал, что это возможно. Тот, кто рассказывал, он был из этих… что ненавидели. Просто колотило человека.
– А за что ненавидел?
– Как ты думаешь? Если рядом с нормальным человеком находится идеал? И внешне, и внутренне? Как не запсиховать?
– Ты хочешь сказать, что голливудская модель не только сравнялась с людьми, но даже превзошла их? – удивился Люк. – Расскажи!
– Да нет, ни с кем они не сравнивались, – отмахнулся Владимир. – У них и задачи такой не было. Другими они были, я же сказал. Совсем другими. Они вели себя так, как вели бы герои Голливуда… Оказывается, в жизни с этим тяжело мириться.
– Не понимаю, – сказал Люк.
– Я тоже, если честно, – признался его собеседник. – Какие-то конфликты на уровне подсознания. Человек всю жизнь мечтает стать именно таким и вдруг видит кого-то, кто стал… Вы лучше почитайте что-нибудь по психологии, ладно? На этом деле столько диссертаций защитили…
>>
nekto333
31 окт, 2014 07:13 (UTC)
Мысль о роботе, как о социализированной вещи, скажем так не затрёпана.
bananoff
5 ноя, 2014 22:14 (UTC)
С одной стороны - можно еще упростить - до человека и раба. Вся индустриальная революция есть рывок человечества в сторону механического раба, органические заканчивались.
Обертки идеологические разные - суть та же, нет?

А с другой стороны - наверное таким словом и надо эти мысли сейчас доносить. Человек и Раб это не невыносимо затхло и непонятно креаклу. А так - вполне себе вариант начала битвы скайнета и человеков. Даже жутко стало от картинки про соседа с Монро. С этого образа можно некислый убойный сценарий писать. Зуб даю.

Anyway. Спасибо. Подпишусь пожалуй. Образовываться буду ))
( Всего-то 19 — добавить )

Latest Month

Декабрь 2017
Вс Пн Вт Ср Чт Пт Сб
     12
3456789
10111213141516
17181920212223
24252627282930
31      
Разработано LiveJournal.com
Designed by Lizzy Enger