[/винни-пух/]

А интересно, соблюдается ли на Амой и в какой форме Первый Закон робототехники?

@темы: Ai no kusabi - вопросы

Comments

[Linn_]

Нет. Об этом прямо говорится в первом томе, в описании захвата власти Юпитер.

[/винни-пух/]

Ж-ж-жесть!!! Вот это действительно может далеко подвинуть человеческую психику. Ладно ИскИн - он далеко, его не видно. Но то, что любая железяка может тебя убить сводит на нет все преимущества использования роботов и андроидов. А как на счет Второго тогда? Кто имел им право приказывать в принципе? Кроме Юпитер?
И опять таки лезут непонятки. Нету роботов. значи есть челввоеческий труд во многих местах. А значит нехватка последних. Или население рассчитывается с учетом фактора ручного труда? Там этому населению тогда платить надо немеряно, почему собственно и выгоднее использовать машины.

[Linn_]

Не, андроиды там есть, разных видов и "вновь заряженные" Юпитер - и есть подозрение, что это не о подзарядке, а о начинке. Вероятно, после переворота приоритетом становится Юпитер, не человек.

Но то, что любая железяка может тебя убить сводит на нет все преимущества использования роботов и андроидов.

Нулевой закон. Можно всё, если оно на благо человечества.

[/винни-пух/]

Конкретного пользователя, меня то бишь, интересы человечесвта в отдельно взятой квартире не интересуют. Вы могли бы использовать робота. зная, что железка в любую минуту может вас убить? что ее ничто не остановит и для этого кстати прямого приказа Юпитер даже не надо: некорректный ввод. глюк, хакер - могли бы? А значит терятеся гигантский рынок. что крайне, крайне не выгодно!

[Hepna]

Я не понимаю, почему на Амой должны приеняться "законы роботехники", которые не применяются у нас на Земле. Сейчас, в наши дни. Армия США активно использует боевых роботов. О чем вы ваще, Винни? Амой отнюдь не утопия, она более жестока, чем даже наша реальность - а в нашей реальности такие идеалистические "законы" просто смешны.

[/винни-пух/]

Hepna не согласна. Одно дело - чисто боевая машина, которая в состоянии выполнить приказ и все. Совсем другое интеллектуальная машина, типа кибера-охранника, слуги, доступная по цене среднему пользователю. Мы просто еще не сталкиваемся с необходимостью ввода этого закона, потому что роботы не составляют часть повседневной жизни. Если такого плана соображающая машина будет повиноваться просто своему хозяину и, например, убивать по приказу. грабить или еще что-то. то представьте, во что это выльется. О нет, как только появиться достаточно дешевая технология производства, средний обыватель и так подвергнутый постоянному стрессу и страху потребует абсолютной гарантии. что никакая железка ни под каким видом не покусится на него грешного. В противном случае, можно выстроить чрезвычайно жесткое государство, которое со временем раздолбают или хакеры или экономисты (рынок запорют), а главное - корпорации-производители потеряют уйму денег.
Вопросы жизни и смерти, мы. люди - существа крайне эгоцентричные, считаем слишком важными и не потерпим конкурентов.

[Hepna]

Существуют уже в японии роботы-сиделки, роботы-официанты, и уже несколько лет как роботы-пылесосы. Они, конечно, мало что умеют и не особо интеллектуальные, но их можно программировать по-разному, как захочешь. В частности, есть целый "фэндом" этих пылесосов, где весь фан начинается с того, что из пылесоса выковыривают собсно пылесосущий механизм : ). А дальше заставляют его бегать там, стулья собирать, с другими пылесосами общаться... Я почему про это знаю, т.к. журнал Компьютерра читаю регулярно, а там об этом часто пишут.

Одна из самых популярных моделей - человечек по имени Азимо. В честь создателя законов. Ходит, пляшет, кривляется, в той же Японии какие-то телепрограммы ведет, напитки из бара таскает, в общем много чего делает. Но никаких законов в него не заложено. Несмотря на имечко. Об этом просто никто не думает.

И сомневаюсь, что когда-либо подумает. Кроме роботов человечество использует дикое количество автоматики, и никакого подобия законов роботехники в них не вкладывается. И на это никто не обращает внимания.

А на Амой - посмотреть тока, как андроиды расстреливают людей... ну какие могут быть сомнения по поводу законов. Машыны там свободны.

[/винни-пух/]

На Амой, судя по последнему фрагменту, выложенному у Linn, на Амой вообще равноправие среди андроидов и людей.

"роботы-сиделки, роботы-официанты, и уже несколько лет как роботы-пылесосы."
Это автоматика, жестко запрограммированный механизм. там собственно и самой программы кот наплакал. А такого рода законы требуются, когда у железяки появятся несколько моделей поведения и надо будет выбрать оптимальную, тсходя из оценки внешних обстоятельств, а это уже совсем другой коленкор.
Будут, я уверена. Это не Амой, это Земля и страх перед механизмами и машинами вколочен в нас намертво.

[Hepna]

Это автоматика, жестко запрограммированный механизм.

Ничего подобного! Это небольшой компутер. А программы там по типу комп. игры: не жесткие действия, а реакции на разные действия среды. На этом и взаимодействие роботов основано. Кстати, в тех же играх есть такое понятие AI (ИскИн то есть), вот именно этот механизм реакции на разные раздражители. Причем иногда очень сложный. В частности, в некоторых Квейко-подобных играх, в которые по сети играют, есть боты - и они иногда настолько сложно себя ведут, что их тяжело отличить от игроков. Программы здорово эволюционируют... Но физически сделанные роботы действительно намного примитивнее - в основном потому, что гений их создателей направлен на чисто физические проблемы, вроде прямохождения.

Так или иначе, есть механизмы, есть автоматы, и есть роботы. Это разные понятия. Вот андроидов пока на Земле нету, а остальное есть.

А такого рода законы требуются, когда у железяки появятся несколько моделей поведения и надо будет выбрать оптимальную, тсходя из оценки внешних обстоятельств, а это уже совсем другой коленкор.

Абсолютно точно, вот именно так у них и есть. Хозяин делает официантке заказ, она должна выбрать из многих банок и бутылок нужную, потом пройти по залу, обходя препятствия (движущихся людей, стулья), отнести ее нужному человеку. У них там даже распознавание мимики хозяина есть, у сиделок особенно. Примитивно, да, но улыбку от гримасы гнева отличают. И там не надо отдельную программу для разных комнат писать, они своими камерами и распознавалками могут бар от стола отличить.

[/винни-пух/]

Тогда запрет на определенные действия у них уже должен быть. Робот-официантка обходит препятствия - человек тоже препятствие. Если ей понадобится она может переставить стул. но ни под каким видом не переставит с места на место человека. Робот-сидекла держит дите в лапах или только наблюдает? Если держит, то у нее уже куча запретов чего нельзя делать с ребеном, просто для того, чтобы не укокошить хрупкий человечий организм. Если в недалеком будущем робот-охранник будет сторожить банк, то убивать грабителя он не сможет: в уголовном кодексе наказание за ограбление отнюдь не казнь. А поскольку робот лицо не юридическое то отвечать придется его хозяину за превышение самообороны при чем в лучшем случае. Это такое поле не паханное я Вам скажу. но адвокаты будут наживать милионные состояния. пока три закона не станут обязательной и четкой формулировкой. Повторяю. роботы, указанные вами как пример, достаточно сложные. чтобы выбирать модели поведения, все еще не продукт массового пользования и посему программируются как бы "вручную" По сути система запретов - те же три закона.
Роботы-полицейские хотя бы в той же Америке, претендующей на демократию, так же вызовут массу исков. Если у них будет право убивать преступников, такая драчка начнется, что мама не горюй.

[Hepna]

Робот-сидекла держит дите в лапах или только наблюдает?

Ненене, такого им пока не доверяют! Они по идее находятся при паралитиках и выполняют их указания. Да и то, больше в рекламных целях - все роботы дико дорогущие! Кстати, в отличие от автоматов. Робот вот типа описанной официантки может стоить в районе 100.000 долларов. Обычно они на всяких презентациях народ развлекают. А сиделки тоже в основном пока экспериментальные, чтоб похвастаться технологиями. Вот пылесосы - это да, демократичные вещицы. И Азимо. И еще собачка Айбо, она где-то в районе сотни стоит, и даже в Москве можно купить. Но она совсем тупая. Хоть и считается роботом (а не автоматом).

Робот-официантка обходит препятствия - человек тоже препятствие. Если ей понадобится она может переставить стул. но ни под каким видом не переставит с места на место человека.

Я так поняла, что стулья она не переставляет, а вот людей - приветствует : ). Руками там махает, улыбается. Но это всё программируется, никаких запретов-то нет. Судя по тому, как бодро хакают пылесосы, заставляя их драться на аренах, нет никаких проблем заставить официантку дать клиенту в глаз.

Что я хочу сказать. Конечно, та программа, с которой роботов выпускают в свет, предполагает какие-то запреты. Но это нормальные компьютерные программы! Любой программист может ее переделать как ему вздумается. Нигде жестко не прошиты запреты.

Конечно, я это всё знаю очень слабо, специально не врубалась в вопрос. Просто этот журнал я читаю по утрам за завтраком, как раз про роботов заметки меня мало интересуют. Это просто то, что у меня в мозгах случайно застряло, я могу ужасно путать и вводить в заблуджение... Но вот то, что в мозгах у них обычный компутерный код, который понятен каждому кодеру и доступен любой модификации - это вроде бы так и есть.

[Hepna]

Роботы-полицейские хотя бы в той же Америке, претендующей на демократию, так же вызовут массу исков. Если у них будет право убивать преступников, такая драчка начнется, что мама не горюй.

Америка медленно, но верно движется к классическому тоталитаризму. К той самой "империи зла". В Ираке использовались роботы, такие на гусеницах штуки, размером примерно по колено. Если не путаю, называются Sword. Оборудованы пулеметом, но вроде как им реально стрелять доверяли редко, т.к. с роботской точки зрения сложно отличить араба от американца. Они, конечно, оборудованы кучей сенсоров, которые человека отличают, но вот распознавание образов вообще пока не на высоте, ни в каких приложениях. Слишком много ошибок. В основном эти Сорды посылали разминировать ловушки, шпионить, патрулировать, и т.п. Но естессно, над проблемой постоянно работают. В следующей войне наверное будут больше им доверять. Идея всей этой программы в том, чтобы как раз уберечь ценных американских граждан. Чтоб они ваще на передовую не ходили, а роботы сражались с арабами. Ну или с кем там, на очереди.

Такие вот законы роботехники.

Возможно, у андроидов есть запрет вредить элите : ). Было бы как раз в стиле того, к чему стремятся американцы: неприкосновенность "своих", вплоть до того, чтоб они совсем не сталкивались с "чужими", на которых посылают роботов. Конечно, пока что это только планы, но они уже частично осуществляются.

[/винни-пух/]

"к чему стремятся американцы: неприкосновенность "своих", вплоть до того, чтоб они совсем не сталкивались с "чужими", на которых посылают роботов. "
Не только американцы. Распознавание образов, да что там образов, человеческой речи с ее интонационным разнообразием - серьезнейшая задача. И пока она не решена, никакого реального применения боевых машин не будет.


"Любой программист может ее переделать как ему вздумается. Нигде жестко не прошиты запреты."
Пока. Пока это не стало юридической и экономической проблемой. кому нужен робот, если его хакнуть может любой чувак с улицы?


"Судя по тому, как бодро хакают пылесосы, заставляя их драться на аренах, нет никаких проблем заставить официантку дать клиенту в глаз."
И как долго проработает кафе, в котором официантка-робот может дать клиенту в глаз? С ее-то силой? При учете возможных глюков и хакерства? Это вопрос безопасности прежде всего, а безопасность для человека - первое дело.

[Hepna]

Это вопрос безопасности прежде всего, а безопасность для человека - первое дело.

Ну вообще вы правы, конечно. Наверное, когда официантки широко пойдут в народ, у них появятся запреты. И конечно, они будут скорее юридическими, примерно так же как защита банкоматов : ). И вообще всех компутерных программ и прочего. То есть от легальных юзеров они защищены, а хакерам никакие запреты не указ : ). Хакнутые официантки будут работать вышибалами...

[/винни-пух/]

"То есть от легальных юзеров они защищены, а хакерам никакие запреты не указ :"
Поэтому этот запрет прошивается на нулевом урвоне. Поэтому и появились на свет три закона робототехники. Азимов - гений!

[Hepna]

Ага, вот только в наших реальных компах никакого нулевого уровня нет, который не могли бы взять большевики похакать хакеры : ))

[/винни-пух/]

Зато есть BIOS, и можно сделать так. что вмешательство в его работу будет просто останавливать комп или стирать на фиг.

[Hepna]

Да ведь и БИОС можно перепрошить. И, если что, можно вытащить материнку, и переставить там какие-то эээээ ножки... какой-то южный мост (извиняюсь, примерно так : )). Это если перепрошивка биоса запрещена физически.

В общем, хакают всё. Таков закон жизни, вечное совершенствование щита и меча.

[/винни-пух/]

"И, если что, можно вытащить материнку, и переставить там какие-то эээээ ножки... какой-то южный мост (извиняюсь, примерно так :"
Э-э-э, так снимать надо будет с робота, который при живом уме и включенном организме такое с собой не допустит ни под каким видом. Потом надо будет ввести заново все нужные программы, потому что без спецуказания нехакнутого BIOSа они работать не будут. После чего робота можно отправить на одну единственную операцию, потому как его законопослушные коллеги довольно быстро обнаружат, что между ними затесался неправильный робот.
Думается, что придумают еще много чего, потому что без прошитых законов андроиды в большинсвте сфер использования будут бесполезны. А если роботы не будут широко использоваться. то и преступление организовать с их помощью будет затруднительно.
Думается, что манипулировать роботами гораздо проще, используя сами эти законы.

[/винни-пух/]

И на счет ножек и южного моста... хи-и, но чисто физически это еще можно сделать пока используются современные микрочипы. А в этом смысле до совершенства еще далеко.

[Hepna]

вот это точно! : )