Центр будет помогать роботам в сложных ситуациях и заботиться о них. Что касается вопроса о гайках, то можно сделать робота Z таким, чтобы он знал поступки и размышления других роботов. А из Центра никто таких команд не даст, так как в нём будут умные люди. Ведь не могут не очень умные люди обслуживать Z, и если люди лишатся этого робота, то человечество вымрет по причине, о которой я писал ранее в "Ответ на ваш вопрос о роботе...".

Тут получается взаимность: роботы помогают людям, и без них они вымрут (о чём я писал до этого, это я упоминаю также в комментарии "Центр будет помогать..."), но если люди перестанут им помогать, то, как я тоже писал ранее, роботы тоже переломаются!

И какую функцию этот центр будет выполнять? Также сохраняется вопрос о команде по отвинчиванию гаек. Что должен будет сделать робот в такой ситуации?

Отношения будут дружеские, но роботы будут зависеть от человека. Как две страны-друзья, но одна зависит от другой, и если вторая прекратит постановку ресурсов другой, а та не имеет других ресурсов, то она погибнет!

Что касается материала в газету. Ты имел в виду материал о трёх законах роботехники? Я не против. Можно также в газете дать адрес этого сайта (ЛКИ) с приглашением тех школьников, кто заинтересуется, принять участие в нашей дискуссии. Надеюсь, хозяева сайта ЛКИ будут не против? Только нужно попросить их усовершенствовать сайт. Сейчас он плохо приспособлен для дискуссий. :-(

По поводу не очень умного человека, управляющего умным роботом приведу такой пример. Допустим, он даёт команду роботу – отвинтить гайки с рельсов, по которым скоро пройдёт поезд. Это может привести к крушению поезда и гибели многих людей. Робот это понимает, а человек, почему-то – нет. Должен ли в этой ситуации робот подчиняться 1-му закону и выполнять команду человека?

Сережа! Все вопросы к журналу.

Небольшая поправка, Л-29 не то, чтобы начинает устаревать... он уже устарел окончательно. А Л-39 такой же не отечественный как и Л-29. А вот Як-130 с прошлого года, насколько я знаю, уже пошел в серию и начал поступать в части.

А теперь гвоздь программы: Мировой Рекорд! 9 атлетов перемещают 195 тонн под общим названием Ан-124-100 "Руслан"!

Отвечаю насчёт 4 закона. Я уже говорил насчёт того, что можно создать одного неподвижного робота, цель которого - давать советы другим роботам с более низким уровнем интеллекта. Если этот робот не может справиться с заданием, то по программе он... посылает роботу действия, которые бы помогли ему. Если бы вершители отдали команду исполнителям: НЕ ДУМАТЬ (!) над "А и Б сидели на трубе": для чего им это? Где цель? Человеку это так-то не нужно? Не нужно! Говорю далее: "слишком умный робот 50-го уровня решит «а зачем нам люди, если мы умнее их?»" - пишете вы. Надо дать понять роботу Z (так я буду называть этого робота), что без людей он и другие роботы пропадут, об этой причине в сами и писали: "Они могут погибнуть, но также и поставить под угрозу систему в целом". Кроме того, робот в случае необходимости может обратиться за помощью к людям, Которые за ним ухаживают. Если они перестанут это делать, то если в роботе Z что-либо поломается, то он не будет знать, как устранить поломку, ведь о нём до этого заботились люди, а поскольку у этого робота самый высокий интеллект, а у других роботов он ниже, то никто не сможет починить робота Z, и всё погибнет! Если же роботы ниже его решат, что робот Z им не нужен, то они не смогут получать необходимую для них информацию и пропадут по то же причине, что и робот Z без людей. Что касается приоритета, то по всем законам выше первый.

В случае потери связи некоторых исполнителей с вершителями, в этом, конечно, не будет ничего хорошего, прежде всего, ДЛЯ ИСПОЛНИТЕЛЕЙ, но и для системы в целом. Они могут погибнуть, но также и поставить под угрозу систему в целом. Также и в человеческом организме. Например, если некая часть тела теряет связь с центральной нервной системой (если нервы повреждены), это может привести к тому, что эта часть тела со временем может погибнуть. На медицинском языке это называется «вялый паралич». Но если в парализованной руке начнётся гангрена, это может погубить весь организм.

Идея по поводу 4-го закона – замечательная! Только я пока не понимаю, на каком месте должен стоять этот закон? У какого из законов приоритет будет выше – у 4-го или у 1-го или 3-го? Если у 1-го и 3-го - выше, то кто будет решать вопрос о понятиях «вреда для человека» и «вреда для робота»? Мы уже убедились, что если отдать эти вопросы роботам 1-го уровня, ничего хорошего из этого не выйдет. В идеале, «моральный кодекс робота» должны определять роботы 50-го уровня. А, значит, 4-й закон должен иметь максимальный приоритет. Но, если мы так отодвинем 1-й закон с пьедестала, то мы рискуем тем, что слишком умный робот 50-го уровня решит «а зачем нам люди, если мы умнее их?», что приведёт к очень плохим для человека последствиям.

Я абсолютно с вами согласен, Илья Петрович. Я также хочу сказать про решение случая с радиацией (А что если впереди – зона повышенной радиации, и робот не знает, что радиация может вывести из строя его мозг? Или, у него просто нет соответствующих датчиков-сенсоров? Он пойдёт туда и погибнет, хотя будет руководствоваться третьим законом. - писали вы). Для этого можно разместить датчики на простейших роботах (их можно называть роботами 1 - с разумом 1 уровня. Чем выше уровень, тем больше разума), которые бы реагировали на изменения. Если роботу непонятно что-либо, то он может и в этом случае переслать сообщение роботам 2 или промежуточными значениями между 1 и 2. Если же и роботы от 1 до 2 не могут справиться, то они пересылают информацию роботам от 2 до 3 и т. д. Можно сделать общий справочный мозг с более большим уровнем интеллекта (например, 50). Конечно, нужно предусмотреть действия при потере связи. Так, например, если бы роботы-исполнители переадресовали вопрос вершителям, но и они не знали бы ответа, то перегорели бы и исполнители, и вершители. Следующая цитата: Ведь если робот простой, то и лечить он будет очень грубо и принесёт больше вреда, чем пользы, хотя и будет действовать в полном соответствии с первым законом. На этот счёт говорю, что для этого достаточно делать для лечения более высоких по разуму роботов. А можно поставить роботов более низких уровней им в помощники и образовать четвёртый закон: рбот должен подчиняться роботу более высокому, чем он, если это соответствует остальным трём законам.

Миша> Но эти законы создают и парадоксы: если роботу нужно добраться до определённого места (В этом случае робот идёт от Второго Закона) или до больного (В этом случае робот идёт ещё и от Первого Закона), и встречает на своём пути какое - то непреодолимое препятствие (Например, то же высокое напряжение), то Второй и, возможно, Первый законы заставляют идти его вперёд, а Третий Закон заставляет отступить перед опасностью. Мыслящие роботы рассудили бы ещё и так: если бы робот был бы уничтожен, то пользы от этого не будет. Всё равно к месту не проберёшься (Не спасёшь больного). Останется-ка лучше робот целым.

Вот в том то и вопрос - насколько робот является мыслящим (т.е., насколько развит его интеллект)? Потому, что не очень умный робот в этой ситуации пойдёт напролом через область высокого напряжение (потому, что приоритет первого и второго законов выше третьего) и погибнет, тем самым, причинив ВРЕД человеку, не оказав ему помощи и, тем самым, фактически нарушив первый закон. Обострим ситуацию, допустим что это – робот – «скорая помощь», который спешит на помощь умирающему человеку. А вот более умный робот в этой ситуации найдёт обходной путь и сохранит себя и больному поможет, т.е. выполнит требования всех трёх законов.