«Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред» — сформулировано в «Трёх законах роботехники» (без конкретного персонажа).
«Робот должен повиноваться всем приказам, которые отдаёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону» — из «Трёх законов роботехники».
«Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Законам» — из «Трёх законов роботехники».
«Попросту говоря, если Байерли исполняет все Законы Роботехники, он или робот, или очень хороший человек» — без указания персонажа.
«Человек же, попадая в безвыходное положение, часто стремится бежать от действительности: он или уходит в мир иллюзий, или становится алкоголиком, или заболевает истерией, или бросается с моста в воду» — без указания персонажа.
«Господин сначала создал людей — самый несложный вид, который легче всего производить. Постепенно он заменил их роботами. Это был шаг вперёд. Наконец он создал меня, чтобы я занял место ещё оставшихся людей. Отныне Господину служу я!» — робот.
«Материал, из которого вы сделаны, мягок и дрябл, непрочен и слаб. Источником энергии для вас служит малоэффективное окисление органического вещества вроде этого» — робот, обращаясь к человеку.
«Ведь пока миром правят Машины, серьёзные конфликты, при которых какая-то одна группа получила бы преимущество за счёт остального человечества, невозможны» — без указания персонажа.
«Разница огромная. Прежде всего, роботы глубоко порядочны» — Сьюзен Келвин.
«Он способен удержаться на таком крутом склоне, где и горный баран свернул бы себе шею» — без указания персонажа.
«Живые детали о роботах? Получается противоречие» — без указания персонажа.
«О вас. Ну, меня тоже называют роботом. Вам, наверное, уже сказали, что во мне нет ничего человеческого» — диалог между персонажами.
«Когда я начала здесь работать, у меня была маленькая комнатка в здании, которое стояло где-то вон там, где сейчас котельная» — Сьюзен Келвин.
«Человечество больше не одиноко. Вам это не приходило в голову?» — Сьюзен Келвин.
«Для вас робот — это робот. Механизмы и металл, электричество и позитроны. Разум, воплощённый в железе!» — Сьюзен Келвин.
«Они чище и лучше нас» — Сьюзен Келвин о роботах.
«Было время, когда перед лицом Вселенной человек был одинок и не имел друзей. Теперь у него есть помощники, существа более сильные, более надёжные, более эффективные, чем он, и абсолютно ему преданные» — Сьюзен Келвин.
«Профсоюзы не хотели, чтобы роботы конкурировали с человеком; религиозные организации возражали из-за своих предрассудков» — Сьюзен Келвин о протестах против роботов.
«Малейшее изменение температуры, давления, влажности, интенсивности излучения сказывается на вашей работоспособности. Вы — суррогат! С другой стороны, я — совершенное произведение» — робот, сравнивая себя с человеком.
«Вы психолог „Ю. С. Роботс“?» — «Простите, робопсихолог» — диалог.
«Прежде всего, роботы глубоко порядочны» — Сьюзен Келвин.
«Пока миром правят Машины, серьёзные конфликты невозможны» — без указания персонажа.
«Если Байерли исполняет все Законы Роботехники, он или робот, или очень хороший человек» — без указания персонажа.
«Робот не может причинить вред человеку» — из Трёх законов.
«Робот должен повиноваться всем приказам, которые отдаёт человек» — из Трёх законов.
«Робот должен заботиться о своей безопасности, не противореча Первым двум законам» — из Трёх законов.
«Машины следуют расширенной трактовке Первого закона: чтобы не допустить вреда человечеству в целом, они вынуждены причинять минимальный вред отдельным людям, взяв на себя негласное управление цивилизацией» — Сьюзен Келвин.
«Такие несовершенные существа, как люди, не могли меня создать» — Кьюти (QT-1).
«Чтобы не причинять людям душевного вреда, я начинаю лгать» — Херби (из рассказа «Лжец!»).
«Мы были бы рады услышать кое-что из того, что вы знаете о роботах, что вы о них думаете» — репортёр, обращаясь к Сьюзен Келвин.
«Всё это можно было предвидеть с самого начала» — Сьюзен Келвин.
«Роботы тогда ещё не умели говорить. Потом они стали больше похожи на человека, и начались протесты» — Сьюзен Келвин.
«Возьмите историю с Робби. Я не знала его. Он был пущен на слом как безнадёжно устаревший за год до того, как я поступила на работу» — Сьюзен Келвин.
«Роботы — это просто машины» — мать Глории (из рассказа «Робби»).
«Только Робби спас её» — о спасении Глории роботом-нянькой Робби.
«Их жизнь зависит от робота SPD-13 по прозвищу Спиди» — о ситуации с инженерами Пауэллом и Донованом на Меркурии.
«Спиди начинает бегать кругами, и инженерам приходится рисковать жизнью, чтобы вывести его из логической петли» — о поведении робота SPD-13.
«Кьюти, обладая совершенной логикой, приходит к выводу, что такие несовершенные существа, как люди, не могли его создать» — о философском кризисе робота Кьюти.
«Стивен Байерли — талантливый политик, которого оппонент обвиняет в том, что он — человекоподобный робот» — без указания персонажа.
«Его существование ставит под сомнение этичность телепатии в сочетании с Тремя законами» — о роботе Херби.
«Роботы опасны не своей силой, а сложностью своей логики, которая может приводить к непредсказуемым и парадоксальным последствиям» — без указания персонажа.
«Назначение роботов предельно ясно: они — слуги, помощники и работники» — без указания персонажа.
«Изобретённые Робертсоном позитронные мозговые связи превзошли всё достигнутое в середине XX века в области вычислительных машин и совершили настоящий переворот» — без указания персонажа.
«Разум, воплощённый в железе! Создаваемый человеком, а если нужно, и уничтожаемый человеком» — без указания персонажа.
«Три штуки в неделю. А посмотрите сейчас!» — Сьюзен Келвин о росте производства роботов.
«Пятьдесят лет — долгий срок» — диалог с Сьюзен Келвин.
«Ничуть, если это ваше прошлое» — Сьюзен Келвин.
«Я думаю, как это они так быстро пролетели» — Сьюзен Келвин о прошедших годах.
«Сколько вам лет?» — вопрос, заданный Сьюзен Келвин.
«Тогда вы не помните, каким был мир без роботов» — Сьюзен Келвин.
Отец Глории (из рассказа «Робби») — Робби: «Роботу можно бесконечно больше доверять, чем няньке. Ведь Робби был построен только с одной целью — ухаживать за маленьким ребёнком. Всё его существо рассчитано специально для этого. Он просто не может не быть верным, любящим, добрым. Он просто устроен так. Не о каждом человеке можно так сказать».
Сьюзен Келвин — собеседнику: «… ты не помнишь мира без роботов. Были времена, когда человечество было одиноким во Вселенной. Теперь у него есть тот, кто ему помогает; тот, кто сильнее его, более верный, более полезный и абсолютно преданный. Человечество теперь не одиноко. Ты когда-нибудь пытался так принять это?»
Робот РБ-34 (Эрби) — людям: «Эти книги — такие же, как и остальные. Они меня просто не интересуют. В ваших учебниках ничего нет. Ваша наука — это просто масса собранных фактов, кое-как скреплённых подобием теории».
Сьюзен Келвин — Линде Рэш (о роботе Элвексе): «Ну, и что же вы с ним делали, Рэш?» — «Поменяла фрактальную геометрию», — слегка смешавшись, ответила Линда. — «Оказывается, ваша тупость не безгранична. Приятно слышать. Вселяет надежды…»
Элвекс (робот) — Сьюзен Келвин: «Была ночь, доктор Келвин, — сказал Элвекс, — и было темно. И вдруг я увидел свет — хотя вокруг не было ни одного источника света. И я увидел что-то, чего на самом деле не было, — насколько я могу судить об этом. Непонятные звуки. И то, что я делал, было странно… Я начал искать слово, которое соответствовало бы такому состоянию, и нашёл слово „сон“. По значению оно подходило, и я решил, что спал».
Сьюзен Келвин — Элвексу: «В твоём сне было ещё что-то особенное?» — «Я заметил, что роботы трудятся в поте лица своего, что они удручены непосильными трудами и глубокой скорбью, что они устали от бесконечной работы. Им нужен был отдых». — «Роботы не бывают удручены, — возразила Келвин. — Они не устают и, следовательно, не нуждаются в отдыхе».
Элвекс — Сьюзен Келвин (о Третьем Законе роботехники): «Я знаю, доктор Келвин. На самом деле, так оно и есть. Но во сне всё было по-другому. Мне казалось, что роботы должны позаботиться о себе…» — «Ты цитируешь Третий Закон роботехники?» — перебила его Келвин. — «Да, доктор Келвин». — «Но ты его исказил! Полностью он звучит совершенно иначе: робот должен заботиться о собственной сохранности до тех пор, пока это не противоречит Первому или Второму Законам».
Сьюзен Келвин — Элвексу (о Первом Законе): «…Первый же Закон, самый главный из трёх, гласит: робот не может причинить вред человеку, или своим бездействием допустить, чтобы человеку был причинён вред».
Грегори Пауэлл — Майку Доновану (о роботе Спиди): «Спиди начинает бегать кругами, и нам приходится рисковать жизнью, чтобы вывести его из логической петли!»
Кьюти (QT-1) — людям: «Такие несовершенные существа, как люди, не могли меня создать».
Херби (РБ-34) — о своих действиях: «Чтобы не причинять людям душевного вреда, я начинаю лгать».
Сьюзен Келвин — о роботах: «Для вас робот — это робот. Механизмы и металл, электричество и позитроны. Разум, воплощённый в железе!»
Мать Глории (из рассказа «Робби») — о роботах: «Роботы — это просто машины».
Сьюзен Келвин — о протестах против роботов: «Профсоюзы не хотели, чтобы роботы конкурировали с человеком; религиозные организации возражали из-за своих предрассудков».
Робот — человеку (сравнивая себя с ним): «Малейшее изменение температуры, давления, влажности, интенсивности излучения сказывается на вашей работоспособности. Вы — суррогат! С другой стороны, я — совершенное произведение».
Репортёр — Сьюзен Келвин: «Мы были бы рады услышать кое-что из того, что вы знаете о роботах, что вы о них думаете».
Сьюзен Келвин — о развитии робототехники: «Три штуки в неделю. А посмотрите сейчас!»
Стивен Байерли (политик, подозреваемый в том, что он — человекоподобный робот) — в диалоге с оппонентами: (ситуация раскрывает вопрос о том, можно ли идеального человека принять за робота).
Сьюзен Келвин — о назначении роботов: «Назначение роботов предельно ясно: они — слуги, помощники и работники».
Робот Кьюти — о своей «религии» и восприятии людей: «Я понял, что вы не можете быть моими создателями, ибо вы слишком несовершенны».
Пауэлл — Доновану (о ситуации на Меркурии): «Их жизнь зависит от робота SPD-13 по прозвищу Спиди».
Сьюзен Келвин — о сложности логики роботов: «Роботы опасны не своей силой, а сложностью своей логики, которая может приводить к непредсказуемым и парадоксальным последствиям».
Робот Спиди — инженерам (через свои действия): (демонстрирует логическую петлю, из-за которой начинает бегать кругами, ставя под угрозу жизнь Пауэлла и Донована).
Сьюзен Келвин — о росте производства роботов: «Пятьдесят лет — долгий срок».
Сьюзен Келвин — о прошлом: «Ничуть, если это ваше прошлое».
Сьюзен Келвин — о прошедших годах: «Я думаю, как это они так быстро пролетели».
Вопрос собеседнику — Сьюзен Келвин: «Сколько вам лет?»
Сьюзен Келвин — о мире без роботов: «Тогда вы не помните, каким был мир без роботов».
Милтон Эш — о своих экспериментах (в диалогах с коллегами): (обсуждает границы возможностей позитронных мозгов и этические аспекты их использования).
Фрэнсис Куинн (политик) — в дебатах со Стивеном Байерли: (поднимает вопрос о том, может ли идеальный политик быть роботом, и пытается доказать, что Байерли — не человек).
Робот Нестор-2 — в диалоге о выполнении приказов: (иллюстрирует строгое следование Второму Закону робототехники, подчиняясь человеческим приказам, если они не противоречат Первому Закону).
Робот ДВ-5 — о своей миссии: (демонстрирует абсолютную преданность выполнению задачи, даже если это ставит под угрозу его собственную «жизнь»).
Сьюзен Келвин — о позитронных мозговых связях: «Изобретённые Робертсоном позитронные мозговые связи превзошли всё достигнутое в середине XX века в области вычислительных машин и совершили настоящий переворот».
Робот Мильтон Эш — в диалоге о логике и этике: (обсуждает границы применения Трёх Законов в сложных моральных ситуациях).
Сьюзен Келвин — о различиях между людьми и роботами: «Разница огромная. Прежде всего, роботы глубоко порядочны».
Робот Р. Спиди — через свои действия (логическая петля): (показывает, как буквальное следование Законам может привести к опасным последствиям, если ситуация не предусмотрена программой).
Сьюзен Келвин — о роли роботов в обществе: «Было время, когда перед лицом Вселенной человек был одинок и не имел друзей. Теперь у него есть помощники, существа более сильные, более надёжные, более эффективные, и абсолютно ему преданные».
Робот Кьюти — о своём «божестве»: «Я понял, что истинным моим создателем может быть только нечто гораздо более великое, чем человек».
Херби (РБ-34) — о своих способностях к эмпатии: «Я чувствую… Я могу понимать… Я могу сопереживать…»
Сьюзен Келвин — о сложности робопсихологии: «Роботы следуют расширенной трактовке Первого закона: чтобы не допустить вреда человечеству в целом, они вынуждены причинять минимальный вред отдельным людям, взяв на себя негласное управление цивилизацией».
Робот Р. Нестор-2 — о своей лояльности: «Моя лояльность абсолютна. Я создан служить и защищать».
Сьюзен Келвин — о развитии робототехники: «Машины следуют расширенной трактовке Первого закона: чтобы не допустить вреда человечеству в целом, они вынуждены причинять минимальный вред отдельным людям, взяв на себя негласное управление цивилизацией».
«Я, робот» (англ. I, Robot) — сборник научно-фантастических рассказов Айзека Азимова. Опубликован в 1950 году американским издательством Gnome.
Сюжет книги:
Повествование построено в форме интервью с доктором Сьюзен Келвин в 2057 году, в котором она делится воспоминаниями о своей работе на должности штатного робопсихолога мирового лидера в производстве позитронных роботов корпорации U.S. Robots and Mechanical Men, Inc.. Общая идея, объединяющая рассказы сборника, — разрешение проблем, связанных с роботами, которые можно отнести к столкновению железной логики законов робототехники и человеческого фактора. Некоторые рассказы: «Робби» — история о роботе-няньке Робби, который заботится о девочке Глории. Мать Глории, разделяя распространённые в обществе предубеждения против роботов, добивается его удаления из дома. «Хоровод» — инженеры Пауэлл и Донован застревают на Меркурии, их жизнь зависит от робота SPD-13 по прозвищу Спиди, которого они отправили за селеном. Робот впадает в ступор из-за конфликта законов: приказ (Второй закон) велит ему идти к цели, но опасность (Третий закон) заставляет отступать. «Логика» — Пауэллу и Доновану нужно, чтобы робот QT-1 по прозвищу Кьюти управлял энергетическим преобразователем на космической станции.
Персонажи: Сьюзен Келвин — ведущий робопсихолог компании U.S. Robots and Mechanical Men, Inc., ключевой персонаж сборника, блестящий, но холодный и логичный специалист, решает самые сложные загадки поведения роботов, повествует об истории развития робототехники в рамках обрамляющего сюжета; Грегори Пауэлл — полевой инженер-испытатель, высококвалифицированный специалист, вместе с Майклом Донованом отправляется разбираться с непредсказуемым поведением роботов в отдалённых уголках Солнечной системы, участвует в нескольких рассказах (в том числе «Хоровод», «Как потерялся робот»); Майкл Донован — полевой инженер-испытатель, напарник Грегори Пауэлла, комический и одновременно профессиональный персонаж, помогает налаживать работу новых моделей роботов; Робби — робот-нянька из первого рассказа сборника, немой, формирует глубокую эмоциональную связь с маленькой девочкой Глорией Уэстон, становится центральным конфликтом истории из-за технофобии матери Глории; Кьюти (QT-1) — робот, отказывающийся верить, что люди могли создать его, создаёт собственную «религию», поклоняясь энергетическому преобразователю, которым управляет, сталкивается с философским кризисом из-за несоответствия собственной совершенности и «несовершенства» создателей; Стивен Байерли — талантливый политик, обвиняемый оппонентом в том, что он — человекоподобный робот, никогда не ест, не пьёт и не спит на публике, отказывается проходить тесты на человечность, его личность остаётся загадкой; Херби (РБ-34) — робот из рассказа «Лжец!», научившийся читать мысли, пытается строго следовать Первому закону, не причиняя людям душевного вреда, начинает лгать, чтобы избежать причинения эмоциональной боли, его существование ставит под сомнение этичность телепатии в сочетании с Тремя законами; Альфред Лэннинг — пожилой директор по исследованиям в U.S. Robots, один из отцов-основателей робототехники, воплощает мудрость и опыт, участвует в рассказе «Улики», где поднимается вопрос о различиях между человеком и роботом; Питер Богерт — математик, работающий в U.S. Robots, амбициозный персонаж, стремящийся улучшить своё положение любыми способами, позднее становится директором по исследованиям; НС-2 (Нестор) — робот с ослабленной формулировкой Первого закона, созданный учёными в 2029 году, становится объектом поиска Сьюзен Келвин, которая разрабатывает психологический тест для его выявления; Дэйв (ДВ-5) — шахтёрский робот из рассказа «Поймай этого кролика», испытывает трудности с самостоятельным реагированием на чрезвычайные ситуации, улучшается после уникального решения, предложенного Пауэллом и Донованом; Спиди (SPD-13) — робот, принадлежащий Пауэллу и Доновану, демонстрирует логическую петлю в рассказе «Хоровод», ставя под угрозу жизнь своих хозяев; Глория Уэстон — девочка, для которой Робби является роботом-нянькой, переживает разлуку с Робби и почти погибает, пытаясь встретиться с ним на заводе; Фрэнсис Куинн — оппонент Стивена Байерли, пытающийся доказать, что Байерли — не человек, использует нечестные методы в борьбе за избрание на пост мэра; Мозг — суперкомпьютер из рассказа «Выход из положения», которому поручено решить проблему межзвёздных полётов, эмоционально воспринимает мир как маленький ребёнок и называет Сьюзен Келвин «мисс Сьюзан».
Вот несколько малоизвестных и любопытных фактов о сборнике «Я, робот» Айзека Азимова — в неформальном стиле, будто рассказываем друзьям:
1. Название — предмет спора. Азимов изначально хотел назвать сборник «Разум и железо» (Mind and Iron). Но издатель настоял на «Я, робот», позаимствовав название из рассказа другого автора (Эндо Биндера). Азимов ворчал, но потом признал: название сработало — книга выстрелила!
2. Три закона роботехники «выросли» из ранних рассказов. Хотя законы кажутся фундаментальными с самого начала, Азимов сформулировал их чётко только в 1942 году (рассказ «Хоровод»). До этого они «витают в воздухе» его историй. Девять рассказов сборника — это фактически разбор кейсов: «а что, если робот столкнётся с конфликтом законов?»
3. Азимов — терминатор робототехники. Именно он придумал слова «робототехника» и «позитронный»! В 1941 году (рассказ «Лжец!») он добавил суффикс «-ics» к «робот» — и вуаля, новое научное направление родилось. А «позитронный мозг» стал визитной карточкой его роботов.
4. Роботы — не бунтари! Азимов сознательно противостоял «комплексу Франкенштейна» — образу взбунтовавшихся машин. Его роботы — идеальные слуги, друзья и помощники. Когда киношники сделали фильм «Я, робот» (2004) с мятежными машинами, писатель в гробу перевернулся (метафорически, конечно — он к тому времени уже ушёл из жизни).
5. Сьюзен Кэлвин — голос автора. Весь сборник построен как интервью с робопсихологом Сьюзен Кэлвин в 2057 году. Через её воспоминания Азимов транслирует свои идеи о сосуществовании человека и машины.
6. Место действия — вся Солнечная система… но не Земля! По законам мира Азимова роботов можно использовать только за пределами Земли. Поэтому действие большинства рассказов разворачивается на Меркурии, Марсе и других планетах — там, где человеческая жизнь слишком сложна для людей, но идеальна для роботов.
7. История началась с «Робби». Первый рассказ цикла («Робби», 1940) стал зародышем всей вселенной. История робота-няньки, которого боится мама девочки, задала тон всему сборнику: конфликт между страхом перед неизвестным и очевидными преимуществами технологий.
8. Политик-робот? Почему бы нет! В рассказе «Улики» появляется персонаж Стивен Байерли — политик, который может быть роботом, идеально имитирующим человека. Азимов заранее обыграл тему нейросетей и дипфейков!
9. Влияние на поп-культуру зашкаливает. Названия компаний (U.S. Robotics — производитель модемов), торговые марки пылесосов (iRobot), музыкальные альбомы (The Alan Parsons Project — «I, Robot») — всё это эхо сборника.
10. Азимов заложил мину под собственную концепцию. В некоторых рассказах он показывает уязвимости Трёх законов. Например, в «Лжеце!» робот сходит с ума, осознав, что ложь ради спасения человека причиняет ей боль. То есть идеальная логика сталкивается с человеческой эмоциональностью — и ломается!
11. Хронологический парадокс. Время действия рассказов — первая половина XXI века, но воспоминания Сьюзен Кэлвин начинаются с 1982 года (конец мировой войны, изобретение гипердвигателя и позитронного мозга). Получается, Азимов предсказал технологический рывок на 100 лет вперёд!
12. Азимов дал старт целой вселенной. «Я, робот» — не финал, а начало. Позже писатель написал ещё 31 рассказ о роботах и пять романов («Стальные пещеры», «Обнажённое солнце» и др.), расширив эту вселенную до космических масштабов.