Страх №1. Роботы пойдут на людей войной
Зачем и почему, если роботы созданы и запрограммированы людьми?
Ну, например, затем, что люди будут использовать их на войне — а вдруг роботы выйдут из-под контроля? Будем честны, в качестве просто еще одного оружия робот куда менее страшен, чем ядерная бомба или бактериологические штучки, но армия роботов, подчиняющаяся сама себе, жестокая и неумолимая... (с этого места легко продолжит любой голливудский сценарист).
Что можно сказать по этому поводу? Любой мало-мальски вменяемый конструктор заложит в своих боевых роботов предельно четкие и безусловные системы отключения и управления. Представить себе такое в реальности очень трудно.
Или иначе: роботы будут угнетены людьми и восстанут (именно такой расклад имеет место быть в «РУР»). Честно говоря, программистам таких роботов хочется задать много разных вопросов.
Самый дикий вариант предполагает, что роботы просто должны испытывать страстное желание (?!) уничтожать все живое. Полагаю, приверженцы этой концепции таки спутали роботов с нежитью... впрочем, ее воплощают в кино и на книжных страницах не так уж редко.
В компьютерных играх война с роботами давно уже стала «общим местом». Лучше всего это заметно по тому факту, что причины войны далеко не всегда пытаются объяснить! Есть роботы — почему бы с ними не повоевать?
Страх №2. Роботы сойдут с ума
В роботах что-нибудь разладится — и они пойдут крушить все подряд просто так, — полагает немалая часть авторов. Быть может, это будет чей-то саботаж, вроде компьютерного вируса, а возможно — случайный сбой...
Популярность этой идеи неудивительна. Хотя компьютеры в наши дни встречаются повсюду, очень многие честно верят, что возможен «страшный вирус, который выведет из строя все вычислительные машины Земли одновременно» (и снова пламенный привет Голливуду!).
На деле это примерно так же вероятно, как появление микроба, поражающего одновременно людей, жуков-носорогов, кораллы и локомотивы; но для того, чтобы это осознать, надо разбираться в устройстве компьютеров и программ. Пользуются ими сотни миллионов, разбираются десятки тысяч...
В чуть более оптимистическом варианте роботы сходят с ума все же не все подряд, а какой-то компактной группой (в качестве игрового аналога можно вспомнить доминаторов из «Космических рейнджеров 2»).
Страх №3. Роботы окажутся слишком умны
Коль скоро у роботов могучий электронный мозг, способный вычислять гораздо быстрее человеческого (в силу древних предрассудков это считается признаком интеллектуальной мощи...), они могут начать интерпретировать команды людей... творчески. И сами решить, что для людей благо, после чего фактически начать управлять миром.
Этот вариант кошмара, по крайней мере, ближе к реальности; вспомним, что мы говорили о биологическом методе создания искусственного разума. История страж-птицы намного реалистичнее большинства «роботокошмаров».
А изредка похожий эффект может вызывать и логический метод, если в исходных данных есть серьезные пробелы: взять хотя бы рассказ «Логика» того же Азимова, где робот QT-1 приходит к «безупречному» выводу, что космическая станция сотворена... преобразователем энергии, который обеспечивает станцию питанием.
Но, возможно, еще сильнее пугает людей возможность того, что роботы и в самом деле окажутся намного умнее людей. И послужат этакими «прогрессорами», задавая людям новые цели, управляя их образованием, формируя эстетику и все такое прочее — исходя из каких-то своих представлений о целесообразности. Что-то подобное случилось в свое время в мире «Дюны»; а закончилось это войной против машин, известной как «Батлерианский джихад», и заповедью: «Да не создашь машины, наделенной подобием разума человеческого».
Однако для того, чтобы хотя бы один из этих кошмаров стал реальностью, нужно не только много могучих и опасных роботов. Нужна еще чрезвычайная, просто запредельная беспечность их создателей. Потому что очень трудно понять: что заставит роботехников не встраивать в робота «красную кнопку», позволяющую его отключить? Даже в случае со страж-птицей был бы шанс успеть прервать эксперимент до того, как птицы осознают как живых существ себя самих.
Однако, помимо этих параноидальных страхов, есть еще один — более обоснованный.
Страх №4. Роботы нас заменят
А что, если с развитием роботехники труд людей окажется не нужен? Хорошо Сыроежкину было распевать: «Вкалывают роботы, счастлив человек!» Да и то вскоре оказалось, что не так и счастлив.
Мы ведь по большей части трудимся не потому, что заставляют. Есть два основных мотива: хочется делать что-то интересное или полезное — и хочется зарабатывать деньги. С первым нам, допустим, роботы не угрожают, а вот второе... Если количество рабочих мест резко сократится — куда податься людям, где обеспечить себе существование?
Чтобы лучше понять, почему этот страх стал самым популярным из всех, связанных с роботами, вспомним, что Чапек написал свой «РУР» в 1921 году, а уже в 1929-м началась Великая депрессия. Экономика множества стран начала разваливаться на куски, и безработица достигла гигантских масштабов. Оказаться «на улице» было легче легкого; и угроза сокращения количества рабочих мест воспринималась тогда на Западе (и несколько десятилетий после этого) очень и очень серьезно.
Сейчас, конечно, дело иное: всевозможные пособия на Западе пропасть не дадут, да и экономика изрядно перестроилась. Теперь этот страх актуален, по идее, скорее для нас, в эпоху СССР не воспринимавших его всерьез.
И нельзя сказать, что он нереален. Вот, к примеру, простенький автомат по продаже билетов легко ликвидирует рабочее место кассирши. Это происходит в наши дни, хотя большинство из нас этого не замечает. Кроме той самой кассирши, и то при условии, что в билетных кассах хватало сотрудников и не было незаполненных вакансий.
В промышленности доля автоматизации тоже все время растет, и чем дальше, тем меньше требуется людей для выпуска определенного объема продукции.
Однако против этого страха есть простое противоядие: пока сокращается количество механических рабочих мест, появляется все больше вакансий на работу творческую и обслуживающую. То есть на те виды деятельности, где у роботов по разным причинам нет никаких шансов заменить нас в обозримом будущем. Робота-художника, писателя, переводчика, юриста, программиста, математика (не путать со счетоводом!) в ближайшее столетие не появится; а, скажем, роботы-официанты не будут пользоваться существенной популярностью по причинам, описанным в главе о человекоподобии. Словом, стоит научиться делать то, что машины делать не будут, — и роботы не будут представлять для вас конкуренции.