|
Есть одна тонкость. Допустим, ИИ когда-нибудь создадут. Кто знает, как он себя поведет? Людям свойственна агрессия, но и наше представление об ИИ ограничивается нашим набором чувств. Людям просто развязать войну. Но кто знает, будет ли вообще ИИ видеть смысл в насилии? На человека влияют сотни и тысячи мелких факторов. Встал с утра, голова болит, в автобусе ногу отдавили, на улице обрызгали из лужи - все, у нас плохое настроение и мы можем "сорваться" на ни в чем не повинного человека. Но ведь это человек, это целостность. А ИИ - это в превую очередь интеллект, сознание - то есть совсем другое.
В самом первом посте автор темы проводит аналогии с фильмом "Терминатор". Но в этом фильме ИИ (Скайнет) действует как человек, лишенный каких-либо чувств, то есть планомерно уничтожая не нужных ему выживших. Естественно, что в фильме человекоподобные роботы, потому что зрители лучше воспринимают Шварца с его "I'll be back!", нежели чем гусеничный универсальный танк с десятком турелей. В реальности для людей делаются человекоподобные роботы (или роботы, напоминающие домашних животных, но здесь немного другое), потому что человек лучше воспринимает себе подобных. Но на сборочных конвейерах работают роботы, даже близко не напоминающие человека, потому что созданы они для дела, а не для публики. Нам говорят, что сделали военного робота, проходящего испытания - мы представляем эдакого терминатора, а не пулемет с гусеницами. Нам говорят ИИ - мы представляем нейронную сеть, какую видели в фильмах сотни раз и уверены, что эта штука обязательно захочет завоевать мир. На вопрос "зачем", впрочем, ответить не можем.
Почему людям так тяжело совершить некоторые поступки? Будто бы сознание человека противится этому. Кто знает, может быть подобные ограничения - результат самого сознания, а не комплексного воздействия факторов? Может быть созданный ИИ тоже будет иметь такие ограничения без чьего-либо вмешательства? Изучить сознание человека очень тяжело, понять его до конца невозможно. Нам любопытно, каким может получиться ИИ, при этом мы не можем разобраться в себе. Из-за этого, кстати, не стоит надеяться на создание искуственного интеллекта в будущем и предполагать, как он будет себя вести.
|