Цитата:
Сообщение от McDragon
Для ии все человеческие жизни должны быть равноценны, не должно быть такого что чья-то будет ценнее.
|
Хорошая идея.
Но тут вступает в действие проблема, о которой говорится во второй части видео. Допустим, у вас есть выбор, какой автопилот купить: тот, который в любой ситуации сохранит вашу "хозяйскую" жизнь, даже если для этого придётся задавить группу детского сада, или тот, который будет действовать как Вы сказали: минимизировать жертвы, даже если для этого придётся убить Вас.
Какой выберите Вы? Уверены? Ведь виноват всё равно будет робот или его программист, но уж точно не Вы. А какой выберет Вася Пупкин?..
Цитата:
Сообщение от McDragon
На данный момент все ИИ это обучающиеся, а не программируемые сети, чему научишь, тем и будут руководствоваться.
|
Не совсем так. Существуют два подхода к построению AI, и то, что Вы сказали - "снизу вверх" - это нейронные сети. При этом и другой подход никто не отменял - он, если обобщить, базируется на наборе правил, согласно которым AI принимает решения. В его случае роль программиста куда ощутимее, хотя и в случае нейросетей определяющую роль играет набор примеров, на котором она обучается. Впрочем, нейросеть можно выпустить в реальный мир, предоставив ей возможность самой набить шишки и сделать необходимые выводы. Так получаются роботы с лучшими алгоритмами поиска пути в реальных условиях... и боты, которые прославляют нацизм и ненавидят человечество.
Однако, невозможно предсказать, как нейросеть поведёт себя в исключительных ситуациях - слишком уж много этих ситуаций возможно. Так что мне крайне сомнительно, что робота, который вынужден будет самостоятельно принимать решение о жизни и смерти, будут делать исключительно на основе нейросети.