Годнота, правда с реальностью даже такой далекой мало соотносится, особых различий с тем что есть сейчас не много, мы или все передохнем от радиации третьей мировой, или просто добавится 1-2 гаджета, может еще электромобили станут стандартом, да дроны станут осуществлять доставку и тому подобные операции. А фермы криптовалют в глубинке и сейчас есть, примерно так и выглядят внешне, разве что видеокарты не торчат из под навеса, а в помещении. Может еще добавятся солнечные панели на заднем плане, если конечно они подешевеют до уровня атомной энергии.

Этические проблемы, связанные с автопилотом в машине.
Правда, описанная ситуация далека от реальности в ближайшем будущем (т.к. потребует от ИИ мощного распознавания образов), но тем не менее иллюстрирует юридические и моральные вопросы, связанные с ответственностью за действия ИИ.
Что для него должно быть приоритетом при принятии решений, чью жизнь он должен спасать в первую очередь?

Hartmann, кондиционер недавний девайс? Консоль потребляет больше лампочки? И да, консолям уже больше 15 лет. Я жду новомодных девайсов. Пока ни одного не услышал. Ибо те все выходили и как раз загружали электросеть, когда она была полупустая. В домах было по одной-две розетки комнате.

Изначально вопрос криво поставлен. ИИ должен сделать все возможное что бы предотвратить жертвы, а если уж они случились, то ничего не поделать, он по крайне мере пытался. Странно что если столько автопилотов на дороге, то почему он мгновенно не может передать машинам следующим позади (их ИИ) что впереди сейчас прям вот будет авария и стоит остановиться, что все и сделают. К тому же, ИИ может точно спрогнозировать траекторию как своего транспорта. так и окружающего и если надо активно взаимодействовать с другими ИИ машинами, что бы те среагировали на его действия. А тут довольно глупая ситуация смоделирована, я бы сказал крайне пессимистическая и маловероятная. Сейчас на дорогах народу гибнет как при активных боевых действиях в крупном военном конфликте, хуже точно не будет.

ты понимаешь что вопрос был о сосульках. сосулек нет. водоотведение не ради сосулек делается если что. и проблемы сезонная с листьями в определенном проценте зданий, никак не перекрывает плюсы всей необходимости водоотведения. но это вообще разговор не про сосульки.

почему между этажами то вообще. всю стяжку предлагаешь делать амортизирующей воду? перед финишным покрытием лучше же. далее не каналы а уклон и уровни, и просто трапы в стояк. тут ничего сверхестественного и дорогого. гидроизол итак должен быть. проблема на самом деле в том что застройщик не сможет выполнить эти работы, по причинам того что ему придется нанимать кого-то вместо существующих работников. ибо эти просто стяжку то сделать не могут нормально, чего уж говорить о подсчете уровня перед финишным покрытием и уклона.

можно не только перед а сами перегородки покрывать. вообще не туда.
стояки отопления пора в срочном порядке выводить за пределы помещений, ибо с нашими товарищами присоединяющими балкон без нормального утепления, куча народу платит за отопление улицы. сейчас ввод в квартиру отопления, так же актуален, как ввод в квартиру электричества, дабы теплосчетчики можно было ставить. водоснабжение по системе стояков нормально ибо фановый стояк тебе все равно проще лепить именно стояком, а вот стояк отопления за предалами квартиры.
но вообще это отдельная тоже тема, ибо на стояки отопления сейчас никто системы протечек не ставит, а на водоснабжение вполне. разговор то был о них.

есть элементарные расчеты пропускной способности можешь посмотреть. подобная система спокойно справляется с обрывом трубы гвс после счетчика, видел это своими глазами, как час горячая вода спокойно сливалась пока ук перекрывала воду, ничто никуда не пробежало и никого не залило. понятное дело что это не панацея и имеет свои недостатки и достоинства, но это весьма дешевое и простое решение, проблемой внедрения которого является лишь квалификация гастробайтеров и вообще адовый уровень исполнения застройщиком всего что только можно.

FENL, вопрос о сосульках и водоотведения был касательно дворников и их нужности. Пока я не увидел ответа, чем можно заменить "полностью" дворника. А лишь снять с него часть нагрузки.

Застройщик не сможет этого выполнить ещё и по причине того, что некоторые дома ещё пляшут после постройки)

Так я и не говорил про протечку отопления, хотя это тоже вполне актуальные протечки, особенно с переделками и убирание в стены многими умельцами с использованием металлопласта, вечно страдающего в соединениях.

Никто не говорит против систем перекрытия воды, только кто их поставит пенсионерам в старые квартиры? Если за счетчики просят по 5-7 тысяч)

и не увидишь ибо даже если бы были, вопрос цены.

Это смотря как пляшут :)

Ну дык и я не против. Просто это пример того как "высокими технологиями" пытаются хоть как-то компенсировать реалии нашего дурдома. Это же был пример на тему придумаем суперсканеры ржавчины шоб наставить везде китайские недотрубы.
Ситуация такая, гидроизоляция должна быть, стояк фановый есть, стяжку всё равно заливать, чего сразу не реализовать слив воды на случай протечки? гастеры не справятся.
защиту от протечек ставят ведь в первую очередь именно чтобы не пролить н этажей соседей. Ук и тсж в ведении которых стояки вообще без защиты, и всё из-за дурдомв.

Добавлено через 12 секунд
и не увидишь ибо даже если бы были, вопрос цены.

Это смотря как пляшут :)

Ну дык и я не против. Просто это пример того как "высокими технологиями" пытаются хоть как-то компенсировать реалии нашего дурдома. Это же был пример на тему придумаем суперсканеры ржавчины шоб наставить везде китайские недотрубы.
Ситуация такая, гидроизоляция должна быть, стояк фановый есть, стяжку всё равно заливать, чего сразу не реализовать слив воды на случай протечки? гастеры не справятся.
защиту от протечек ставят ведь в первую очередь именно чтобы не пролить н этажей соседей. Ук и тсж в ведении которых стояки вообще без защиты, и всё из-за дурдомв.

Похоже, Вы не до конца поняли. В видео идёт речь только об одном AI - почему Вы считаете, что и другие участники движения должны управляться AI, не совсем понятно. Вы же не думаете, что переход на AI произойдёт мгновенно и повсеместно?
Далее, речь идёт о внезапном изменении ситуации, которое никто не мог предвидеть. Тюки падают, как в видео, молния в дерево ударила, или лось на дорогу выскочил - не важно. Далее как раз и говорится о том, как именно AI должен предотвращать жертвы. Он не должен поворачивать вообще, рискуя жизнью "хозяина"? Или он должен сделать всё, чтобы "хозяин" выжил, и не важно, сколько других людей при этом погибнет? Должен ли повернуть на тротуар, гарантированно убив идущую по нему старушку, или повернуть в другую сторону и сбить молодого мотоциклиста - посчитав, что тот в шлеме и имеет больше шансов выжить?
Это отнюдь не умозрительные вещи и ситуации, это вопросы, как именно программировать AI, и они неизбежно встанут сразу, как только мы начнём доверять AI принятие судьбоносных решений (а пустить AI за руль - именно что дать ему принимать такие решения).
Наконец, предполагать, что AI точно спрогнозирует траекторию других участников движения - довольно смешно. Он не знает, кто у них за рулём и какое решение он примет, и даже на обмен данными с другими AI нужно время, которого в экстренной ситуации просто не будет.
Так что речь идёт о том, что AI может сколь угодно идеально вести машину в спокойной ситуации, но в экстренной ему придётся принимать очень сложные решения, а создателям этого AI - нести за них ответственность.
А кто обещал лёгкую жизнь? :Grin:
Разница в том, что сейчас таких решений не принимает никто, потому что человеческий мозг включает рефлексы и не способен принять осмысленное решение. А вот AI такие решения принимать придётся, все его "рефлексы" будут заложены конкретными людьми. И то, что решать придётся редко, никак не отменяет сам факт решения, кому жить, а кому умереть.

pokibor, в любом случае его приоритетом должно быть сохранение жизней, причем как можно большего количества в данной ситуации. Тут виноватым точно ИИ не будет, т.к. не он спровоцировал ситуацию, а нелепым образом закрепленные блоки на машине. тот и понесет ответственность. Для ии все человеческие жизни должны быть равноценны, не должно быть такого что чья-то будет ценнее. А уж что из этого выйдет не спрогнозировать. Он не будет решать кому жить а кому нет - он будет пытаться свести ВОЗМОЖНЫЕ потери к минимуму, а если возможно то их полному отсутствию. Ситуация ведь уже создана, ИИ просто будет стараться свести ущерб людям к минимуму. Это если речь про ИИ а не просто автопилот, который целиком программируется, там уже ответственность будет на тех кто программировал, если это по оценке экспертов привело к необоснованным жертвам. На данный момент все ИИ это обучающиеся, а не программируемые сети, чему научишь, тем и будут руководствоваться.

Хорошая идея.
Но тут вступает в действие проблема, о которой говорится во второй части видео. Допустим, у вас есть выбор, какой автопилот купить: тот, который в любой ситуации сохранит вашу "хозяйскую" жизнь, даже если для этого придётся задавить группу детского сада, или тот, который будет действовать как Вы сказали: минимизировать жертвы, даже если для этого придётся убить Вас.
Какой выберите Вы? Уверены? Ведь виноват всё равно будет робот или его программист, но уж точно не Вы. А какой выберет Вася Пупкин?.. :rolleyes:
Не совсем так. Существуют два подхода к построению AI, и то, что Вы сказали - "снизу вверх" - это нейронные сети. При этом и другой подход никто не отменял - он, если обобщить, базируется на наборе правил, согласно которым AI принимает решения. В его случае роль программиста куда ощутимее, хотя и в случае нейросетей определяющую роль играет набор примеров, на котором она обучается. Впрочем, нейросеть можно выпустить в реальный мир, предоставив ей возможность самой набить шишки и сделать необходимые выводы. Так получаются роботы с лучшими алгоритмами поиска пути в реальных условиях... и боты, которые прославляют нацизм и ненавидят человечество.
Однако, невозможно предсказать, как нейросеть поведёт себя в исключительных ситуациях - слишком уж много этих ситуаций возможно. Так что мне крайне сомнительно, что робота, который вынужден будет самостоятельно принимать решение о жизни и смерти, будут делать исключительно на основе нейросети.

Снова бредит автор, все подобные автопилоты будут одной и той же программой комплектоваться, иначе на дороге будет хаос, это на законодательном уровне будет закреплено 100% и думаю любые изменения будут караться уголовной ответственностью. По началу может и будут проблемы, после пары несчастных случаев или зарубят на корню инициативу, или примут законы регулирующие изменения кода.
Назвать это "ИИ" язык не поворачивается, это и есть автопилот обычный с набором команд и правил, у которого есть задача доехать из А в Б никого не угробив и уложившись в определенные временные рамки. В гоночных симуляторах похожая байда, но это же не ИИ. Тут башкой отвечать будет разработчик этого софта.

Вот это утверждение очень сомнительно, конкуренцию никто не отменял. Наоборот, на заре эры автопилотов каждый будет стараться протолкнуть собственное решение, и никто не докажет, какое лучше, а какое хуже. Можно попытаться законодательно закрепить определённые алгоритмы, которые должны использоваться в программе, но это довольно сложно прописать и контролировать.
В таком случае и нейросеть не AI, потому что она работает точно так же на основе тех же команд того же процессора. Разница только в том, что нейросеть - чёрный ящик, но магии-то в ней никакой нет, и при тех же результатах ресурсов она будет жрать заведомо больше.
Учёные сходятся во мнении, что хороший AI, скорее всего, потребует синтеза двух подходов, а ни один по отдельности не принесёт желаемых результатов.

А это придется сделать. Я думаю отличия конкурентов будут в функционале взаимодействия, цене и хайпе, больше нифига. Одни выпустят с голосовым взаимодействия, другие только набор функций с контрольной панели, типа "задайте маршрут". Вариантов кастомизации будет запредельное, но основы будут после пары серьезных инцидентов контролироваться законодательством. В общем посмотрим. Когда какой-нибудь богатей протаранит остановку со школьниками, вместо того что бы погнуть морду, все встанет на свои места. Это просто нежелательный пример если что, я не садист.
На данный момент так и есть. Тоже здравая мысль, т.к. самообучалку хотя бы надо как-то ограничивать на уровне базовых протоколов, да и других вопросов масса.

pokibor,
Я ничего не понял. Нет вообще ни одной нерешаемой проблемы. Это все аргументы против, или как это понимать-то?

Речь вообще шла не о проблемах, а о этических и юридических вопросах, с которыми мы столкнёмся при внедрении AI.

[CCCP] Monster, нерешаемых проблем - сотни.

Teo:), какие именно?

Добавлено через 1 минуту
pokibor, И что, на них нельзя выбрать ответ, который бы устроил большинство?

Речь как раз и идёт о том, что необходима хотя бы дискуссия по этому вопросу, до того как роботы реально начнут убивать.
Но вообще-то такой ответ выработать довольно сложно, поскольку интересы потенциального покупателя и интересы общества в целом сильно расходятся в данном вопросе. А поскольку разработчики заинтересованы в том, чтобы продать свою разработку как можно большему числу людей - понятно, какую точку зрения они будут защищать.

[CCCP] Monster, цена вопроса, безработица, ответственность сторон, возможность реализации в смешанном использовании (когда, допустим, одни на автопилоте, а другие сами за рулем) и тд, это самые первостепенные