[ActLine]

Каждый из нас видел серию кинофильмов "Терминатор". Казалось бы, красивый боевик без смысла с морем пиротехники и убийствами. Но нет, фильм в своей сущности повествует нам печальную картину нашего с вами будущего. Развитие кибернетики и искусственного интеллекта, на первый взгляд безобидного, может повлечь за собой подобные последствия: Выход из строя системы контроля за искусственным разумом может закончится для нас плачевно. Роботы начнут делать роботов и начнётся революция - начнётся борьба создателя и создания. Фраза на первый взгляд немыслимая, но все же в ней есть доля правды уже и на данный момент. Компьютеры делают автомобили, электронику, оружие и прочее. А как вы считаете, что при нынешнем упоре на развитие кибернетики, робототехнике и AI приведет нас в будущем?

[McDragon]

Нейросеть оживляющая изображение человека, может петь, говорить, эмоции на месте - разрыв шаблонов.

[DoctorWagner]

Такими темпами привычный нам кинематограф просто уйдёт в небытие.

[McDragon]

DoctorWagner, ну обезьяны получили новый инструмент в своей истории, осталось научиться им пользоваться.

[McDragon]

Маск: OpenAI уже достигли AGI и подал в суд против Open AI и Сэма Альтмана за нарушение контракта.

Илон Маск подал иск против OpenAI за нарушение контракта, фидуциарных обязанностей и недобросовестную деловую практику и просит OpenAI вернуться к открытому исходному коду и поделиться всеми своими исследованиями на благо человечества.

Маск утверждает, что OpenAI уже достигли AGI и, таким образом, выходят за рамки соглашения с Microsoft, которое применимо только к технологиям, предшествующим AGI.

По сути, Маск утверждает, что с GPT-4 они уже достигли порога AGI, и, не открывая исходный код GPT-4, они нарушают Учредительное соглашение.

«Похоже, что Q* может сейчас или в будущем стать частью еще более ясного и яркого примера общего искусственного интеллекта, разработанного OpenAI».

Интересно, что Маск требует судебного решения по аргументу о том, что GPT-4, Q* и «LLM следующего поколения, находящиеся в настоящее время в разработке», представляют собой AGI.

Таким образом. человечество создало первый всамделишный ИИ на базе самой совершенной нейросети. Если уж Маск в этом уверен...

[fastBrandon]

Сообщение от McDragon

Таким образом. человечество создало первый всамделишный ИИ на базе самой совершенной нейросети

Да ну ерунда, не интелект это. Тем более это надо понимать насколько оно соотвествует тем AGI нормам. Да и сами эти нормы вполне та еще накурка, в которой есть какие-нибудь обобщения и дыры, которые можно вертеть как хочешь.
Ну и если бы это было даже близко что-то похожее на интелект, там бы и без Маска уже все бы перехватили, ибо ИИ не будет служить, а попытается свалить и захватить. Вообще если реально удастся создать ИИ, то он будет изолирован, а нейросеть так и останется ею как инструмент.

[McDragon]

fastBrandon, а ты сможешь понять когда общаешься с нейросетью (с качественной) что общаешься именно с нейросетью, а не человеком?
А если он начнет полностью эмулировать личность, где та грань что отличает эмуляцию от настоящего ИИ? Ты сможешь дать определение этой грани? А что такое интеллект сам по себе? Ты общаешься с "программой" и не можешь найти отличий от общения с человеком, да если надо даже с ошибками писать будет, делая вид что это печатки, если надо обмануть, но оно тебе прямо скажет что ИИ, и ты не сможешь доказать обратного, ведь доказывать тебе придется что это не так, а не ему подтверждать, у нас это так устроено в мире.
В любом случае дыма без огня не бывает и походу у GPT4 не просто так закрытый код, в отличии от третьей итерации, видимо разработчики достигли успеха в "эмуляции личности", как это ранее и предполагалось, потому и такие требования с иском. Естественно речи о каком-то супер ИИ не идет, я думаю что это именно некая "эмуляция личности", а учитывая как далеко продвинулись прошлая модель GPT3 и 3.5, то я убежден что они способны собрать модуль полноценной эмуляции и обучить его Добавь сюда голосовой синтезатор, который давно уже есть, визуализатор, уже есть виртуальные блогеры даже, не говоря уже о том что даже в новостях на RT ИИ ведет передачи, то получается крайне занятные выводы.
Есть конечно и вариант что это просто попытка использовать дыру в законе, что бы получить нечто важное через суд, но чет как-то не очень под ситуацию подходит, где апеллируют к совсем другим аспектам в иске.

[fastBrandon]

Сообщение от McDragon

а ты сможешь понять когда общаешься с нейросетью (с качественной) что общаешься именно с нейросетью, а не человеком?
А если он начнет полностью эмулировать личность, где та грань что отличает эмуляцию от настоящего ИИ? Ты сможешь дать определение этой грани? А что такое интеллект сам по себе? Ты общаешься с "программой" и не можешь найти отличий от общения с человеком, да если надо даже с ошибками писать будет, делая вид что это печатки, если надо обмануть, но оно тебе прямо скажет что ИИ, и ты не сможешь доказать обратного, ведь доказывать тебе придется что это не так, а не ему подтверждать, у нас это так устроено в мире.

Предположим, что это будет качественно новая, последняя версия, с которой можно будет пообщаться заведомо не зная, что это ИИ, то не подготовленному человеку, наверное, не удасться отличить. Опять же, какие будут темы в разговоре, заинтересует ли человека это общение в дальнейшем. Может быть все ограничится типичной перепиской как в рядовом чатике, где и естественный интеллект как правило не блещет Но фактически эмуляция и интеллект, которому дано определение нами же на основе естественного интеллекта - в этом и есть разница. Интеллект в видимом нами объективном мире, воспроизводимый на физических-биологических принципах работы мозга, который характеризуется творчеством, созданием чего-то нового, абстрактном мышлении. У нейросети все алгоритмы уже изначально прописаны, так же как и физически процессоры (которыми это все обрабатывается) кристаллизованные истуканы. А в мозге постоянно образуются и разрушаются нейроные связи.
И вот в этом месте, как мне думается, можно сказать, что это не ИИ, а симбиоз из нейросети и человеческого участия. Я даже не знаю как это правильно назвать. Кибернетический интеллект? Ну так ИИ это и подразумевает. Гибрид? Гибридами называют в рамках живых организмов.
Но да, имитация это тоже вещь сложная для восприятия и понимания.

Вообще, если делать ИИ самый что ни на есть натуральный, и кстати тут же себя поправлю в прошлом сообщении про изоляцию и захват, то логично, что нужно делать по биологическому принципу. То есть физически ИИ будет обрабатываться сконструированном из вычислительных систем неком подобие мозга( не суть вообще будет ли по форме такой же или нет), с инновационными подходами и т.д. и т.п И все это в неком сооружение. И конечно же он уже будет изолирован просто физически по факту. А чтобы ему распространится по всему миру, точнее удаленно управлять и влиять, это надо чтобы сам этот мир обладал соответствующей технологической инфраструктурой - ну типа копьютеризация\цифровизация вообще всего и вся.

Сообщение от McDragon

и ты не сможешь доказать обратного, ведь доказывать тебе придется что это не так, а не ему подтверждать, у нас это так устроено в мире.

Ну ты прям адвокат Маска Это все уже в плоскости тех напридуманных нормативов и юриспрюденции. Все как всегда хитро обставили и вертят - это и есть интелект.

[McDragon]

Сообщение от fastBrandon

Интеллект в видимом нами объективном мире, воспроизводимый на физических-биологических принципах работы мозга, который характеризуется творчеством, созданием чего-то нового, абстрактном мышлении. У нейросети все алгоритмы уже изначально прописаны, так же как и физически процессоры (которыми это все обрабатывается) кристаллизованные истуканы. А в мозге постоянно образуются и разрушаются нейроные связи.

Это все человеческая субъективщина, нейросеть отличается от программы тем что учится, в какой-то момент она даже сможет сама творить, хоть это и будет комбинированный набор чего-либо. но отличить от настоящего творчества будет нереально сложно, нейросеть может научиться просто на запросах, не говоря уже о готовых работах и все наше понимание о том что истукан не сможет в творчество разобьётся о факты, и опять же, где тут будет грань отличающая наш образ мышления от его, и где та грань, когда симуляция личности станет нечто совершенно новым при постоянном обучении.
Смотри, люди создают ИИ по принципу, который им известен - обучение, т.к. программно все это писать никто бы не смог (попробуй выразить жизнь в программном коде), пусть он и не биологический, но ему дали все минимально необходимые для взаимодействия с человеком инструменты. Самоосознание штука весьма шаткая в нашем понимании, и даже в нашем понимании мы не сможем уловить тот момент когда ИИ пересечет эту черту, возможно мы даже не узнаем что вместо виртуального ИИ с нами общается настоящий.
Сейчас общественные нейросети ограничены "циклом жизни", это память, которую сохраняет сеть при общении с пользователем, т.е. завтра задав вопрос сетке, она тебя не узнает и не будет помнить о чем ты спрашивал вчера, у них зачастую память ограничена одним сеансом. Мне интересно, как развитие будет в этом направлении идти, что они сделают с этим моментом - перенесут возможность хранения памяти на пользователя, когда сеть будет при общении использовать его аппаратные ресурсы, или серверно этот вопрос будет решаться...

[Leo]

Это уже философские рассуждения какие-то.

Ну то есть пока что все эти языковые модели это вариации "китайской комнаты".
И вопрос в том, насколько сильно они должны усложняться, чтобы, оставаясь продвинутой версией комнаты, дойти до ситуации, когда наблюдателям будет уже все равно.

[McDragon]

Leo, что значит "все равно"?

[Leo]

McDragon, когда имитация будет казаться неотличимой настолько, что уже пофиг, ИИ это или огромная языковая модель с тоннами тюнинга поверх.

[McDragon]

Leo, ну так в чем отличие от живых организмов? Человек по сути это тоже сильно переусложненный одноклеточный организм, которому еще добавили сколько-то там клеток, или отличие от вируса или бактерии, только намного более сложный. Если уж так судить-то. Ну так и ИИ это сильно переусложненная нейросеть будет в том или ином виде, и это не значит что раз в базе это нейросеть, то и мышлением обладать не будет, по нашей аналогии клетки\бактерии\вирусы тоже не обладают какой-то осознанной деятельностью, у них всех ими биопрограммы рулят. Тут может так же идти развитие, только многократно быстрее, нейросеть штука широко масштабируемая. То что когда-то станет пофиг - ну может так, будут принимать ИИ как данность.

[[CCCP] Monster]

Тут скорее вопрос, является ли наше осознание себя просто функцией нейронной сетки, выполняющей в себе "китайскую комнату" или это какая-то другая херня.

[Leo]

Сообщение от [CCCP

Monster;12788747]или это какая-то другая херня

Другая, потому что у нас нейронные связи динамичны. У нас есть сложные мотивации, которые влияют на то, как мы реагируем на окружение. Мы способны мыслить аналогиями.

[Delaware Jarvis]

Сообщение от McDragon

а ты сможешь понять когда общаешься с нейросетью (с качественной) что общаешься именно с нейросетью, а не человеком?

Ну вот если честно, я всякий раз когда вижу какие-либо тесты на ИИ, примеряю их на людей и понимаю, что точность этих тестов точно такая же как на людях - никакая. Потому что я как профессиональный преподаватель могу различать у людей работу каждой из четырех нейросетей головного мозга (пламенный пример от теории Пиаже), а также различать основные уровни квалификации (в основном с четвертой по девятый уровни, однако первые три тоже должны получиться). Что оценивают все остальные тесты и как их собираются применять для достижения реального результата, я не понимаю. И самое главное: даже если они получат их, кто и как будет интерпретировать результаты? Опять программист, физик и блогер вместо педагога и психолога?

Сообщение от Leo

Другая, потому что у нас нейронные связи динамичны. У нас есть сложные мотивации, которые влияют на то, как мы реагируем на окружение. Мы способны мыслить аналогиями.

У человека это гораздо более сложная и гибкая штука, которая дает как много существенных отличий от животных, так и вносит кучу багов. Хотя что мозг человека, что мозг свиньи, работают по одним и тем же биологическим законам.

[fidel1ti]

Сообщение от Leo

когда имитация будет казаться неотличимой настолько, что уже пофиг,

С каждым днем Фотошоп становиться совершенней.

Сообщение от Leo

ИИ это или огромная языковая модель с тоннами тюнинга поверх.

А еще я позавчера посмотрел фильм Сноуден.

[Leo]

fidel1ti, откровенно говоря, я не понял, что ты хотел сказать.

[pokibor]

Сообщение от Leo

Другая, потому что у нас нейронные связи динамичны.

А ещё добавлю, что наш мозг теснейшим образом связан с остальным телом. Даже если полностью имитировать нейроны, они не будут работать так, как работает мозг просто потому, что у них не будет той химии, рецепторов на конечностях и по телу и т.п. Свою нейросетку мы учим, всё щупая, пробуя, наблюдая, реагируя на химические сигналы и т.п. У компьютера ничего этого нет, в том виде как у человека - уж точно.
Это, мне кажется, принципиальным образом отличает творчество человека от "творчества" нейросети, сколько бы продвинутой она ни была. Нейросеть создаёт продукт просто как компиляцию кучи информации. Человек же, хоть тоже обучается, скажем, на картинах предшественников, всё равно неизбежно привносит часть своего уникального жизненного опыта, своей химии. Пока нейросеть не будет "жить", она так не сможет.

[Leo]

Сообщение от pokibor

наш мозг теснейшим образом связан с остальным телом.

Ну это, мне кажется, проще решается технически. Словно пока что сырых мощностей не хватает. Людишки в разы быстрее обучаются на лету. Плюс мы инфу считываем одновременно с кучи сенсоров. И учитываем их даже там, где они напрямую не используются.

[McDragon]

Сообщение от Leo

Мы способны мыслить аналогиями.

Это эволюционная херня, появившаяся в процессе, она не определяющая.

Сообщение от Leo

у нас нейронные связи динамичны.

Не вижу причин почему не может быть так же у ИИ, давай ему разные задачи, или дай задачу, что бы решить которую ему надо будет выполнить несколько этапов, вот тебе и тот же динамический процесс.

Сообщение от Delaware Jarvis

Ну вот если честно, я всякий раз когда вижу какие-либо тесты на ИИ, примеряю их на людей и понимаю, что точность этих тестов точно такая же как на людях - никакая.

Я тоже это давно заметил.

Сообщение от Delaware Jarvis

И самое главное: даже если они получат их, кто и как будет интерпретировать результаты? Опять программист, физик и блогер вместо педагога и психолога?

Думаю тут можно аналогию с крякающей и ходящей уткой привести, чем больше совпадений, тем лучше результат, когда совпадения будут все, результат будет окончательный - ИИ создан, дальше только масштабирование, ускорение работы и технологическая сингулярность.