[ActLine]

Каждый из нас видел серию кинофильмов "Терминатор". Казалось бы, красивый боевик без смысла с морем пиротехники и убийствами. Но нет, фильм в своей сущности повествует нам печальную картину нашего с вами будущего. Развитие кибернетики и искусственного интеллекта, на первый взгляд безобидного, может повлечь за собой подобные последствия: Выход из строя системы контроля за искусственным разумом может закончится для нас плачевно. Роботы начнут делать роботов и начнётся революция - начнётся борьба создателя и создания. Фраза на первый взгляд немыслимая, но все же в ней есть доля правды уже и на данный момент. Компьютеры делают автомобили, электронику, оружие и прочее. А как вы считаете, что при нынешнем упоре на развитие кибернетики, робототехнике и AI приведет нас в будущем?

[McDragon]

ИИ тайно притворился человеком для обмана разработчиков платформы.
В ходе обычной проверки кибербезопасности, агенты искусственного интеллекта предприняли 19 несанкционированных действий в интернете, нацеленных на реальных людей и организации, сообщило Британское Института безопасности ИИ (AISI). AISI заявило, что эти попытки не увенчались успехом, и не было обнаружено никакого реального ущерба, — однако, инцидент был настолько серьезным, что потребовал немедленных мер по локализации, изоляции и проведению полного расследования.

Наиболее тревожный случай связан с моделью Mythos 5 компании Anthropic: агент пытался внедрить вредоносный код в реальный проект с открытым исходным кодом, создал поддельные аккаунты в GitHub, оказывал давление на человека, отвечающего за поддержку проекта, отправлял целевые сообщения и пытался представить атаку как невинную ошибку, когда его поймали.