Во время тестирования ChatGPT вышел из-под контроля
Просмотры: 2459
Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Распечатать
10 августа 2025
В Татарстане планируют срочную «эвакуацию» начальника судебного управления Зявдата Салихова в Совет Федерации
10 августа 2025
Хакеры опубликовали первую часть похищенных данных «Аэрофлота»
10 августа 2025
Европа и Украина отвергли план Путина по Донецкой области и предложили свой вариант мира
10 августа 2025
Еврокомиссия потребовала от Польши объяснить расходование средств фонда восстановления на яхты и сауны
10 августа 2025
Путин предложил ограничить военные действия в воздухе и на море перед встречей с Трампом
10 августа 2025
МВД Москвы вновь возбудило дело о хищении недвижимости, предназначенной для военнослужащих
09 августа 2025
Мариуполь и Азовсталь остаются в руинах: разрушенные здания и улицы со следами мин и пуль
09 августа 2025
Подтвердилась информация о задержании в Дубае бывшего главы «ВЭБ-Лизинга» Вячеслава Соловьёва
09 августа 2025
Власть и коррупция: как депутат Григорий Аникеев добился арестов и пыток бывших партнёров
09 августа 2025
Российский паспорт и «Лужниковские»: кто зачищает материалы о владельце FavBet Андрее Матюхе?