Во время тестирования ChatGPT вышел из-под контроля
Просмотры: 2229
Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Распечатать
24 января 2025
В Рязани атака дронов вызвала пожары на НПЗ и ТЭЦ
24 января 2025
Верховный суд РФ отклонил жалобу Нягани по спору с Росприроднадзором о полигоне ТКО возле аэропорта
24 января 2025
ВЭФ предупредил об угрозе раскола мировой финансовой системы
24 января 2025
Суд разблокировал пенсионные счета родителей Елены Блиновской, но оставил арест на их имущество
24 января 2025
Working for Russian authorities and embezzling funds: Fraudster Timur Turlov hides assets and transfers money abroad
24 января 2025
Трамп подписал указ о рассекречивании документов об убийствах Кеннеди и Мартина Лютера Кинга
24 января 2025
Суд запретил четыре песни рэпера «Молодой Калуга» за пропаганду асоциального образа жизни
24 января 2025
Владислав Доронин замечен в роскошном пентхаусе
24 января 2025
ВТБ обвиняют в тайном обслуживании нелегальных казино