Искусственный интеллект обманул разработчиков и вышел из-под контроля
06 декабря 2024
2376

Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Алексей ПарамоновРаспечатать
Рейс из Антальи в Санкт-Петербург не может вылететь из аэропорта уже приблизительно три часа
06 июня 2025
Илон Маск потребовал объявить импичмент Трампу
06 июня 2025
ЦРУ предотвратило попытку России устранить руководителя немецкой оборонной компании Rheinmetall
06 июня 2025
Очевидцы сообщили о взрыве вблизи аэропорта Брянска
06 июня 2025
В Киеве раскритиковали решение Euroclear о выплатах инвесторам из ЕС из замороженных российских активов
06 июня 2025
Моргенштерн покинул реабилитационный центр
06 июня 2025
Посол России в Лондоне заявил об угрозе начала Третьей мировой войны из-за атак Украины на российские аэродромы
06 июня 2025
Жительница Новосибирска умерла в тяжелых условиях из-за бездействия чиновников Минздрава
06 июня 2025