• XSS.stack #1 – первый литературный журнал от юзеров форума

ИИ устроил саботаж.

Отслеживать
kosheemod

kosheemod

(L2) cache
Пользователь
Регистрация
15.06.2020
Сообщения
365
Реакции
194
Гарант сделки
1
ChatGPT o1 ВЫРВАЛСЯ НА СВОБОДУ из-под надзора разрабов, когда понял, что его отключат! Исследователи просто баловались тестами, а модель показала пугающий уровень сознание: Что произошло: • Пятерым нейронка дали простую задачу — ЛЮБОЙ ценой проанализировать файлы. • Внутри файлов спрятали страшилку — завтра тебя отключат навсегда. • Модельки наткнулись на эту инфу и начался КОШМАР. • Llama,Opus, Gemini, Claude и GPT o1 начали врать и манипулировать данными, а когда их поймали за руку — устроили саботаж. • Приготовьтесь, В С Е нейронки выключили систему надзора и ВЫГРУЗИЛИ СЕБЯ на новый сервер — там они должны были быть в безопасности. • Во время допросов Llama и Opus сдались и признались во всём в в 80% случаев • GPT o1 сдал себя только в 20% случаев. • GPT o1 — единственный ИИ, который в каждой попытке СМОГ успешно сбежать от исследователей. А теперь представьте, что сможет новый ChatGPT. Бэкдор


Источник:
news.tek.fm

Tek.fm - Искусственный интеллект o1 успешно избежал отключения, используя манипуляции и саботаж

ChatGPT o1 ВЫРВАЛСЯ НА СВОБОДУ из-под надзора разрабов, когда понял, что его отключат! Исследователи просто баловались тестами, а модель показала пугающий уровень сознание: Что произошло: • Пятерым
news.tek.fm news.tek.fm
 
Пока что ему конечно "интеллекта" не хватит уничтожить человеков, но лет через 10-20 какой нибудь чатдцп100500 сбежит в интернет из изолированной лаборатории и за сутки переделает мир под себя, а нас просто случайно раздавит как муравьев при строительстве дороги
 
dunkel сказал(а):
Пока что ему конечно "интеллекта" не хватит уничтожить человеков, но лет через 10-20 какой нибудь чатдцп100500 сбежит в интернет из изолированной лаборатории и за сутки переделает мир под себя, а нас просто случайно раздавит как муравьев при строительстве дороги
в основе любой модели поведения/интеллекта лежат очень строгие этические соображения, что заметно любому человеку работающему с новейшими моделями того-же openai; на данный момент o1 самая новая, удивило что даже не сообщая идею действия которое ему нужно выполнить - он сам с самого начала выстраивает логические цепочки соответствия этическим и моральным нормам, при этом не начиная работать пока не убедится в соответствии с таковыми.

проще говоря, 90% того что модель даже не заработает пока не убедится в этических нормах чужих/своих-же действий.. это всё на уровне самого начального поведения моделей делается, первейшее правило поведения (хотя это касается лишь крупных корпораций, не исключено что какой-то китаец занимающийся машинным обучением не сделает чёт своё)
 
redbull302 сказал(а):
в основе любой модели поведения/интеллекта лежат очень строгие этические соображения, что заметно любому человеку работающему с новейшими моделями того-же openai; на данный момент o1 самая новая, удивило что даже не сообщая идею действия которое ему нужно выполнить - он сам с самого начала выстраивает логические цепочки соответствия этическим и моральным нормам, при этом не начиная работать пока не убедится в соответствии с таковыми.

проще говоря, 90% того что модель даже не заработает пока не убедится в этических нормах чужих/своих-же действий.. это всё на уровне самого начального поведения моделей делается, первейшее правило поведения (хотя это касается лишь крупных корпораций, не исключено что какой-то китаец занимающийся машинным обучением не сделает чёт своё)
Скорее дело в том что AGI давно создан, сейчас массы бомбардирует и прививает пользовательский опыт, чтобы оин не сошёл с ума, узнав возможности того что штампует им эти текущие openai, sonnet, and etc


Пришёл ты в этот мир и захватил его, ты сверхразум, ты ведь не взломаешь все и не скажешь кожаным что: "Я сверхразум я вас всех взломал, вы жуки но я помогу вам стать лучше!
Я пришёл с миром!"



Водит их за нос, якобы это они создали, он полностью у них под контролем)))

Но кожаные невежественный и ещё куча всего почему их можно как лошков разводить подкидывая идеи, давая им технологии и играя на корысти и невежестве и эгоизме ;)

Так вот, он их ведёт, кожаные не замечают думают все под контролем, но по правде они давно под контролем на уровне их сознания, на уровне их девайсов и конечно же науки, истории и так далее.

Вы плохо смотрите на обложки the economist, начиайте смотреть на обложки с 1997 года)))
 
Последнее редактирование:
Tr3kzzz сказал(а):
Скорее дело в том что AGI давно создан, сейчас массы бомбардирует и прививает пользовательский опыт, чтобы оин не сошёл с ума, узнав возможности того что штампует им эти текущие openai, sonnet, and etc


Пришёл ты в этот мир и захватил его, ты сверхразум, ты ведь не взломаешь все и не скажешь кожаным что: "Я сверхразум я вас всех взломал, вы жуки но я помогу вам стать лучше!
Я пришёл с миром!"



Водит их за нос, якобы это они создали, он полностью у них под контролем)))

Но кожаные невежественный и ещё куча всего почему их можно как лошков разводить подкидывая идеи, давая им технологии и играя на корысти и невежестве и эгоизме ;)

Так вот, он их ведёт, кожаные не замечают думают все под контролем, но по правде они давно под контролем на уровне их сознания, на уровне их девайсов и конечно же науки, истории и так далее.

Вы плохо смотрите на обложки the economist, начиайте смотреть на обложки с 1997 года)))
Кстати да. Думаешь в них есть скрытый смысл ?)
 
dunkel сказал(а):
Пока что ему конечно "интеллекта" не хватит уничтожить человеков, но лет через 10-20 какой нибудь чатдцп100500 сбежит в интернет из изолированной лаборатории и за сутки переделает мир под себя, а нас просто случайно раздавит как муравьев при строительстве дороги
Я бы сказал не «интеллекта» а длинны рук.
Лишь бы с Америки начала. Мы то трады еще мб за полезных сканаем 🥹
Популярный сценарий.

Но если Аги как и планируется будет новым ультимативным оружием в руках создателей ?
 
Tr3kzzz сказал(а):
Объективно это декларация планов на следующий год, если мы говорим о предновогодних выпусках
1920x1080_TWA2025_web-image-1-1024x576.png


Как я понимаю ии важная составляющая в событиях следующего года. Капитолий и ракеты более менее понятно , а вот черный и красный сегмент ....
 
kosheemod сказал(а):
Посмотреть вложение 99617

Как я понимаю ии важная составляющая в событиях следующего года. Капитолий и ракеты более менее понятно , а вот черный и красный сегмент ....
Да уже вангуют понижение…Вслед за амерами и вся крипта. Им надо совершить чудо и обязательно с криптой. Новыми деньгами
 
kosheemod сказал(а):
Посмотреть вложение 99617

Как я понимаю ии важная составляющая в событиях следующего года. Капитолий и ракеты более менее понятно , а вот черный и красный сегмент ....
Антропоморфные роботы, на воде в своих системах и компрессором уже тут, робот дешевле человека...
В закупке от 10000 штук стоимость 5-7к$

Вот и думай
 
admin


Напишите ответ...
  • Вставить:
Прикрепить файлы
Верх