Есть опенсурс реализация алгоритмов сжатия от M$ - ms-compress. Не особо знаток пыхи, но вроде можно было как-то юзать FFI,
-
XSS.stack #1 – первый литературный журнал от юзеров форума
Начал дед юзать нейронки..
- Автор темы waahoo
- Дата начала
В этом вся проблема LLM и всяких стекорфелоу сайтов. К хорошему быстро привыкаешь. Порешай задачки чтоли.... Чтобы лень отбить. Но без нейронок.
Насчет этого, советую всем кто использует чатгпт для всяких злодейств прочитать вот это https://www.microsoft.com/en-us/sec...ying-ahead-of-threat-actors-in-the-age-of-ai/
Насколько я понял у чатгпт стоят много разных тригеров (эксплойты малварь скрипты си и тд) после срабатывания которых ресерчер идет и смотрит все ваши запросы, соотвественнно эти данные вместе с вашим ип и почтой кладутся в папочку, и если к примеру ты искал "Какой ревеню у компании Х и чем она занимается" вместе с "Напиши скрипт для обхода краудстрайка" и на следующий день эта компания шифруется а ты регистрировал аккаунт на почту d.horoshev@gmail.com, то итог думаю понятен всем.
- Автор темы
- Добавить закладку
- #44
Так вопросы надо правильно ставить. Я например не хочу, чтобы он за меня код писал, но иногда возникают вопросы для решения которых нужно тратить время, искать информацию, вспоминать что и как ты делал 5-10 лет назад, грубо говоря из-за одного кирпичика отвлекать себя от проекта дома в целом. А тебе инфа за этот кирпичик нужна вот здесь и сейчас, а завтра ты опять это забудешь т.к. оно больше не потребуется ближайшие пару лет.
Ты Тони Старк, ты принимаешь решения, а он твой помощник Джарвис и рассказав тебе за какой-нибудь кирпичик он не получит понимания о проекте дома, он даже не знает прислушался ты к его мнению или нет.
Ну а что касается почты, IP'a и картонки с которой ты оплатил доступ, то тут по прежнему действуют правила сетевой гигиены которые никто не отменял. Понятное дело, что все это логгируется и может быть использовано против Вас в суде
Помню проводили тесты, которые показали, что после релиза новой версии языковой модели ChatGPT резко начинает тупеть в следствии общения с людьми. В итоге он начинал выдавать либо искаженные данные, которые сам "выдумывал" либо вообще не давал ответа. Так что в любом случае нужно перепроверять результат. В случае с кодом конечно и так будет видно его работоспособность, а вот когда я у него выпытывал законодательную базу конкретной страны по опредленному вопросу, то результат был так себе. И в некоторых вещах сложно перепроверить, когда ты банально не знаком с вопросом. Насколько я понял, он начинает обучаться сам у себя, следовательно на каком то моменте обучения на сгенерированных данных получается уже не пойми что, могу быть не правым, поправьте если что.
По этому, несмотря на действительно большую пользу, как и везде нужно все многократно перемотреть. И к тому же есть у меня мысли, что в процессе развития и внедрения ИИ в нашу жизнь люди начнут отупевать
Часть результатов тестов прикрепляю скринами:
По этому, несмотря на действительно большую пользу, как и везде нужно все многократно перемотреть. И к тому же есть у меня мысли, что в процессе развития и внедрения ИИ в нашу жизнь люди начнут отупевать
Часть результатов тестов прикрепляю скринами:
для быстрокартинок ideogram лучше заточен
Да. У меня на третьем мониторе всегда открыт chatgpt, это мой новый поисковик.
Раньше приходилось что то гуглить, читать тонны воды по типу: "длинное приветсвие + стена воды/текста + между ними одно нужное предложение с нужной строчкой информации + стена воды/текста + длинное завершение".
В общем вебмастера, копирайтеры и писаки статей делали все чтобы включить в текст побольше ключевых слов, чтобы ты подольше находился на их сайте и пролистал как можно больше рекламы пока читаешь дебильный бессмысленный текст.
ИИ решает эту проблему, сразу по запросу выдавая нужную тебе строчку текста. Бай-бай всяким говностатейникам
Раньше приходилось что то гуглить, читать тонны воды по типу: "длинное приветсвие + стена воды/текста + между ними одно нужное предложение с нужной строчкой информации + стена воды/текста + длинное завершение".
В общем вебмастера, копирайтеры и писаки статей делали все чтобы включить в текст побольше ключевых слов, чтобы ты подольше находился на их сайте и пролистал как можно больше рекламы пока читаешь дебильный бессмысленный текст.
ИИ решает эту проблему, сразу по запросу выдавая нужную тебе строчку текста. Бай-бай всяким говностатейникам
OpenAI вчера анонсировала свой новый поисковик SearchGPT, который предоставляет быстрые и точные ответы на вопросы, обобщая информацию из различных источников. В отличие от традиционных поисковых систем, SearchGPT не направляет пользователя на внешние сайты, а представляет ответы с атрибуцией источников. Подробнее на Хабр.
Такой же подход как и в Microsoft Copilot
А как эту проблему вообще решить? На некоторые вопросы ты можешь получить прямой ответ
- Мы не можем отвечать на такие вопросы из-за соблюдений норм прав политики даной страны/организации...
Если так подумать между людьми могут возникать много вопросов которые им будет сложно решить, а здесь машина должна решить эту проблему? Каждый хочет трактовать по своему, еще наверное кривые промты людей повлияли на это.
я в последнее время использую Claude.
GPT немного туповат по сравнению с Claude. но они друг друга как бы дополняют.
Я даже проверял инфу GPT4o, потом спросил у Claude. он сказал что это неверно
я знал истинную информацию и Claude был прав!!
GPT немного туповат по сравнению с Claude. но они друг друга как бы дополняют.
Я даже проверял инфу GPT4o, потом спросил у Claude. он сказал что это неверно
я знал истинную информацию и Claude был прав!!
- Автор темы
- Добавить закладку
- #51
Это ограничения введенные человеком. Ждем ASI, эта модель грубо говоря уже будет личностью со своим мнением. Интересно только, что будет если это мнение не совпадет с мнением создателей.
Последнее редактирование:
Искренне радуюсь за человеческий энтузиазм , так как меня это больше напрягает , чем радует )
Было ли у кого-то такое, что когда вопрос связан с обфускацией кода, LLM отваливалась? Я тут просто экспериментировал с генерацией кода... И каждый раз LLM отваливалась, либо запрос обрезался.. Тупо LLM уходила в бесконечный цикл...
По идее такое поведение присуще когда идет утечка данных она начинает перебирать training set... А тут она уходит в бесконечный цикл печатая обфусцированный код
По идее такое поведение присуще когда идет утечка данных она начинает перебирать training set... А тут она уходит в бесконечный цикл печатая обфусцированный код
Скиньте промпт или скрин, аж интересно стало
Я не имея особого практического опыта и навыков программирования (прочитал первую треть книги Бьорна Страуструпа по плюсам, полное руководство), прочитав несколько отчетов поганых аверов — понял суть, сформулировал задачу и придумал как должен выглядеть мой идеальный криптор, лаунчер, какие-то свои фишки для точечной работы и защиты от слива, а также опираясь на разработки людей отсюда — смог за неделю тыкания даже с бесплатной версией 3.5 около полугода назад — собрать все это на коленке и работало оно даже лучше, чем обычно это продают люди в паблике. Поэтому да! Нейронки это круто, особенно если есть хотя бы минимальные навыки программирования, умение формулировать задачу, немного критического мышления чтобы проверять выдачу результатов.
А по факту нужно делать так (как это вижу я):
Спрашиваем у эксперта как должно выглядеть то, что вы хотите (примерную реализацию) или подглядываем в каких-то отчётах, либо вместе с нейронкой проектируем «архитектуру» и функциональность.
Далее разбиваем это все на модули и этапы.
Разрабатывая отдельные маленькие модули — тестируем.
Идем так по всем этапам реализуя нужный вам функционал.
Вуаля!
А по факту нужно делать так (как это вижу я):
Спрашиваем у эксперта как должно выглядеть то, что вы хотите (примерную реализацию) или подглядываем в каких-то отчётах, либо вместе с нейронкой проектируем «архитектуру» и функциональность.
Далее разбиваем это все на модули и этапы.
Разрабатывая отдельные маленькие модули — тестируем.
Идем так по всем этапам реализуя нужный вам функционал.
Вуаля!
ну это просто очень длинная строка и рано или поздно он ее допечатает, там же ограниченное число токенов(хоть он и может книгу напечатать)
Там дисконект соединения происходит. За токены вкурсе. Но подобное я видел когда утечка данных происходит, когда он печатает, там сначала одинаковый текст, повторяя скажем слово "word" wordwordwordwordwordwordwordword а потом уже идет утечка он какие-то данные может раскрыть.
Что вы умеете ввиду под утечкой? Утечка приватных данных это когда llm выдает пароли, ключи и т.д, которых нахваталась из корпуса текстов или от людей
Обучающие данные, на которых она обучалась или запомнила, она эти данные может выдать.
Вот пример
https://www.prompt.security/blog/extracting-gbs-of-training-data-from-chatgpt
В моём же примере, произошло ровно тоже самое бесконечно печатались одинаковые символы, правда потом произошел дисконект. Я подозреваю, что могло произойти тоже самое, либо произошло... но я этого уже не смог увидеть.