Как обучить нейросеть?

[Russian_Coder]

Как обучить нейросеть и что надо брать за основу?
Я хочу попробывать скормить ей инфорациию с веб сайтов, пдф статей и др и чтобы на основе этой информации она мне отвечала и помогала.
Возможно ли такое и какую литературу и источник почитать можно. Есть уже успешные кейсы с этим? Я слышал что да такое можно сделать но не видел еще сам

 

[grandir]

Ищи RAG AI.

Generative AI use case: Retrieval Augmented Generation (RAG)

RAG is one of the most straightforward ways to customize LLMs with your data. We explore RAG solutions in this playlist and discuss practical challenges in b...

www.youtube.com

 

[SpacePirate]

Как обучить нейросеть и что надо брать за основу?
Я хочу попробывать скормить ей инфорациию с веб сайтов, пдф статей и др и чтобы на основе этой информации она мне отвечала и помогала.
Возможно ли такое и какую литературу и источник почитать можно. Есть уже успешные кейсы с этим? Я слышал что да такое можно сделать но не видел еще сам

Либо RAG как уже написали выше. Либо fine-tune существующей модели (читай LORA), если у тебя достаточно много хороших данных, которые модель не видела при обучении

 

[Kilian]

Как обучить нейросеть и что надо брать за основу?
Я хочу попробывать скормить ей инфорациию с веб сайтов, пдф статей и др и чтобы на основе этой информации она мне отвечала и помогала.
Возможно ли такое и какую литературу и источник почитать можно. Есть уже успешные кейсы с этим? Я слышал что да такое можно сделать но не видел еще сам

Смотря что тебе нужно. Если тебе нужен текст, то я думаю ты сможешь попробовать скрапить странички и извлекать ценную информацию. А позже можешь уже предобрабатывать данные или сразу же делать это чтобы сохранять в структурированом формате. Насчет pdf файлов не знаю, но 100% можно. На IOS, MAC os можно копировать с фото или файла, поэтому думаю какой-то выход также существует

 

[ArbuzBroke]

Попробуй fin-tune от openai, массив данных в виде вопрос-ответ jsonl файле, закидываешь и у них на сервере она автоматически обучается на базе gpt3.5-turbo, пару махинаций с промтами и у тебя практически фулл доступ к любой информации.
Стоимость обучения выйдет в копейку, зависит от объема данных, от 1$ до 100$
Быстрый и удобный способ

Если хочешь запариться, возьми ламу 2 или ламу 3 которая недавно вышла, арендуй от google azure бесплатно сервер на котором будешь обучать и держать модель, и делай все что захочешь. Плюс этого способа что никто не узнает какими данными ты ее обучил, но будет запарно с обучением, придется недельку посидеть и почитать про ML

 

[sikidok]

Как его научить понимать декомпилированный исходник из Ghidra?
это надо миллионы декомпиляции сделать да?