• XSS.stack #1 – первый литературный журнал от юзеров форума

Теория и практика создания нейросетей и ИИ

Отслеживать
RodionRaskolnikov сказал(а):
Google Translate не использовал глубокое обучение, он основывался на SMT. Все дело в статистическом анализе больших двуязычных текстовых корпусов.
Ну если брать гугл я про GNMT говорю. Он пришел как раз вместо SMT.


RodionRaskolnikov сказал(а):
И вот теперь Chat-GPT начал писать такой-то код, который практически может заменить новичков-программистов, и люди начали волноваться? На самом деле, исследования в этой области ведутся уже более 80 лет, и это всегда была прекрасная область математики и теории информации и таковой и останется.
Когда я был молодым, я начал свой путь в этой области с таких работ, которые навсегда останутся лучшими источниками и займут особое место в истории ИИ, даже если будущие поколения об этом забудут.
О, да это интересная тема сам с удовольствием читаю разное про это.
 
larryalcina сказал(а):
То есть всё это обилие нейронок(текстовые, графические) https://vc.ru/u/1216053-nftishka/60...ya-kazhdogo-luchshie-neyroseti-dlya-zarabotka
обращаются в конечном итоге к openai и далее из списка что ты скинул?
Это просто копирайтер насрал ссылками до ровного числа. Там мешанина из сервисов, исследовательских проектов и просто ссылок на видосы на ютубчике.
 
StableCode — новый инструмент от Stability AI для генерации кода с помощью ИИ

❗️Stability AI выпустила (https://www.securitylab.ru/news/540754.php?r=3) свой первый продукт для генерации кода, StableCode, который включает три разные модели и обещает помощь программистам в ежедневной работе и освоении новых технологий.

❗️Первая модель обучена на 6,4 ТБ исходного кода на 358 языках программирования; вторая модель предназначена для выполнения инструкций и понимания подсказок; третья модель может обрабатывать большие объемы кода и предлагать автозаполнение.

❗️Все три версии модели доступны на странице компании на Hugging Face, предоставляя разработчикам возможность ускорить и упростить процесс генерации кода.
 
⚡️ OpenAI открыла возможность дообучать модель GPT-3.5 Turbo (https://neurohive.io/ru/novosti/finetuning-gpt-3-5-turbo-dlya-konkretnyh-zadach/) для конкретных задач, что позволит разработчикам максимально раскрыть потенциал модели. Тонкая настройка (finetuning) позволит разработчикам совершенствовать производительность и точность вывода модели в своих сферах применения. Первые тесты показывают, что дообученная GPT-3.5 Turbo соответствует или превосходит базовые метрики GPT-4 при решении конкретных задач.

Тонкая настройка повышает способность модели последовательно форматировать ответы — важный аспект для приложений, требующих определенного формата вывода: завершение кода, составление вызовов API или преобразования запросов пользователей в формат JSON. При составлении маркетинговых материалов, модель сможет дообучиться придерживаться форматирования текста и tone of voice, присущих бренду.
 
habr.com

Ðак Ð¼Ñ Ð² Just AI Ñоздавали и ÑеÑÑиÑовали ÑобÑÑвеннÑÑ LLM JustGPT â ÑÑеÑÑÑ Ð±Ð¾Ð»ÑÑÑÑ ÑзÑковÑÑ Ð¼Ð¾Ð´ÐµÐ»Ñ Ð² РоÑÑии

ХабÑ, пÑивеÑ! ÐÑо Just AI, и Ð¼Ñ Ñоздали JustGPT â ÑÑеÑÑÑ Ð±Ð¾Ð»ÑÑÑÑ ÑзÑковÑÑ Ð¼Ð¾Ð´ÐµÐ»Ñ, ÑопоÑÑавимÑÑ Ð¿Ð¾ каÑеÑÑÐ²Ñ Ð¾ÑвеÑов Ñ Ð¸Ð·Ð²ÐµÑÑнÑми LLM Ð´Ð»Ñ ÑÑÑÑкого ÑзÑка (GigaChat, YandexGPT). ÐаÑа иÑÑоÑÐ¸Ñ â пÑо ÑабоÑÑ...
habr.com
 
ktpm23 сказал(а):
habr.com

Ðак Ð¼Ñ Ð² Just AI Ñоздавали и ÑеÑÑиÑовали ÑобÑÑвеннÑÑ LLM JustGPT â ÑÑеÑÑÑ Ð±Ð¾Ð»ÑÑÑÑ ÑзÑковÑÑ Ð¼Ð¾Ð´ÐµÐ»Ñ Ð² РоÑÑии

ХабÑ, пÑивеÑ! ÐÑо Just AI, и Ð¼Ñ Ñоздали JustGPT â ÑÑеÑÑÑ Ð±Ð¾Ð»ÑÑÑÑ ÑзÑковÑÑ Ð¼Ð¾Ð´ÐµÐ»Ñ, ÑопоÑÑавимÑÑ Ð¿Ð¾ каÑеÑÑÐ²Ñ Ð¾ÑвеÑов Ñ Ð¸Ð·Ð²ÐµÑÑнÑми LLM Ð´Ð»Ñ ÑÑÑÑкого ÑзÑка (GigaChat, YandexGPT). ÐаÑа иÑÑоÑÐ¸Ñ â пÑо ÑабоÑÑ...
habr.com
Взяли Ламу 2, кое-как дотренировали - "собственная" LLM готова. Скам.
 
alex778 сказал(а):
Взяли Ламу 2, кое-как дотренировали - "собственная" LLM готова. Скам.
Прикол в том, что похоже именно так и появилось после гпт куча нейронок за короткий срок и многие по словам знакомого, который занимается ИИ это делают чтобы удешевить процесс создания нейросетей. В итоге получается просто сборка с движком нейм и свистелками/перделками под разные задачи.
 
ktpm23 сказал(а):
Прикол в том, что похоже именно так и появилось после гпт куча нейронок за короткий срок и многие по словам знакомого, который занимается ИИ это делают чтобы удешевить процесс создания нейросетей. В итоге получается просто сборка с движком нейм и свистелками/перделками под разные задачи.
Да, именно так и надо делать. Это абсолютно правильный подход. Неправильно называть это так, как называют чуваки в статье.
 
Предлагаю почитать

"создаем нейронную сеть" - автор Тарик Рашид
"глубокое обучение, погружение в мир нейронных сетей" - авторы Николенко Кадурин и Архангельская
Отличный материал,написан для "самых маленьких"
P.S
Оригинал книг на англ не помню,извините.Но стоит отдать должное нашим
P.S.S
вот первая книга в пдф формате(но лучше купить думаю,стоят по 1к каждая)
dropmefiles.com

DropMeFiles – free one-click file sharing service

Share your pictures, send large videos, exchange music or transfer big files. No registration required. Unlimited upload/download speed.
dropmefiles.com dropmefiles.com
Всем бобра😎
 
Пожалуйста, обратите внимание, что пользователь заблокирован
Мне бы интересно было бы, не просто сделал тупую нейросесь и доволен, мне нужно бы дообучить лламу под свои нужды, как можно начать обучать модель просто по книге ? Как сделать чтобы она начала думать логически учитывая слова пользователя
 
ONION сказал(а):
Мне бы интересно было бы, не просто сделал тупую нейросесь и доволен, мне нужно бы дообучить лламу под свои нужды, как можно начать обучать модель просто по книге ? Как сделать чтобы она начала думать логически учитывая слова пользователя
Как раз эту тему изучаю и сам делаю похожий проект. Ну см как я понял есть два варианта это модификация кода и дообучение нейросети на своем датасете, второе это эксперименты с промтами и тут минимум кодирования, больше попытка тестировать, что будет если и как себя ллм поведет. В обоих случаях мб такое, что нейросеть ведет себя странно и не предсказуемо так как очень много факторов на нее влияют и это познает только методом перебора и теста, что работает, а что нет и тема очень большая и поэтому те кто ей занимаются сами в полной мере не знают, что в итоге выйдет и что может их детище, поэтому называют это все черным ящиком.
 
Последнее редактирование:
ONION сказал(а):
Мне бы интересно было бы, не просто сделал тупую нейросесь и доволен, мне нужно бы дообучить лламу под свои нужды, как можно начать обучать модель просто по книге ? Как сделать чтобы она начала думать логически учитывая слова пользователя
Вот как пример на гпт, но тут еще нужно мощное железо и рекомендую арендовать сервер под это дело.

habr.com

Пишем свой Chat GPT

Интерфейс чата В июне у OpenAI вышла новость , что в модель GPT можно передавать API сторонних приложений, что открывает широкий круг возможностей для создания специализированных агентов. Мы с...
habr.com

Ðак воÑпиÑаÑÑ GPT Ð¼Ð¾Ð´ÐµÐ»Ñ Ð² домаÑÐ½Ð¸Ñ ÑÑловиÑÑ [LLaMA Update]

ЧаÑ-Ð±Ð¾Ñ ChatGPT наделал много ÑÑма: лÑди задаÑÑ ÐµÐ¼Ñ Ð²Ð¾Ð¿ÑоÑÑ Ð¸ ÑдивлÑÑÑÑÑ ÑоÑноÑÑи оÑвеÑов, ÑÑÑденÑÑ Ñ ÐµÐ³Ð¾ помоÑÑÑ Ð¿Ð¸ÑÑÑ Ð´Ð¸Ð¿Ð»Ð¾Ð¼Ð½Ñе ÑабоÑÑ, а копиÑайÑеÑÑ Ð¿ÑбликÑÑÑ ÑÑаÑÑи Ñ Ð½Ð°Ð·Ð²Ð°Ð½Ð¸ÐµÐ¼ Ñипа «СможеÑ...
habr.com
 
ONION сказал(а):
Мне бы интересно было бы, не просто сделал тупую нейросесь и доволен, мне нужно бы дообучить лламу под свои нужды, как можно начать обучать модель просто по книге ? Как сделать чтобы она начала думать логически учитывая слова пользователя
Для любой нейросети, хоть тупой, хоть не тупой, нужен датасет. Чтобы его подготовить из исходной книги, нужны либо трудозатраты и деньги (а главное мозги со знаниями), либо какие-то инструменты, которых сейчас в паблике нет. Чтобы нужные знания в мозгах появились, нужно хотя бы пару лет активно учиться и вникать в эту тему. С уровня "тупая нейросеть" из учебника, прыгнуть сразу на уровень понимания GPT не получится. По теме вот статья: https://deci.ai/blog/fine-tune-llama-2-with-lora-for-question-answering/
 
alex778 сказал(а):
Для любой нейросети, хоть тупой, хоть не тупой, нужен датасет. Чтобы его подготовить из исходной книги, нужны либо трудозатраты и деньги (а главное мозги со знаниями), либо какие-то инструменты, которых сейчас в паблике нет. Чтобы нужные знания в мозгах появились, нужно хотя бы пару лет активно учиться и вникать в эту тему. С уровня "тупая нейросеть" из учебника, прыгнуть сразу на уровень понимания GPT не получится. По теме вот статья: https://deci.ai/blog/fine-tune-llama-2-with-lora-for-question-answering/
О, да у меня такое было, что модернизировал код и он то запускает, но обучаться не хочет типа нейронка уже обучен либо не хватает ресурсов или вообще неведомая ошибка и как хочешь ее решай непотно в чем дело вообще.

На западных форумах тоже говорят об этом что датасетов порой н найти или мало кто может подсказать как модернизировать гпт чтобы он работал и убрать цензуру.
 
🤖 Создание собственного ИИ-бота на Python за 33 строчки кода

Расскажем, как создать собственный чат-бот на Python с помощью следующей инструкциям языковой модели falcon-7b-instruct.

Читать статью (https://proglib.io/sh/BN2sq9QG5X)
 
habr.com

Ðак Ñ Ð·Ð°ÑабоÑал 500 000 ÑÑблей, Ñделав доÑÑÑп к ChatGPT. РпоÑом Ð¯Ð½Ð´ÐµÐºÑ Ñбил SEO и вÑÑ (поÑÑи) законÑилоÑÑ

СÑаÑÑÑ Ð¾ Ñом, как Ñ Ð¿Ð¾ÑÑи пÑоÑпал "бÑм" ChatGPT, но Ñделал к Ð½ÐµÐ¼Ñ Ð´Ð¾ÑÑÑп и заÑабоÑал на ÑÑом (и пÑÐ¾Ð´Ð¾Ð»Ð¶Ð°Ñ Ð·Ð°ÑабаÑÑваÑÑ). Сам пÑÐ¾ÐµÐºÑ ÑейÑÐ°Ñ Ð¸Ð´ÑÑ Ð½Ð° Ñпад, но об ÑÑом в конÑе. СодеÑжание ÐÑо Ñ Ðак...
habr.com
 
Пожалуйста, обратите внимание, что пользователь заблокирован
ktpm23 сказал(а):
habr.com

Ðак Ñ Ð·Ð°ÑабоÑал 500 000 ÑÑблей, Ñделав доÑÑÑп к ChatGPT. РпоÑом Ð¯Ð½Ð´ÐµÐºÑ Ñбил SEO и вÑÑ (поÑÑи) законÑилоÑÑ

СÑаÑÑÑ Ð¾ Ñом, как Ñ Ð¿Ð¾ÑÑи пÑоÑпал "бÑм" ChatGPT, но Ñделал к Ð½ÐµÐ¼Ñ Ð´Ð¾ÑÑÑп и заÑабоÑал на ÑÑом (и пÑÐ¾Ð´Ð¾Ð»Ð¶Ð°Ñ Ð·Ð°ÑабаÑÑваÑÑ). Сам пÑÐ¾ÐµÐºÑ ÑейÑÐ°Ñ Ð¸Ð´ÑÑ Ð½Ð° Ñпад, но об ÑÑом в конÑе. СодеÑжание ÐÑо Ñ Ðак...
habr.com
Привет. Вопрос как к эксперту - можешь посоветовать ИИ, который имеет доступ в интернет, довольно бюджетный, поддерживает русский язык, можно юзать через браузер/мобиле и не сильно зацензурирован, и чтобы с картинками был интегрирован, чтобы можно было инженерно программные вопросы с ним обсудить.
Чат гпт норм, но ВПН включать не очень сподручно и вопрос - платная версия она уже с доступом в нет и работает ли с картинками?
 
Последнее редактирование:
larryalcina сказал(а):
Привет. Вопрос как к эксперту - можешь посоветовать ИИ, который имеет доступ в интернет, довольно бюджетный, поддерживает русский язык, можно юзать через браузер/мобиле и не сильно зацензурирован, и чтобы с картинками был интегрирован, чтобы можно было инженерно программные вопросы с ним обсудить.
Чат гпт норм, но ВПН включать не очень сподручно и вопрос - платная версия она уже с доступом в нет и работает ли с картинками?
Бард есть как альтернатива, но там опять нужен впн, но бесплатен и цензура там слабее местами, но с картинками он так себе дружит https://bard.google.com/?hl=en

Метавская нейронка хоть и знает русский, но так себе может в работу с картинками, но там впн не нужен вроде как. https://huggingface.co/chat/


См если только брать с https://poe.com/ сборку и см, что подходит, а что нет под свои задачи либо там можно сделать свою сборку. Но там ограничения тоже и нужен впн (100 запросов в день)

Но скажу так я особо с картинками не работаю, поэтому тут сложнее получается.
 
admin


Напишите ответ...
  • Вставить:
Прикрепить файлы
Верх