• XSS.stack #1 – первый литературный журнал от юзеров форума

Бесплатный ChatGPT или же персональный ИИ.

Arivite

Layer-7
Пользователь
Регистрация
22.01.2024
Сообщения
113
Реакции
56
Гарант сделки
2
Депозит
0.0036 Ł
Jan - это альтернатива ChatGPT с открытым исходным кодом, которая работает на 100% автономно на вашем компьютере.

Jan работает на любом оборудовании. Jan поддерживает универсальные архитектуры - от ПК до кластеров с несколькими GPU:
  • Nvidia GPUs (fast)
  • Apple M-series (fast)
  • Apple Intel
  • Linux Debian
  • Windows x64
В отличие от других установщиков с GitHub, тут все удобно упаковано и с установкой справится кто угодно. В самом клиенте вам предложат загрузить модели — лучше выбирать «короля open-source» Mistral.

Link github - https://github.com/janhq/jan
Link site - https://jan.ai/
1706595366520.png
 
Выглядит как бета версия. Warning: Jan is in the process of being built. Expect bugs!
Но сама идея правильная. Ты уже сам тестировал?
Да, конечно.
 
можно выложить сюда примеры тестирования?
 
разницу с chatgpt 4.0 и пользу
 
разницу с chatgpt 4.0 и пользу
Касаемо этого сказать ничего не могу. Материал был опубликован для ознакомления.

Касаемо разницы, то нужно проверять самому. Польза - бесплатный и автономный ии у тебя на пк.
 
забыл добавить что для работы нужно API chatgpt
там есть свои бесплатные модели, но если юзать chatgpt, то ты, безусловно прав - там нужен api
 
Screenshot_1.png


Я пробывал LM Studio - модель у меня была 7B Q4_K_M - дообученная от фейсбука. Очень удобно скачивать их в этой проге, редактировать в (1) стартовый промт (можно вообще DEN банальный зафигачить и обойдется цензура), в (2) как в стейбл дифьюжен выбирать модели, в (3) писать как в обычно гпт, в (4) чаты. Отзыв такой - долго, мучительно долго из за слабой видюхи. Модель подбирал именно самую легкую что бы вообще печатало и хватало GPU - даже самая минимальная по идее нормальная, но русский знает плохо, хотя может писать на нем, нужно играться с параметрами. По идее такая же как 3.5 версия по уму. Использовать можно но желательно на сильных видяхах.
Код писать тоже может, есть API который выдает ответы в json - те сделать автоматизацию тоже можно спокойно. Если будет хороший комп, то можно прикрутить к какому нибудь проекту спокойно. Просто высрал этот комент если кому то реально интересно в этом всем разбираться и копаться как мне.
 
Последнее редактирование:
Пожалуйста, обратите внимание, что пользователь заблокирован
Данные для генерации ответов он из интернета берет? Тогда зачем он локально без инета
если он дергает по апи овтеты, то не вижу разницы
 
Просто высрал этот комент если кому то реально интересно в этом всем разбираться и копаться как мне.
Я рад что тебе понравилось, приятель.
 


Напишите ответ...
  • Вставить:
Прикрепить файлы
Верх