• XSS.stack #1 – первый литературный журнал от юзеров форума

Теория и практика создания нейросетей и ИИ

ktpm23

(L1) cache
Пользователь
Регистрация
30.01.2023
Сообщения
666
Реакции
253
В этой теме предлагаю обсуждать разные темы связанные с нейронными сетями, их создание, обучение и другие актуальные проблемы теории и практики. Также делиться интересным материалом по теме (статьями, книгами, гайдами, обмен практикой, вебинарами ну и курсами по обучению, и тд)
 
Есть создание ИИ движка с нуля на пайтон?
what do you mean?
--> frameworks --> its not cool to write such tensors backend, auto differentiation, tensor operations inside pure python for production use --> simply reason --> speed + overhead + efficiency

if you ask how to write a simple autodiff engine from scratch inside python --> github.com/karpathy/micrograd --> top guy) youtube.com/@AndrejKarpathy
everything is simple with basic layers + tensor ops + activation functions + gradient tracking

pytorch autodiff engine --> autograd --> fuck dinosaur bad --> but better than bastard tensorflow tf.GradientTape
--> i will give you such task of finding whole chain of tanh layer --> you will fly out of ass --> smash computer to the monkeys
i myself first when did this years ago --> then the base was less --> fuck --> now even ugly base --> dinosaurs grow big + ugly


better autodiff engine --> github.com/geohot/tinygrad by the legendary hacker geohot
everything is cool there with lazy buffers, lightweight + optimized backend inside 1000 lines --> top)
but he is not better in practical than pytorch himself now but --> soon he will be top man))
i read the code base 10x times -->
the repo is clean everything is simple + perfect))
with llvm backend
you can port tinygrad to your own cool custom accelerator hardware --> 5 lines of code)))++
you cannot do such revolution with pytorch --> do not ask about tensorflow even bastard
 
Последнее редактирование:
А смысл? их же все равно никогда не обучить на персональных пк. Даже арендованные серваки стоят не мало для нейронок.

Тут либо пользоваться уже созданными и настраивать их под себя, либо ждать открытий в смежных облостях которые исправят ситуацию.
(это как с квант. компьютерами, они как бы есть и даже квантовые схемы можно создавать, и яп вроде для них есть уже - даже че то шкодить можно, но по факту это чисто для себя все)
По крайней мере это мое мнение, оно может меняться с ходом времени.
 
А смысл? их же все равно никогда не обучить на персональных пк. Даже арендованные серваки стоят не мало для нейронок.

Тут либо пользоваться уже созданными и настраивать их под себя, либо ждать открытий в смежных облостях которые исправят ситуацию.
(это как с квант. компьютерами, они как бы есть и даже квантовые схемы можно создавать, и яп вроде для них есть уже - даже че то шкодить можно, но по факту это чисто для себя все)
По крайней мере это мое мнение, оно может меняться с ходом времени.
Ну знаешь есть разный уровень нейронок, и к тому же еще начали появляться облачные сервисы от яндекса и гугла по теме. Но яндексовская мне слабо понравилось.

Ну а если нужен комп для нейронок то под разные задачи нужны разные конфигурации компов
 
Последнее редактирование:
Ну знаешь есть разный уровень нейронок, и к тому же еще начали появляться облачные сервисы от яндекса и гугла по теме. Но яндексовская мне слабо понравилось.

Ну а если нужен комп для нейронок то под разные задачи нужны разные конфигурации компов
еще есть такая штука как аренда виртуальных машин с gpu там разные характеристики есть и тарифы и много сайтов, ищется все легко в гугле
 
меня интересует создание интеллекта для общения с человеком.
Хочется обучать эго с нуля под свои задачи.
есть такая инфа или примеры где то??
Некоторые вещи видел, но простые в основном могу скинуть и там исходный код есть, еще в проф журналах в том числе код, но его позже поищу если интересно. Я такое пробовал делать, но нужно либо мощное железо либо виртуальный сервер выше писал, но может возникнуть проблема ты напишешь на питоне код и попробуешь обучить модель и вылезет ошибка и ты не поймешь почему и как ее решить. Поэтому многие рекомендуют брать готовую сборку и код и ее под себя переделать.



Можешь тут еще готовые модели и датасеты поискать и на основе них что-то сделать.



 
Последнее редактирование:





 
Спасибо. Очень много полезного.
Мне лично интересна только текстовая модель.

просто если ее научить нормально говорить то это может окупится за несколько месяцев.
A Ей надо будет говорит, И говорит много.

есть одна идея!
 
Последнее редактирование:
Пожалуйста, обратите внимание, что пользователь заблокирован
Посмотрел материал - интересно, но что касается ИИ на Python, то это весьма смешно)
 
Пожалуйста, обратите внимание, что пользователь заблокирован
но что касается ИИ на Python, то это весьма смешно)
Процентов 90 всего AI/ML в мире делается на Петухоне.
 
Посмотрел материал - интересно, но что касается ИИ на Python, то это весьма смешно)
Пистон как раз на ИИ и заточен там куча разных фреймворков и прибамбасов есть.
 
Пожалуйста, обратите внимание, что пользователь заблокирован
Пистон как раз на ИИ и заточен там куча разных фреймворков и прибамбасов есть.
Сомневаюсь, что серьезные и крупные проекты в сфере ИИ пишутся на Python. Самый неуважаемый мною ЯП (моё мнение, если задел питонистов - извиняюсь)
 


Напишите ответ...
  • Вставить:
Прикрепить файлы
Верх