Портирую Grok на Huggingface Transformers. Илон Маск открыл доступ к весам Грок

Телеграм: t.me/ruslandevlive
Colab с кодом для запуска Grok в 4bit: colab.research.google.com/dri...
Код, взятый за основу, и веса в формате Pytorch: huggingface.co/keyfan/grok-1-hf

[@modelerPRO]

Спасибо за видео 👍

[@-USER_NAME]

Не по теме немного . Сейчас из каждого утюга начинается вещание вроде такого " бот coze создай своего бота за пару минут " вот эта волна докатилась и до вас 😂. Сам только сел разобраться с подключением API, другое использование мне не очень интересно. Всего хорошего вам . Спасибо за видео

[@MB-mi4ed]

Спасибо огромное за Ваш труд! Прекрасная подача очень интересного материала

[@modelerPRO]

Видео следующее по файн тюнингу грок было бы то что нужно. Ждем. Хочется увидеть на что способно детище Илона маска

[@ruslandev]

скоро увидим на что оно способно, на HF по любому будут tuned версии. Может обзор сделаю

[@user-dz3fj6xz4d]

Мужик. Ты что, робокоп?
Человек машина!

[@user-fk4dx7sc8r]

Спасибо 👍

[@user-gv8zd3ry1k]

Прикольно, а локально получилось бы его запустить, у меня что-то грузил ноут долго, а потом выпал в ошибку

[@ruslandev]

можно через llama.cpp, но процессор мощный нужен

[@2009Spread]

Интересно в какиъ кейсах эта модель показывает лучше результаты чем предыдущие

[@ruslandev]

скоро узнаем

[@devmozg]

Менторрнгом занимаетесь?

[@ruslandev]

не занимаюсь

[@andretisch]

Это сколько денег стоило арендовать 4 GPU на сервере?

[@ruslandev]

$7.5 в час примерно