MLOPS LLM,s : Convertir Microsoft Phi3 a formato GGUF con LLaMA.cpp

Sdílet
Vložit
  • čas přidán 27. 06. 2024
  • En este video vamos a quantizar el modelo original Phi3 mini a distintos tipos de datos bf16, fp16 o q8_0 con LLama.cpp
    Notebooks:
    github.com/olonok69/LLM_Noteb...
  • Věda a technologie

Komentáře •