MLOPS MLFlow :Salvar y cargar Microsoft Phi3 mini 128k en GGUF MLflow

Sdílet
Vložit
  • čas přidán 30. 06. 2024
  • En este video vamos a salvar un modelo Phi3 128 k en formato GGUF int8 en MLflow y luego cargarlo para hacer inferencia en otro entorno t
    Notebooks
    MLFLow quantizaed bfloat16
    Notebook
    github.com/olonok69/LLM_Noteb...
  • Věda a technologie

Komentáře •