Optimizar Pytorch con TensorRT
Vložit
- čas přidán 25. 07. 2024
- En este video te enseño cómo puedes optimizar un modelo que tengas armado en PyTorch para que corra usando TensorRT, un SDK de Nvidia el cual optimiza modelos para correr en hardware de Nvidia
#pytorch #tensorrt #redesneuronales #inteligenciaartificial
Aquí se encuentran todas las ligas y comandos mencionados en el video:
inteligencia.tech/?p=794
0:00 - Intro
0:50 - Como funciona torch-TensorRT
1:41 - Requerimientos
1:43 - Requerimientos: Docker
2:05 - Requerimientos: Nvidia Container Toolkit
2:26 - Requerimientos: Nvidia NGC
3:01 - Config: Repositorio torch-TensorRT
3:22 - Config: Nvidia Container Toolkit
4:35 - Config: Nvidia NGC
6:16 - Pull imagen de PyTorch
6:39 - Crear contenedor a partir de la imagen
8:59 - Abrir el Jupyter notebook
11:55 - Procesamiento de imagenes
12:57 - Primera corrida sin optimizar
13:42 - Segunda corrida OPTIMIZADA a fp32
16:51 - Tercera corrida OPTIMIZADA a fp16
20:09 - Guardar y cargar modelo ya optimizado para futuras predicciones - Věda a technologie
Videazo! Me encanta como explicas todo. Gracias amigo y saludos desde Argentina
Muchas gracias!
Buenisimo
Gracias por el vide carnal
Con gusto! Espero te funcione
Que tarjeta de video tienes, y cual recomendarias calidad precio .. gracias
por alguna razón no lo puedo hacer andar con forge y xformers :c, al momento exportar modelos arroja error
Tus videos son muy buenos.. Pero no se porque mi compu no me deja isntalar u. U
Porque yolov5 queroa correr en mi compu para pdoer haver en entramiento de imagenes pero nunca se pudo :/
Que fue lo que no dejo instalar?
@@AMPTech te mentiria si te dijera tal cosa fue porqie paso hace meses... Como que algo flataba o no decia que no podia algo del visuak studio y de la tarjeta que estaba entre los requisitos al instalar algo
Porque incluso no pude algo de los perimsos que pedia.. Y por ahi encontré un comando para habilitar todo ya que no me dejaba(no era eso de abrir como administrador)
Pero en general no pude porqie algo me impedía