Valen la pena la NPU Actualmente 2024?
Vložit
- čas přidán 25. 07. 2024
- 00:00 INTRO
00:18 Las NPUs
01:49 Comparativa entre NPUs, CPUs y GPUs
03:00 NPUs: son OBSOLETAS
05:28 Servirán para Juegos Next-Gen ?
06:15 No son el futuro.
07:01 Copilot
07:32 X-Silicon C-GPU
09:06 Microsoft se prepara para el cambio - Krátké a kreslené filmy
Me encantó el vídeo, muchas gracias y a seguir creciendo.
Muy buen analisis. Gracias por el video
difiero un poco ya que actualmente trabajo con sisitemas edge ai, los equipos nvidia son caros y escasos hechando a tras a los clientes con los tiempos de espera o con los costos, para sistemas de vision ai, actuamente estamos adaptando un sistema para unas boards llamadas orange pi, tienen una npu, y funciona bien, es otra opcion mas economica y rapida de conseguir, tienes razon sobre la evolucion, pero para sistemas un poco menos demandantes como los industriales estan muy bien
Buen video.
¿Hola, puedes hacer un vídeo de por qué la imagen de una buena webcam se entrecorta sobre la imagen de un juego? Ya miré todo lo que dice la gente sobre optimizar y no logro dar con el fallo, gracias.
Buen dia crack !! Me aclaraste la decisión de que micro comprar. Voy por un micro que consuma poco y se caliente poco y en el futuro veremos. Gracias por el video !!
Es decir no recomiendas invertir en los Nuevos Arrow Lake de I tell que seguro lanzan.en Octubre de este año por los flops siendo una tecnología apenas entrando? Yo estaba esperando a esta fecha para actualizar mi equipo.
Si tienes un equipo muy antiguo o que tú trabajo necesites ese procesador adelante ya que arrow lake solucione los desastres con los topes de gama de la 13ra y 14ta generación
De acuerdo contigo, te cuento mi experiencia, pasé de una 5600XT a una 6700XT, soy de juegos AAA y no competitivos por lo tanto me iba a comprar una 4070 Super ya que me encantó Alan Wake 2, lo podía jugar a 70FPS más o menos en 1080 con mi GPU actual y 120FPS con el AMD Frame Generation, ya que quería sí o sí la experiencia con RT overdrive, considere la 4070 super bien me va a dar los mismos 70FPS, pero con overdrive y unos 100FPS con FrameGeneration de Nvidia, me había decidido a comprarla.
Los últimos días de Junio que me llega un bono del trabajo, pero la verdad es que viendo como 20 comparaciones con la 7900GRE ya de me decidí por esta última, en rasterizado la 4070 super me da casi lo mismo que mi tarjeta actual la 6700XT y tendría lo mismos 12GB de Vram, voy a dejar la afición por el Ray-tracing y a pensar en que la 7900GRE supera a la 4070 Super casi un 30% en rasterizado y viene con 4GB más de VRAM que a futuro no se si en algún momento vuelvan a enloquecer los precios de las GPU me conviene más.
Di esta larga introducción porque me pasó lo mismo con las NPU ya estaba mirando una alternativa, pero como dijiste, el Ray-Tracing tomó dos generaciones para ser usable, mejor dejar la gana por tener lo más nuevo, dejar que madure y ver que marca nos ofrece lo mejor.
Y pues sí, la verdad es que ya de por sí con la sola duración de la batería y el rendimiento, hay motivo para que los Snapdragon X se vendan, no había necesidad de dejarnos a los dueños de GPU independientes sin soporte, eso tendrán que arreglarlo dentro de poco.
Completamente de acuerdo con su comentario. Nos dejamos influenciar por las nuevas características que ofrecen y queremos tenerlas en nuestros sistmeas, solo son pruebas de conceptos, que por un lado pagamos más y somos los betatesters. Lo de RTX está desde la Serie 20 y aún con la Serie 40 no es que funcione como uno espera. Con qué artimaña de marketing sale NVIDIA con la Serie 50 para desearlas.
Interesante. Gracias por la mirada a los nuevos productos de Intel/Snapdragon. Yo hasta ahora estaba algo inseguro de apostar por los Ultra o más bien por Snadragon, pero al final creo que tienes razón, todo es todavía muy nuevo. Será mejor esperar antes de comprar. Lo único que estoy necesitando últimamente, que quiero hacer más con imágenes creadas por IA, es una tarjeta gráfica más potente.
compra una tarjeta de servidor usada en aliexpress, hay varias por 80 dolares para arriba, que van muy bien para eso
El "top" se suele usar para operaciones con tesnsores y tflop para operaciones de punto flotante, si mencionan 45 top depende del precio y consumo de top/w, una rtx 3060 puede llegar a mas de 100 tops con un consumo de 170w, una 4090 hasta los 1000 top con un consumo de 450w, una L4 hasta los 200 a 400 top por 72w, estas últimas su costo es muy elevado, no creo que sea una mala opción al final estos equipos no están pensados para uso profesional, mas bien es para el público en general que simplemente compra la computadora y poder correr modelos como phi3 o sd 1.5 si es que sale para esa plataforma sin tener que instalar, configurar o prearar algo solo plug & play, si buscan estudiar este mundillo de la IA en poco tiempo se encontrarán que necesitan uns GPU y con los modelos actuales las 4090 ya son obsoletas para trabajar con modelos de última generación donde se suelen usar cluster de GPU de decenas o cientos donde cada una cuesta casi lo mismo que un auto.
tienes razon pero hasta ahi nomas. creo que nate (el youtuber) ya explico que conviene para esos casos de trabajar con ia, comprar gpus para servidor, salen mucho mas baratas, traen mas vram, pero no tienen salida de video. por 80 dolares puedes comprar gpu de servidor de generaciones anteriores con 24vram, recuerdo que habia un modelo que salia 120 dolares que 2 de estas gpu son iguales a una rtx 3080 o rtx 3090 si no recuerdo mal. es una opcion economica en terminos de hardware, pero creo que sus consumos energeticos son elevados pese a que los modelos estos no traen disipador con fan, solo disipacion pasiva
@@albertopazgeuse8133 yo trabajo en este mundillo, las versiones "económicas" no son las mejroes opciones, muchas tiene problemas de compatibilidad con nuevos modelos, una p40 de 24gb de aprox 300USD suele ser de 40 tops con un consumo de 250, he comprado esas GPU y ni para entrenar me sirven, el costo energético en un mes me llega de hasta 300 USD, dos 3060 de 12gb son mas rápidas, consumen casi lo mismo y tienes la misma vram en conjunto.
Al final depende de que se busca, la mayoría de los que conozco no trabajan con LLM o modelos tan grandes y una 3060 les basta y sobra e incluso yo no hago finetuning de llm en servidores dedicados, se suele hacer en un cluster de terceros.
Lenovo y Microsoft ya han presentado sus portátiles con snap Dragon élite. Podrías hablar de ellos por favor? A mí me interesan especialmente para edición de vídeo.
Mejor cómprate una MacBook ya que tienen su software muy bien trabajado aparte que llevan mucha ventaja frente a la propuesta de Microsoft que ya de entrada está mal ejecutada de parte del software
Buenas me dedico el 90% en trabajos de producción, Microsoft project , ia para informes, videoconferencias y seguimiento de reuniones y trabajos y un 10% para jugar al lol ¿Qué portátil me recomiendan? Todo los días lo trasladaré de casa a trabajo
Gracias
Puedo estar equivocado, pero los NPU dedicados dentro de un procesador no es lo mismo que los tensor cores de una GPU.
Que las medidas en los NPU son mas generales y en los tensor cores son medidas mas específicas, osea un NPU puede ser tensor cores pero un tensor no puede ser un NPU. Por ende si conviene comprar NPU dedicados y tbm graficos dedicados al no ser lo mismo.
Si estoy equivocado diganmelo y aclarenlo, gracias.
excelente video Javier !!
- no conocia nada de lo que decis en este video
- es cierto, que no es necesario, en un video Nate Gentile, puso una IA en un PC, sin necesidad de estar conectado permanentemente a internet y el procesador utilizado no tenia NPU
las NPU solo son un espia, la escusa con la IA para que aceptes comprarte chips con NPU, preguntate porque no son open source
@@iuliansc8446 No necesariamente simplemente no son Open source por el dinero ejemplo Qualcomm tuvo que comprar una empresa de ex-apple que es Nubia protegen su IP y patentes
Entiendo que es una "evolución" para ordenadores portátiles que viene más a competir con Apple y es para ofimática literal es más sencillo vender un procesador con NPU que una RTX al común de los mortales que no juega aparte del espacio y consumo energético.
En el vídeo de Nate Gentile explica que uso llama2 la IA de Meta dado que está si podía correr localmente en ese PC
De acuerdo, antes eran instrucciones para la misma cpu, y ahora se agregan nuevas unidades de procesamiento que optimizan solo algunas cosas, y, si ¿el usuario no las usa?, que pasa con la caché que está aparte de la npu, o ¿la caché l3 la comparte entre npu y cpu? no se, pero esa memoria es carísima.
Imagino q se usará compilando tu información para entregarla la digerida a MS... Xq una cosa es dar la información y otra es mandarla con lo realmente importante.
el npu se tendría que usar para optimizar la cpu parte del sistema como también memoria y optimizar programas,mejorar la eficiencia energetica patrones de eliminación de archivos se que suena futurista pero creo que para eso si serviría la npu para desarrollar un tipo de ia que optimice el sistema operativo y sea de verdedaro uso para el usuario.
Y los procesadores analógicos? No veo mucho desarrollo en ese tema
pero es que tu estas hablando desde la optica de un gestor in situ muy especifico, en este caso chatGTP, que si que necesita un minimo para trabajar de manera remota (sin ayuda de estar conectado a la nube) pero los NPU que tiene AMD en su serie 8000 de Ryzen y posteriores aunque son limitados para lo que propones, son excelentes como gestor de recursos, tan solo las pruebas que se hicieron al salir los APU 8000G, que dicho sea de paso fueron completamente no intencionadas, demostraron que la NPU aprende de recursos disponibles y preferencias de usuario para dar una experiencia de juego optima, eso se lograba con el cambio de frecuencias activo para establecer una armonia entre CPU, GPU y RAM, se puede ver en varias pruebas como todo el sistema parece muy oscilante en ese aspecto pero daba mejor tasa de refresco, menos lag, menos rotura visual y mejor respuesta con perifericos, que es lo que ya hace adrenaline pero uno tiene que calibrarlo manualmente para quedar a gusto y en este caso al activar los NPU simplemente lo hacia.
Tambien nos estamos enfocando solo en asistentes software-persona, pero no sabemos si windows 12 va a estar potenciando IA de ese tipo o algo mas basico como lo que hizo AMD, creo que esos NPU que ahorita estan en el mercado estan siendo desperdiciados, ademas se necesita que haya usuarios que cuenten con esa tecnologia, muchos o pocos pero que haya, para correr pruebas y checar errores o mejoras y adherirlo a una actualizacion. quien dice que no haya optimizacion par achatGTP y en el futuro solo necesite 20 tops para tareas basicas?
En lo personal con el nuevo intento de apuesta de Microsoft si Windows ARM se sigue basando en NT seguiremos como estamos ahora ya que por más IA que tenga no sirve si no hay muchas aplicaciones de 3ros para instalar, se dice que la solución será la emulación pero está no es la solución ya que no es mala idea pero para solucionar un problema así de grave mejor hay que optar por traer lo más pronto posible un port de dichas aplicaciones en el momento de su lanzamiento, lo mejor que puede hacer Microsoft es un borron y cuenta nueva, volviendo al tema central simplemente las NPUs por ahora considerenlo un lujo nada más y esperen a que bajen de precio
el trazado de rayos para mi era puro marketing lo que le permite a Nvidia triplicar sus precios por 10-20% mas de rendimiento con su generacion anterior lo cual para mi bolsillo es un despropósito.
Una cosa que aprendí cuando salió la serie rtx 2000 es que en el momento que se estandarice y se aproveche medianamente solo se podra en los nuevos modelos, y dejando los modelos que vendieron toda la revolución afuera
Por ejemplo una 4060 le hace bastante compentencia a la 2080 la cual en su dia costo poquito mas de 1000 dolares y la otra se puede encontrar por 300-400 dolares consumiendo menos y aprovechando el dlss 3.0 y los rt cores de tercera generación en conclusión mejor no comprar de lanzamiento y esperar asta que sea adoptada asi pagas menos obtienes mas y consuniendo menos
Eso si, los modelos de IA, siempre son más pesados, y a menos que el crecimiento de la cantidad de VRAM aumente explosivamente, las npu, serán de buena utilidad, siempre y cuando el equipo soporte una buena cantidad de ram(+ de 128GB), cosa que no creo de la media de los equipos actualmente, y que necesitan crecer de forma explosiva.
Si la experiencia es buena, mejor esperar, nunca se sabe por donde la letra chica pueda atacar.
como consumidor no conviene subirse al carro de las NPU... al menos en los próximos 3-5 años, es más como (solo)consumidor no es bueno subirse a cualquier tecnología como 'early adopter'
...si eres creador de contenidos(en cualquiera de sus rubros) la cosa es diferente, tocaría anallizar si la inversión vale la pena, obviamente un creador de contenidos debe apuntar a la gama alta,premium y/o entusiasta para ver realmente cambios...
Nota: min 5:55 "" para que pasear los datos, desde el SSD, al CPU para después llevarlo al GPU...""".... Direct STORAGE, are you there??? oh es mi imaginación malévola q interpretro mal, sus palabras.
Sabia q era posible usar los mismo nucleos para toso
El primer smartphone con NPU fue el Huawei Mate 10 y no un Apple.
Solo que cuentes el algoritmo de las cámaras ya que es lo que tiene IA hace varios años
Sr. Zero. No sé si se percató después q edito este video... Pero usted acaba de decir dos cosas. La primera es AMD apesta. Y la más importante dijo COMPREN NVIDIA q es la única q con sus gráficas nos está dando los TOPS q se necesitan... (Felicidades x entregarse al lado oscuro)
Que clase de mini pollo es este.
Y la mentira?
Simón
Yo lo que veo es que nvidia tira a sistemas propietarios en su IA y su CUDA, AMD tiende a ser más abierto (no le queda más remedio) pero si software en todos estos temas está muy atrás, finalmente llega Microsoft y se tira a NPU. El resultado: una pocilga. Es mejor esperar y tirar con lo que tenemos. Comprendo el planteamiento de cada una, el de Microsoft porque no quieren depender de tarjetas gráficas en portátiles de trabajo. nvdidia por el dólar y AMD, bueno hace lo que puede. En fin, un desastre absoluto. Mejor esperar en la compra de dispositivos, coincido plenamente con el autor del vídeo.
Qualcomm rompe cpu x86