Novedades LM Studio - Chatea con tus imágenes y modelos mucho más potentes (Llava y Mixtral)
Vložit
- čas přidán 19. 12. 2023
- En este video te acerco las últimas novedades de la beta de LM Studio, con la que podrás cargar el nuevo modelo de Mixtral 8x7B y emplear modelos multimodales como LlaVa para poder chatear con tus propias imágenes. Prepara tu ram que nos ponemos ¡manos a la obra!
- Věda a technologie
Hola! Puedes hacer que Mixtral 7x8b te funcione bastante mas rapido si evitas que al cargar el modelo uses memoria de GPU compartida. Eso hace que vaya muchisimo mas lento. Configura el nº de capas de GPU ofload hasta que llenes la vram solo (en mi rtx 3060 12gb son 10 capas), ademas veras que haciendo esto reduces el uso de RAM. Gran video!!
Hola! Gracias por tus videos, son muy aclaratorios e interesantes.
Me funciona bien con LM Studio v0.2.16 y AI-Engine BakLLaVA1 MistralLLaVA 7B Q5_K_M.
Preguntas de todo sobre la imagen y va contestando muy bien, no es perfecto pero muy útil, incluso ve cosas en que no te fijas, como un reflejo en un parachoques y te cuenta que es de un edificio. 👍
Gracias por compartir tu experiencia Xavier!
Gracias empezaré a probarlos
Ya nos contarás que tal los experimentos!
Que opinas del modelo solar-10.7b instrict-v1.0? A nivel matemático esta siendo bastante acertado, con errores pero es interesante el modelo, tiene su version uncensored.
cómo puedo generar imagines con ello?
Hola! Existe algún modelo que te permita cargar un repositorio completo?
no logro que me lea imágenes me salta el error de Vision Adapter
hay alguno que lea archivos tipo documento, pdf, excel, etc?
hay alguno que genere texto coherente e imagenes a partir de instrucciones?. O eso de momento solo lo tiene GPT4 que es de pago
Normalmente estos modelos de LLM solo generan texto. Para generación de imágenes puedes usar modelos como Stable Diffusion, que te permiten generar imágenes a partir de texto. El tipo de interacciones que usa GPT-4 se denomina Instruct2pix: www.timothybrooks.com/instruct-pix2pix
Hola!, No me sale el icono para mandar imágenes, uso dolphin 2.7
a mi tampoco
No oigo nada 😢
Gracias @ddoice por el comentario. Me dejé el audio de la intro en una pista enmudecida. El resto del video se ve bien. Para evitar una intro de video taaaan de bajón, he decido quitar la intro muda y dejar directamente donde empieza a sonar el video.