Video

Thanks, please share and like

gracias, hay muchos mas en el canal. please comparte

de nada Un saludo.

thanks. more in the channel

yes, my plan is translate all the ones I have in C# . As soon as I finish with c# i will continue with python

yes , simply pull the new model into Ollama and change the label in the code. Potentially we can use a parameter to choose the model name

@@themachinelearningengineer thanks a lot

Gracias , un saludo

thanks

Not much , I have been working with Langchain and Semantic Kernel, but at some point soon I will start with that topic. regards

here you have averything you may need github.com/microsoft/semantic-kernel

yes you have ViT fine tunning, OCR stuff and soon some stable diffusion, This is about ViT fine Tune czcams.com/video/cxJLzggmyYE/video.html

Hi, yes that it is my intention . I am working daily with python and while I have some knowledge in C# , this take me a lot more time than python. IN anycase mt goal it is moving part of my coding to c# with onnx and Semantic kernel .

I was looking at this library some time ago github.com/awaescher/OllamaSharp. we have a couple of videos using Ollama in python with Langchain, and I use it at work, also I have this in my Roadmap of work, but easily I can prepare soemthing with what I research so far

check this czcams.com/video/IkeXb-LCSP8/video.html related to Ollama

de nada. un saludo

Gracias por avisar, creo que tengo el micrófono con la supresión de sonido ambiente demasiado estricta.

thanks. you have the full list in English here czcams.com/play/PLw-i55H2Io6iaqVkzFMR2H_sO-ZhiPl-A.html. Neo4j is one of my favourite technologies , i have use it in several projects. if you like the content, please give like , regards

check your setup, as the audio it is normal

@@themachinelearningengineer its low sir

HI @josephroman2690 this is the competition ai.google.dev/competition?

and here for your info the solution to the detected problems in that video about chat history management and the bot being unable to follow with a new topic czcams.com/video/BAXHVgk9PLo/video.html

@@themachinelearningengineer thanks man for the info

estoy trabajando con ello. Un saludo

y pues puede ser con la API con la de google AI studio y no con la de vertex

Hola , esto me va a llevar un tiempo ya que estoy con una aplicacion que tengo presentar, pero lo hare. El tema de hacerlo con Phi3 es porque no cuesta dinero, y hacer 100K llamadas al api de gemini tiene un coste.

por cierto si estas interesado en el tema de Gemini, echale un vistazo a este curso de udacity que es gratuito, www.udacity.com/course/gemini-API-by-google--cd13416?bsft_aaid=affd8710-61ff-4001-baca-1d4a7303381d&bsft_eid=82f6e23f-577a-dfce-871a-22a57603974c&bsft_clkid=8d9458c1-2e9a-4e8d-89e2-60a308e8eecc&bsft_uid=1119f82e-2d8f-44ad-a1ea-3fedfb8d0d37&bsft_mid=26240a04-6519-4345-86fe-e2d6d4632087&bsft_txnid=025b7d03-b038-415f-a363-24f22e7d7bba&bsft_mime_type=html&bsft_ek=2024-07-10T22%3A25%3A44Z&bsft_lx=3&bsft_tv=26

un saludo

Thanks!

you welcome

thanks.

You're welcome

Creo que tengo algo a medio hacer , le echo un vistazo y cuando lo acabe aviso , Un saludo

bueno que the haya servido @jose-hw7fl

De nada. Algunas son cosas en las que trabajo y otras de mi interés. Con todas también me ayudo a mi mismo para la luego acordarme de como he hecho algo. Compártelo , los vídeos o el canal si crees que le puede venir bien a algún conocido así me ayudas también a promocionar el canal. Un saludo

yes, we can . I am thinking in doing the same with Pinecone. I will let you know

Glad it helped!

Can you send me the logs of that error?

ok thanks

Hi , Mlflow only has for the moment integration with Langchain and it is still in experimental status, but I am preparing something regards

Hi, take a look to this czcams.com/video/2sabb8XR9WA/video.html

thanks

Do I know you @kashifsadiq4145 ?

1 ) Esto es algo de lo que no hay mucha documentacion . Puedes buscar en el github de OLLama , pero ese parametro controla el numero de modelos que puedes tener cargados en Ollama y se configura en el servidor puedes encontrar mas informacion en github.com/ollama/ollama/issues/358 There are 2 layers of concurrency. There's OLLAMA_NUM_PARALLEL which controls how many requests can be answered against a single loaded model, and there's OLLAMA_MAX_LOADED_MODELS which controls how many models can be loaded at the same time, up to the limits of VRAM. (note: we do not support loading two or more copies of the same model)

2) ese Video No habla de Finetuning. En la lista czcams.com/play/PLw-i55H2Io6iIJWAJcL9L6OHliT0omoyR.html hay multiples ejemplos con Mistral, Llama, Microsoft Phi y otros

Hola, Azure ML es agnostico en cuanto a los modelos , es us servicio de Machine Learning. Lo que hagan los componentes que desarrolles , siempre y cuando se respete los lenguages que usan, el resto es bastante abierto y flexible. Azure ML te ofrece infraestructura , integracion con otros servicios y acceso rapido a modelos pretrained, el resto queda de tu parte. La foto final de una aplicacion ML corriendo en Azure la puedes ver como un conjunto de cajas (que este caso son docker containers) en las cuales tu decides que corre en cada una de ellas, (data preprocessing, NLP, CV , supervise learning), o cualquier otro paradigma de la IA, tu decides como las conectas , y lo que hace Azure ML es proporcionarte como te digo, es el soporte a todo lo que vayas a hacer, en termino de infraestructura que escala dependiendo de tun necesiadades, acceso a otros servicios en Azure, como Data warehousing, base de datos de vectores, u otros servicios IA o not IA como una base de datos. Te ofrece tambien seguridad y control de acceso de tu aplicacion y soporte en todo el ciclo de vida de la aplicacion desde el modelado hasta el gobierno y monitoreo en produccion. Este es el mismo concepto usado por Vertex ai in Google o Sagemaker en AWS. Espero que te ayude

en la descripcion del canal tienes mi email un saludo

I dont understand this

I suppose yes. What AirLLM is doing is loading a layer of your LLM in the GPU and doing inference, then load the next, take the output of the previous and use as input. Remember that in inference we dont have backpropagation only feedforward. gguf it is only a file format and to my knowledge when you load the model, you load it full not layer by layer

buena decisión, yo he trabajado 15 años en cyber-seguridad antes de moverme a la IA hace unos años. A lo mejor monto otro canal con temas de seguridad, aunque de momento con este y el trabajo , ya tengo suficiente. Echale un vistazo a este czcams.com/video/SWM25iJH7l8/video.html, es la tercera parte de esa serie para ver el tema de reglas de fw . Un saludo

Hi , watch this video please czcams.com/video/JwXnu0rUBhA/video.html and follow the instructions of this Jupyter notebook in my repository github.com/olonok69/LLM_Notebooks/blob/main/langchain/use_cases/Langchain_OpenAI_Use_cases_Extraction.ipynb . Here you have 2 examples of using Langchain and OpenAi to extract information from documents regards

con ese comando creas la clave publica y privada, a lo mejor se me ha olvidado ahi . Tienes tambien en la seccion de shorts cada uno de los pasos . aqui te paso el video de ese czcams.com/users/shortsqfItZBYSLOg , y en el detalle tienes todos los pasos

@@themachinelearningengineer tienes alguna forma de contacto de whatsapp? Quiero resolver mi problema, aun estoy en eso. No cuento con computadora y eh tratado de hacerlo sin putyyn en celular y no me funciona. Me ayudas al privado?

donde estas tratando de configurar el ssh , en un celular?

@@themachinelearningengineer así es para usarlo en aplicación termius

Entonces creo que este procedimiento no te va a funcionar. Acorde a la documentacion de Google solo soportan Windows, Mac y Linux /Unix cloud.google.com/compute/docs/connect/create-ssh-keys

subscribiste al canal, para recibir updates, si no lo estas ya. Un saludo

Hi do you plan to extract this information from pdf or which kind of source?

@@themachinelearningengineer through internet sir is it possible sir if possible create video sir it will be helpful 🙏

@@Education_for_all124 you have what you need already in the channel. Take a look to the playlist czcams.com/play/PLw-i55H2Io6gbrGi2oS7roT3DCztJXEfL.html I have there how to search in internet and all the use cases you can solve with Langchain

@@themachinelearningengineer thanks a lot sir

gracias, hay bastante de ese tema que has visto. Si estas interesado en algún tema en concreto te puedo decir que vídeo mirar. Un saludo

@@themachinelearningengineer Hola: Tengo una GPU con 32 cpu . Sin ermbargo cuando quiero hacer una classificacion sobre varios textos que hay en csv encuentro que se demora varias horas. Como hacerlo en paralelo o asincronico. Hay algun tutoria en python?

@@gonzaloandresmorenogomez7226 cuanta memoria tiene tu GPU?

I am not really sure what you want to achive. Can you explain me in a process what do you want and this way i will able to help. this is the flow of the data end to end and then i will be able to do something regards

@@themachinelearningengineer So the way I thought about it is the following: If we are using a closed source model or vector database, they save our embeddings. The idea is to implement presidio + faker for the docs to in case if we had any sensitive information in the document. For instance, employee badge number, ID, etc.... 2nd part is we cannot control the user input as well so if a user typed his sensitive information, we would also want to implement presidio and faker on it so that his info doesn't get leaked.

Hi do you know this library? api.python.langchain.com/en/latest/experimental_api_reference.html#module-langchain_experimental.data_anonymizer . We have already an integration of Langchain with Presidio , using faker. it is generation the PII entities that Presidio recognize (Universal and Language specific) , but can be extended. If your goal it is generate synthetic Data only, this one can be adapted . take a look to this logic github.com/langchain-ai/langchain/blob/master/libs/experimental/langchain_experimental/data_anonymizer/faker_presidio_mapping.py

Hi @yazanrisheh5127 I made a veideo with Faker just replacing the PII entities generation with faker czcams.com/video/WtnOCdhbzfs/video.html

yes, but it will depens of the memory of your GPU. keep in mind that a model it is a file , that you need to load in memory of your GPU. If this file it is fine tune modelwith LOra or Qlora, it comes with some additional matrixs that are the ones that you fine tune , it is not , means that you fine tune the orinal model, which usually means to have a huge GPU or multiple GPU(nothing that you can have in local). what I want to say . 1 million of parameters , in inference means approximatelly 1 GB of GPU memory. so if you one to run just for inference a, lest say, mistral 7B, you just need 7Gb of GPU if you dont use quantization. Runing models in local, some times it is not possible , because of hard and also because of time if you mind to do inference locally, call a model that you have register in the model repository of vertex ai o azureml in the cloud, the question it is yes, as you dont run the inference locally hope it is helps

@@themachinelearningengineer Thanks for your quick reply and explanation! I'm still a bit confused about loading my fine-tuned model from the repository for local use. Let's say I fine-tuned a model for sentiment analysis, so it can classify text as positive, negative, or neutral. I want to load this model locally to perform inference on new data.

Hi @aminahrashid3349, you alway can load a model on local, but again, depends on your hardware. We are in a videoof Gemini pro 1.0. If you are thinking of load this locally, just forget it. You just need to call the vertexai API and either to use , gemini pro or your fine tune version of gemini pro

thanks