Was ist Retrieval Augmented Generation?
Vložit
- čas přidán 10. 09. 2024
- In diesem Video erklären wir anhand eines Beispiels, was genau Retrival Augmented Generation (RAG) ist, wofür der Begriff RAG steht und wie RAG genau funktioniert.
Bevor wir auf praktische Bespiele von Retrival Augmented Generation (RAG) zu sprechen kommen, erklären wir kurz wöfür RAG steht und wie das Konzept aufgebaut ist. RAG steht für Retrieval Augmented Generation. Mit diesem Konzept ist es möglich einem LLM spezifische bzw. unternehmensspezifische Informationen zur Verfügung zu stellen, um das LLM dementsprechend zu optimieren.
Im Weiteren kommen wir auf verschiedene Vorteile des Konzeptes RAG zu sprechen und gehen hier sowohl auf finanzielle Aspekte als auch auf Qualität und Quantität der Informationsdarstellungen von RAGs ein.
Im weiteren Verlauf des Videos zeigen wir dir durch zwei Beispiele detailliert auf wie RAG funktioniert. Zum Schluss kommen wir noch auf einige Einsatzmöglichkeiten, besonders im unternehmensspezifischen Kontext zu sprechen.
Unsere Internetpräsenz:
Wenn dich das Thema LLM sowie das Konzept Retrival Augmented Generation besonders interessiert, dann schau auf unserem Blog nach
datasolut.com/...
datasolut.com/...
Unsere Website: datasolut.com
LinkedIn: / datasolut
Super gut und anschaulich erklärt! Hatte bis hier hin nie von "RAG" gehört - ich bin froh, dass ich diesem Kanal folge, so bin ich immer up to date! Danke!
Vielen Dank für dein Feedback!
❤❤❤
Thanks :)
Sehr interessantes Video! Vielen Dank!
Aber würde das nicht den Prompt deutlich vergrößern und so die Bearbeitungszeit auch erhöhen?
Also die Verwendung von Vektoren und EInfügen im Prompt.
Trainieren mit dem Wissen wäre schneller und nach dem Training wohl auch günstiger, da weniger Tokens bei der Nutzung benötigt werden. Dafür natürlich nicht so anpassungsfähig, wenn sich die Daten ändern. Habe ich das so richtig verstanden?
Hi 👋 vielen Dank erstmal! Ich habe zu deiner Frage gerade ein Video aufgenommen.
Kurz gesagt: RAG ist in den meisten Fällen günstiger und sogar besser. Ein Fine Tuning ist sehr teuer nicht nur Compute sondern du muss ja auch Daten haben.
RAG Systeme sind mittlerweile auch schnell und kosten nicht viel. Das ist in der Regel die Architektur, die man in den Chat bots und Assistenten sieht.
VG
welches Fine tuned Model würden Sie empfehlen für das LLM? oder welches haben Sie für den Wein-Bot benutzt? vG
Im Moment die ChatGPT API
Grosse Sprachmodelle?
Bitte nicht 🙏🙏 bleiben wir zumindest bei LLMs 😁
😁