Tự tạo chatbot AI hỏi đáp trên dữ liệu của chính bạn: NVIDIA Chat With RTX, hoàn toàn miễn phí
Vložit
- čas přidán 6. 09. 2024
- Chat With RTX là một công cụ đơn giản của NVIDIA để giúp bạn sử dụng mô hình AI LLM trả lời lại câu hỏi của bạn. Điểm đặc biệt là Chat With RTX có thể sử dụng cơ chế RAG (Retrieval Augmented Generation) để tìm kiếm dữ liệu trong các file Word, PDF và TXT do bạn chỉ định, chứ không chỉ phăng đại từ dữ liệu mà nó được huấn luyện. Nên tính ứng dụng nhiều lắm.
Tải về NVIDIA Chat With RTX ở đây: www.nvidia.com...
Tải app LightSum: tóm tắt thông tin công nghệ lightsum.app
Tham gia membership CZcams để ủng hộ mình: / @duyluandethuong
Anh em có thể theo dõi mình tại:
- Facebook: / duyluandethuong
- TikTok: / duyluandethuong
Tham gia group Cùng chơi Công nghệ để hỏi đáp, chia sẻ kinh nghiệm về công nghệ, smarthome, điện gia dụng:
- Facebook: / cungchoicongnghe
Mấy món đồ mình đang dùng có thể mua tại duyluandethuon....
Quá hay a Luân ơi, e đang dùng rtx 4000
Xin hỏi dung lượjng VRAM trên RTX có tương ứng với số lượng tham số mà model có thể chạy hay không ? Ví dụ 8 Gb VRAM tương ứng với 7B, 16Gb VRAM tương ứng với 13B, 128 Gb VRAM tương ứng với 128 B tỷ tham số của model ? Xin cám ơn
Xin hỏi làm sao để thêm AI model trên HuggingFace vào Chat with RTX ngoài 2 model sẵn có? Xin cám ơn
Hi Duy Luân ! Bạn có thể chia sẽ cho mình cách tạo icon FB link rút gọn giống như phần mô tả video của bạn không ? cám ơn Bạn rất nhiều ! 🙂
nhiều khi lại cần con này để tra tài liệu hơn chatgpt
Hay quá anh ơi
Mình xài langchain, chroma db & openai tự làm RAG, khá nhanh và dễ, ko cần tới máy mạnh. Chỉ cần có tiền trả openai là đc 😂
Mình cũng tự làm :)))
@@duyluandethuong từ hồi có langchain làm dễ hơn hẳn luôn :D
@@duythanh90 công nậhn, đỡ cực hơn biết bao nhiu
@trungdoan205 được bạn
Bạn có hướng dẫn ko ạ?
Cho hỏi Luân dùng app gì để vẽ sơ đồ vậy. Thanks
Lark nha bạn
Cảm ơn a
đúng là cty nghìn tỉ $, doanh số bán hàng to the moon luôn
anh đang dùng laptop gì thế ạ
Không biết là em muốn tạo con chatbot mà em huấn luyện bằng dataset của em tải trong Account Center từ Download your information trong Your information and permissions của Facebook được không nhỉ
Được, download xong bạn tìm cách chuyển thành file pdf là xong
kéo 35Gb về rồi tự nhiên bảo không hỗ trợ card hiện tại, dù GTX 1660.
nó yêu cầu cấu hình nnay mà
NVIDIA GeForce™ RTX 30 or 40 Series GPU or NVIDIA RTX™ Ampere or Ada Generation GPU with at least 8GB of VRAM
anh quay màn hình và edit bằng gì vậy dạ anh
Cài đặt được trên iPad Pro m2 không bạn.
Chào bạn Luân! Nếu file (pdf, doc) chứa văn bản được gõ bởi font chữ VNI thì nó có hiểu được không? Hay chỉ là unicode thôi?
Mình không rõ, mình đoán là không được
@@duyluandethuong Cảm ơn bạn Luân nhé! Có lẽ những startup người Việt nên tạo ra những con ChatGPT đặc thù, ví dụ như hiểu hết văn ở bất kỳ kiểu chữ nào...
RAG có giải pháp trên linux không Luân ?
Macbook có dùng đc ko b
Nếu em có máy xịn thì em biến con này thành người bạn của em luôn.
Cái này có thể đọc được dữ liệu từ file pdf scan không nhỉ, hay chỉ những pdf text biên tập chỉnh chu mới được?
theo mình hiểu thì nếu cần lấy dữ liệu text thì cần pre-processing trước để lấy text hoặc nếu pdf dạng ảnh thì phải ocr để lấy text. Xong thì mới embedding đống text đó và đẩy vào db thì mới có thể query đc
Pdf scan không được nha bạn
GTX 1650 cài được không anh ?
Nếu dữ liệu của mình có thêm tập tin mới hoặc thay đổi nội dung trong vài tập tin thì làm sao cho con chat bot đó chỉ cập nhật thêm dữ liệu mới?
Bạn nhấn nút Refresh dataset trên giao diện nha
Lấy dữ liệu từ web được không anh ?
đúng là mới demo lỗi còn nhiều có khi mở mấy trình duyệt khác vào lại thì nó văng ra
Đấy, AI nó phải như thế này, chứ Samsung S24 trang bị AI cũng chỉ để làm màu
💕💕💕
Yêu cầu phần cứng: NVIDIA GeForce RTX 30 Series GPU trở lên với ít nhất 8GB VRAM, mình check giá toàn vài chục củ
Cái gì vài chục củ vậy bạn ? Mình check trên gearvn có con RTX 3050 8GB có 6 củ.
Có chỉnh được đầu ra là tiếng Việt không bạn?
Hiện koncos nhen
Cảm ơn bạn
RTX A4500 16GB có chạy được NVIDIA Chat With RTX không bạn ?
Ampere không ta? Mình không nhớ kiến trúc, ampera thì được đó bạn
@@duyluandethuong Chat with RTX có hỏi đáp trên file lớn 1 GB không ? Xin cám ơn.
Video này hình như âm thanh không được tốt lắm
Đúng rồi, mình đang test mấy cái micro cho vụ quay màn hình, này chưa ngon lắm
chưa dùng được trên MacOs đúng k anh ơi?
Vcl rtx thì trên mac chạy bằng niềm tin.
từ đầu đã có điều kiện là phải có VGA NVDIA RTX3000 series + 8GB VRAM trở lên rồi mà bro 😂😂
cho e hỏi app lưu đồ phút 10:02 là app gì v ạ
Lark nha bạn
Công ty bảo hiểm tới công chuyện với tui