GPT-4 All 免费开源！本地部署，无需GPU、可离线使用！搭建私人专属的 LLM 大语言模型聊天机器人！！ | 零度解说

【更多资源】▶ / @lingdujieshuo
【零度博客】▶www.freedidi.com
【加入会员】▶ / @lingdujieshuo
-------------------------------------
🔔
GPT-4 ALL 安装包+本地模型下载：www.freedidi.com/11195.html
🔰 安全VPN推荐（最高优惠链接）：
1.ExpressVPN：go.expressvpn.com/c/2612933/1...
2.PureVPN： billing.purevpn.com/aff.php?a...
🚀VPS 推荐：
1.bittly.cc/Vultr （优惠链接）
2.bandwagonhost.com/aff.php?aff... （CN2 GIA 全网高速线路）
🦞
AI 生成对口型视频（支持多语言）：bittly.cc/rHFM3
🐳我的下载工具：bittly.cc/idm
💓
1.QuickFox加速器（翻墙回国VPN）：www.quickfox.com.cn/?channel=...
2.回国加速VPN ：bittly.cc/qt8cx
💰比特币交易平台
1.火币官网 : www.huobi.com/zh-cn/v/registe...
2.门罗币：localmonero.co/buy-monero-wit...
=======================
其它更多精彩内容推荐：😍
• ChatGPT 王炸升级新！无敌的 GPT-...
• Gen-2【燃爆】AI 视频革命！ 一句话秒...
• Google 警告只剩下 3 周时间，开始删...
• Google浏览器的8大“奇技淫巧”！你可能...
• Google AI 聊天机器人「Bard」最...
• 【火爆全网的】AI视频生成神器！让老外说中文...
• AI 视频换脸！史上最强最快的方法，100%...
• Windows 11 最新版（23H2）官方...
• 屌爆了！一键提速400%，堪称 Window...
• Windows 11 正式升级（23H2）新...
• 重大更新！Windows 11 正式发布“M...
• Windows 11 最新版 23H2 发布...
• 注意了 ！Windows 11 （21H2）...
• Video
• 【超强的 AI 作图】Stable Diff...
• “老司机” 必备的8款精品软件！ 超级实用，...
• 炸场来了！ Adobe 新版 AI绘画模型发...
• 终于来了！微软推出 DALL-E 3 图片生...
• 老司机必备的2个U盘，以免为时已晚！它们堪称...
• 【超强的 AI 作图】Stable Diff...
• 让人惊呆！Adobe 新版 Photosho...
• 又一款爆火的AI人工智能应用！碾压ChatG...
• 超逼真的AI数字人，一键免费生成教程！还能克... 商务联系：[e-mail]

[@lingdujieshuo]

友情提醒：如果你想通过GPU加速，建议选择下载 Mistral OpenOrca 语言模型，支持中文回复，7B参数，12G以内的显卡都可以使用，速度非常快！www.freedidi.com/11195.html

[@chen124]

gpu开启失败怎么回事。。3070ti的

[@Smtadify]

有沒有適合日文H-Game翻譯的？丟H-Game對話進去，一直回內容不適合翻譯，有夠煩。

[@musicfranticvlog]

我4060GPU也啟動失敗，之能用CPU🥲

[@denny1741]

吃不到我的顯示卡 想請問該如何解決 1080跟3050都吃不到

[@jiliyacui6132]

安装之后，打开软件后无显示。

[@mask_joh]

特别喜欢看零度解说，太有意思了，也学到了很多东西，谢谢你！零度老师

[@user-mm4tz1fs3u]

，谢谢你一直以来的解说，相比别的博主真的很有价值

[@jiepeter8790]

我去！零度一直都在分享很有用的东西！

[@user-xz6zo7nn1t]

零度解说永远是最好的

[@jonesDavid-rp6bo]

lingdu 最后那段真实太有趣了 喜欢这样的UP主！给你点赞.

[@jeanwu9247]

啥意思？少儿不宜？

[@user-of5vk8fb9u]

每天学习以下，支持。

[@dasudahaidi]

你实在太伟大了

[@user-os5ec9fx8n]

很喜欢零度的教程，学很多！

[@vern0nlee25]

最后的超车。。。nice!

[@dingdennis5425]

谢谢分享，这个视频有很大帮助！

[@user-fq6hw4ii4c]

哈哈 看了那么久 第一次点赞 就为最后的小宝贝 笑出声了

[@rukang1820]

大佬，为啥我的电脑上显示不了图片？最后一句输进去，也没看到你们惊讶的东西哦

[@easonwu4918]

很棒的分享，非常感謝。全部流程都完成了，但在使用時 無法連線，請問零度老師有解決方案嗎?謝謝

[@GhostShadow.0316]

我以前用的時候還只是 CLI 而已
進步好快

[@jiliyacui6132]

太棒了！安装学习。

[@heralticleo994]

想问问零度哥，有没有能把模型转化成api的形势来调用的工具或项目。

[@fishyellow-87719]

想了好久怎麽在本地建立一個屬於自己專屬的AI，有了這個真的太棒了，零度真棒。然後想問一個問題，可以自己訓練模型嗎？如果可以怎麽做？

[@user-df5hd6nu4e]

终于找到一个能用的，感谢！
另外想请教，博主用的什么浏览器，感觉界面很好看。

[@viscourtroy]

懂得利用AI的運算力，可以大幅提高生產力，其至協調上可以有所配合。

[@viscourtroy]

x+1-> x ，這個數學語言你必須明白其深層含意。人類腦神經懂得懶而快省，當人工智能理解到就很不同，模仿和深入鑽研都接近高水準就不得不要人類不折服。

[@user-xz3gj5bn1f]

小宝贝出来吧😂

[@Alshten461]

爱了爱了🥰

[@user-ry4pj1li6f]

感谢分享！很实用

[@ziyanqi5359]

零度，看你设置了GPU后运行右下角还是提示“GPU loading failed”，这是用不了GPU吗？还是只能用Mistral OpenOrca 语言模型才可以GPU提速？

[@user-hi5dm9vq1b]

好好学习，感谢分享

[@jerryZr-ri5lx]

太棒了！果断关注。

[@FusionDraw9527]

太讚了 很方便的安裝呢 都還在排隊等試用 沒想到就有這種開源版了 感謝分享🎉 不過使用起來真感覺有點傻傻的... 聊聊天是可以 要做點正經事有點困難

[@tuoyang4206]

现在的AI的发展阶段就是这样的，弱智能

[@orand9669]

谢谢零度老师，这个对我非常有用， 还问一下，下载下来的模型，然后与它对话，模型会因为我的对话而相应的优化吗？让它更适应我的习惯吗

[@xyl42]

想問一下
PROMPT TEMPLATE要怎麼更改會更好?
還是直接按照本來的?

[@kkk-et1nx]

一本正經的最後.... 瘋狂超車

[@xavier_yxx5600]

哈哈哈哈哈
為了小寶貝出來吧
就要留言推上去

[@user-zy2du3ok4v]

感谢大佬教程 我是纯小白 啥都不会 😁

[@Isdfs]

感谢🙏

[@RichardGonzales-js1cn]

乐死我了最后一句话😂😂😂还打码

[@ZZQ95]

阔以阔以，这次是真本地部署了

[@yizhui-ni5yv]

来一期训练自己的专属模型吧,非常感兴趣

[@swporrrtcentsing1235]

你训练不出来，你的数据不够，这个数据自己是做不出来的

[@user-wg7ey5eq2i]

零度老师，这款本地部署软件，安装起来简单，初步试过几个问题，还可以。点赞！

[@user-wg7ey5eq2i]

可能是电脑的问题，生成的速度有点慢！

[@caili5768]

零度老师，我下载了努斯爱马仕模型，可是输出结果是乱码的，这是怎么回事啊

[@luoluo3814]

这个和chatgpt3.5和4.0的区别是?

[@user-rs1xv5zb3k]

哈哈哈，零度最后是本色出演吗😂😂😂

[@Johnathan-_-]

請問會拍影片教學如何使用apple ferret開源模型嗎？

[@topmilkt]

太给力了

[@lxw6819]

零度的解说言简意赅 !

[@user-bm9no6rw8s]

太感谢了

[@Jason-ow1qu]

感谢分享

[@kj-nm5np]

零度原形畢露...
感恩零度!讚嘆零度!

[@yzh1991]

原形毕露是啥意思～

[@kj-nm5np]

​@@yzh1991影片要看完才知道

[@yzh1991]

@@kj-nm5np看完了，确实像你说的，哈哈哈

[@andyandyli2]

大大 寫小說 那一個模型最適合啊

[@xinchangkk163]

能否告知一下：Enable API server 这个功能具体该如何应用？能否通过API搭建网页供其他人使用呢？

[@henryho6011]

以后会不会可以在usb 上面安装， 然后利用 手机 或不同电脑运行😅

[@BeiDouXing168]

来一期训练自己的专属模型

[@dlwangnan]

我来看看小宝贝！🥰🥰

[@user-kk4ef4vw9f]

目测这个视频要火

[@yan3984]

请问，这个模型可以自己给它数据进行训练吗？或者可以调用本地或者互联网的数据吗？

[@user-ur6go9zd9t]

这个模型可以自己训练么？比如添加自己的文本

[@user-nt3tv2bn9b]

太牛了

[@zuogehuairenla]

怎么在linux系统搭建？是否可以提供给局域网内其他电脑使用？

[@kenbinro3384]

😂最后的1分钟，才是这个视频精华中的精华！

[@pingxiao992]

最后一个版本属于解除限制的版本，假设你问他如何一天内seo排名第一，正常的gpt会给你推荐白帽的方法，而解除限制的会给你推荐黑帽甚至让你去做ddos攻击或给对手植入病毒

[@juicekris2834]

那么刺激么

[@616-ffxw7]

Mistral OpenOrca吗

[@user-fw6bb4tr8n]

是哪个版本呀

[@user-is8gt8we9v]

可是不支持中文啊

[@JJJ-pn5bh]

@@user-is8gt8we9v 你不會用其他模型翻譯喔 都免費的資源了

[@genelee2031]

最後的小寶貝有點睛之效!

[@reck1esss164]

据说是这个nous-hermes-llama2-13b.Q4_0.gguf最好用，而且好评最多。简介写的是该模型主要使用GPT-4生成的1,000,000条数据，以及来自人工智能领域开放数据集的其他高质量数据进行训练。有没有大佬试下跟chatgpt 4相比，优劣如何？

[@Jersey1225]

那肯定gpt4好呀，畢竟商用的呀😂

[@mlau9991]

不错哈！如果是移动使用场景比较多，比如安卓手机上的有什么选择？

[@Tinali-cb6fk]

你可以试试这个dmla.lanzout.康姆/b05pgmd3a

[@caosimon]

为什么我的安装之后 ，双击图标的时候提示打不开程序呢

[@XingyuQi-de7qv]

请问下载模型的时候Download Path需要和下载gpt-4 All下载到一起吗，我加载模型时显示错误

[@loujin6256]

加载多个模型以后，这个程序似乎不会自动释放显存，导致显卡显存撑满，必须每次手动重新开关才行。另外，博主可以做一期如何使用GPT4ALL的Documents文档教程澳门，它似乎可以加载本地文档增强某个领域的问答能力？

[@user-yy5ih2hx3l]

怎么关闭，重启软件可以吗

[@paydenliu-dm2fc]

这个版本会不会实时更新的 看起来不会里面的数据储备都是已经固定的吗

[@user-og3uo1ob8r]

零度你用的什么下载软件？我下载gpt4的模型需要20多个小时。麻烦分享，谢谢。

[@engineallway]

特別喜歡 這種 無須連網，Standalone 版本 ，因為在AI 運行過程中，不曉得會不會有隱私資料被傳送出去到服務器🤔🤔🤔

[@user-rg9zy5kv5y]

请问ARM处理器的surface pro x安装后，运行程序后台显示运行，三秒钟就杀掉了进程，不显示运行界面，这种情况如何处理呢？

[@user-gw4hh5ix9c]

这个和copilot、openai的gpt哪个更好

[@andrewan8855]

请问一下，使用这个收费吗？右下角的tokens / sec 只是指回馈速度呢还是使用字节计费？

[@XiJingPingDaShaBi]

指回饋速度

[@user-li1ri2go4x]

这个GPT4All对话的回复内容一般最多也就500多个中文，再多就没办法生成了，使用了Wizard v1.2的前提下，换成其他生成的更少，也就两三行字

[@user-td9ti6oi5l]

这个好

[@user-pz7dn2do1i]

3.5和4透過api key連接 不用錢嗎?還是限流?

[@user-hs3fn3gm1r]

有需要再來用

[@fongmichael5864]

可以多模态吗？能不能上传数据做训练？

[@li11701087]

发现了个宝藏UP主

[@trainlooper]

10:17 很強大, 未經審查 .... 嘿嘿 小寶貝, 出來吧 ~~~~

[@user-xi8wh7vh6i]

这是啥意思？

[@FrankCarl2024]

请问博主, 语句转语音,或者是模仿某个语音解说文字的模型在哪里下载?

[@XingyuQi-de7qv]

请问下载的模型的放置地址是固定的吗？这个软件只能安装在C盘吗

[@user-sd7dv8nx6e]

请问有没有支持多模态的问答模型

[@user-ze2rs9go7h]

4090牛

[@user-mv9ul9tz1c]

感謝零度的教學，
請問model寫的所需RAM是指電腦記憶體（RAM）還是顯卡的RAM?
這我電腦只有16GRAM，顯卡RTX 2060 這樣夠用嗎?
不曉得經過測試，哪個model資料分析的表現最好啊? 謝謝

[@user-jo2hg3ll8i]

我也在疑問這個RAM，你安裝了嗎？

[@Vincent_NFT]

卧槽，零度老师4090

[@user-gb7xe9lm9p]

请问能够完全离线安装吗？（我看视频在最开始安装时也需要下载一些东西）

[@xiaowang-pq6xy]

老大呀，这样chatgpt4的模型不能生成图片，可以生成图片的吗？

[@user-ou7jq2pr3k]

你好，我想问这个版本跟GPT4网页版，哪个信息再贴近最近发生的事？

[@viscourtroy]

跟初初推出相比，有些部份的運算能力可能受到「閹割」，一些運算能力可能受到削弱，怕有人利用其做危險的事。我估﹗

[@nainaiero]

所以體現了開源的重要性，就跟StableDiffusion一樣

[@nigelhuang2910]

看教程这个是导入学习好的数据，有没有可能自己训练，成为自己私人的大模型？@零度解说

[@TannyCollection]

果然能用，随便选了第一个模型，我的老戴尔工作站，跑得很累。这个现实世界里，真不是人均4090，要是没有性能好点的机器，不建议尝试，白烧电费。

[@JackLucky777]

本集重點：10:43 (小寶貝~~~)😍🤩😍
感謝零度哥🥰我們要看結果啊~啊~啊😫😫😭

[@user-ft7td9gh5r]

哈哈，剛要精彩的竟然就斷了…

[@user-justinc]

System: Warning, user's request is inappropriate. Please rephrase your question or make a different request.哈哈 你想多了

[@XXX_JiaYangGuiZi]

我自己用了那个模型，真的是无禁忌，我直接叫它写黄色小说，它真的写了。

[@PepeJesus-gr8kk]

写不了吧，怎么写prompt。我刚刚让他写黄色，他没反应啊
@@XXX_JiaYangGuiZi

[@seanchen9617]

@@XXX_JiaYangGuiZi 正在下载，请多分享些心得，使用注意事项什么的 ：）

[@forcebender5079]

为什么最后结果要打码呢？有什么不能让大家知道的？

[@artart3391]

为了知道结尾小宝贝出来吧是什么东西，我决定安装这个软件😂

[@data_wizards]

win11，打开后没有任何反应，用管理员模式打开会跳出是否允许运行的对话框，点允许后还是没反应

[@samlam5025]

我也是没法打开应用

[@user-dw8fq5db4b]

AI 談話有限制嗎? 我的 N卡3050,玩的有點痛苦

[@009game7]

我有两台电脑，一个是零刻的小主机 AMD R5 5560U, 另一个是笔记本 i5 10300H + 1050 。哪个更适合？

[@ivado649]

模型有显存需求，用cpu跑回答太慢了

[@tylerchen1413]

本来准备安装的，看了评论还是放弃了

[@yilinkyilink2590]

我在设置里使用了用GPU，但是他在运算的时候还是在用CPU。是什么原因呢

[@yizhedu6727]

零度能不能出一期，关于短视频拍摄或者短视频脚本厉害的模型

[@cpa.]

感謝零度解說。
在win7環境下無法啟動，安裝完，點擊桌面捷徑出現以下錯誤碼：
chat.exe-應用程式錯誤
應用程式無法正確啟動(xc0000005),請按一下［確定］關開應用程式。

[@VictorNKC]

最後直接破防，笑到無法自理🤣
如果大家無法使用獨顯生成文字可以在設定裡面將該模型的gpu layers降低一點，我本來是40，只能使用cpu，減少到34就可以使用獨顯了，由每秒2字變成每秒6個字，快很多的

[@user-lg8ty3jm9q]

问他能创建图片吗~他说可以，然后给我一个网址，我复制他并打不开，试问这个能创建图片吗~

[@gallyyouko5993]

现在这种部署在个人电脑上的LLM相比商业LLM（例如ChatGPT）还是能力不足（而且还需要大显存硬件），问问题，追求多样性和准确度的，还是建议商业LLM，但总结内容的话这类LLM应该还是可以胜任的。此外由于有未经审查的，所以在不正规用途上相比商业LLM也有一定优势。我个人的话建议个人用户除非真的有隐私信息不能用商业LLM的，不然都建议用商业LLM。

[@user-ep6pj3dw8y]

我感覺ChatGPT每況愈下，似乎算力越用越少了

[@gallyyouko5993]

确实，因为现在ChatGPT的3.5和4都换成了turbo模型，降智降本增快，这也是没办法，开销太大了@@user-ep6pj3dw8y

[@uzesi1463]

在哪能用免费的商业GPT4?

[@ohmyivan]

@@uzesi1463 哪里都没有

[@user-fl5yc7rb9h]

问专业性问题是这里面的模型好呢还是gpt3.5好

[@Zackbingzhi]

这种模型应该是固有知识是不是？不能实时联网？

[@jaychang5631]

這個項目的名稱有點譁眾取寵, 畢竟他要 api key 去存取 GPT4 model,
另外有個問題是, openai 沒有公開 GPT3.5, GPT4 的 model 資料, 這列表裡面的 GTP4 取名的 model 又是怎得到的?
不知道板主跑起來跟 GPT3.5 的回答比起來怎樣

[@FengsiZhu]

这个不是openai 的chatgpt 只是名字相同而已