全球主机交流论坛

标题: 快用闲置的大叽叽自己搭建一个自己的ai语言大模型 [打印本页]

作者: 三月七    时间: 2024-3-21 07:49
标题: 快用闲置的大叽叽自己搭建一个自己的ai语言大模型
可以纯CPU运行,速度不慢。即使是7B的模型实测也可以跑。

ollama
https://ollama.com/download/linux

搭配openwebui使用
https://github.com/open-webui/open-webui


在这里下载你想要的模型:
https://ollama.com/library

刚刚试了下未审查的模型,还是很六的


作者: 机长    时间: 2024-3-21 07:58
翻译功能怎么样
作者: icon    时间: 2024-3-21 08:01
大便AI  
作者: xuanruo0710    时间: 2024-3-21 08:10
那么最低需要什么配置呢?
作者: 你号没了    时间: 2024-3-21 08:42
本帖最后由 你号没了 于 2024-3-21 08:44 编辑

笑死了  写代码如何   
作者: zhouktv1    时间: 2024-3-21 08:43
还不如挖矿zeph
作者: liuluoqianqiu    时间: 2024-3-21 08:43
感觉不必,下个智障没必要
作者: 大爷    时间: 2024-3-21 11:14
有没有一键代码
作者: luckmc    时间: 2024-3-21 11:21
整个模型不行。不能上下文
作者: kindlecon    时间: 2024-3-21 11:23
7b普遍都挺蠢的,8x7b效果就很好了,体验跟chatgpt3.5差不多。
作者: 0.0    时间: 2024-3-21 12:33
还行

作者: bigjj    时间: 2024-3-21 12:43
人工智障
作者: @-@    时间: 2024-3-21 12:55
提示: 作者被禁止或删除 内容自动屏蔽
作者: oldj    时间: 2024-3-21 13:00
你不如用cf的免费ai呢也是llama2,有免费额度
作者: Phyton    时间: 2024-3-21 13:04
依托答辩
作者: 3gW7d7jizJS    时间: 2024-3-21 14:41
这种小规模的模型如果不自己微调那毫无意义
作者: 阿铁打    时间: 2024-3-21 14:49
能不能当猫娘




欢迎光临 全球主机交流论坛 (https://91ai.net/) Powered by Discuz! X3.4