[转载搬运] 本地部署ai小说软件 [1+56][百度盘]

15267158147 · 发表于 2024-3-11 19:34:52

1150894368 发表于 2024-3-11 18:09
+ ^2 [8 l8 t0 T: @! a: x4 X# ~请问为什么点了右上角的运行就读取模型啊，无限循环了

你要等他模型读取完成，要等会

15267158147 · 发表于 2024-3-11 19:36:26

1146++ 发表于 2024-3-11 17:51
) I0 S$ Q4 g5 V6 L# n( s转换失败-exit status 1 是怎么回事？

可能网不好，要么内存不够

1150894368 · 发表于 2024-3-11 19:42:51

15267158147 发表于 2024-3-11 19:34# n _+ C! o3 m) f1 Y' G1 D（欢迎访问老王论坛：laowang.vip）
你要等他模型读取完成，要等会

我就是读取好久完成了以后，他叫我点右上角启动。我一点又读取半天，然后读取完了又叫我点右上角，无限循环

15267158147 · 发表于 2024-3-11 19:47:25

1150894368 发表于 2024-3-11 19:42' {6 M: b8 v/ `2 M" X* J（欢迎访问老王论坛：laowang.vip）
我就是读取好久完成了以后，他叫我点右上角启动。我一点又读取半天，然后读取完了又叫我点右上角，无限循 ...

你试试降低配置，可能是你要读取的配置太高了

1146++ · 发表于 2024-3-11 19:50:32

15267158147 发表于 2024-3-11 19:36! z, s4 J- W& B* H+ r（欢迎访问老王论坛：laowang.vip）
可能网不好，要么内存不够

换了网，用了小的模型还是不行

OZR10086 · 发表于 2024-3-11 21:26:04

求qq群，太多问题一下子还问不清

abc8848 · 发表于 2024-3-11 23:25:30

Assistant: 很抱歉，我不能回答这样的问题。作为一名人工智能语言模型，我的任务是提供有用和合适的信息，并且要遵守道德和伦理准则。请问还有其他问题我可以帮忙解答吗？
生成不了

1150894368 · 发表于 2024-3-12 17:04:11

搞定了，请问关了以后，再用就要重新读取一次吗

kenuola · 发表于 2024-3-13 00:30:41

怎么喂语料，试用了一下，AI都是很大程度避开有关性有关的词语和行为动作描述。

Rasputin · 发表于 2024-3-13 06:28:59

你这个2G咋算的，我预留了10G内存8G显存，仅仅在读取模型有几秒都能给我把内存占用满，末了加载完了还报错cuda memory不够，一堆点号点到第三行末尾就自己跳了。 GPU-2G-1B5-world。
没开始加载是5.7/15.7内存，0.2/8.0显存。加载报错时13.4/15.7；1.2/8.0，这还能显存不够吗？我很好奇这个2G哪里来的。
我也是本地加载过不少stable diffusion模型的。有些还真能把我显存撑爆。但是你这不是明显没满吗？何德何能啊。

Rasputin · 发表于 2024-3-13 06:31:53

Rasputin 发表于 2024-3-13 06:281 L1 k0 Y/ Q# a: f) s- w（欢迎访问老王论坛：laowang.vip）
你这个2G咋算的，我预留了10G内存8G显存，仅仅在读取模型有几秒都能给我把内存占用满，末了加载完了还报错c ...

换了第二个就成了。你这个第一个模型有点问题吧。

1787047247 · 发表于 2024-3-13 08:47:04

大佬，我的strategy选择的CUDA，配置选的GPU-6G-7B-world，模型用的Mobius进行转化，再运行转换后的文件就一直显示“切换模型失败 - Failed to fetch”，有时运行其他模型还会显示遇到问题强制重启，我的电脑显卡是3060，i7-10870H CPU，运行内存16GB

mouse1996 · 发表于 2024-3-13 11:27:29

有限制，不能写色情

15267158147 · 发表于 2024-3-13 13:24:26

mouse1996 发表于 2024-3-13 11:27
% A0 l* j. V0 |7 B1 o* }有限制，不能写色情

你要给他提示，多试几次

15267158147 · 发表于 2024-3-13 13:26:27

1787047247 发表于 2024-3-13 08:47
. o6 Q3 G# }/ f" U大佬，我的strategy选择的CUDA，配置选的GPU-6G-7B-world，模型用的Mobius进行转化，再运行转换后的文件就 ...

你切换模型的时候要把它运行关闭，才能接着切换模型，还有下载那个模型，我没有下完整模型，我就下了几个，你切换失败大概率是没有那个模型

15267158147 · 发表于 2024-3-13 13:27:58

Rasputin 发表于 2024-3-13 06:31
* h8 G/ Z* m# c3 u0 y% Z' X换了第二个就成了。你这个第一个模型有点问题吧。

2g是指小模型可以运行，大模型配置肯定要高啊，难道你指望一两面包车开的比跑车快吗

15267158147 · 发表于 2024-3-13 13:35:31

abc8848 发表于 2024-3-11 23:25
) T; C0 \' ]) a7 K' A# l }Assistant: 很抱歉，我不能回答这样的问题。作为一名人工智能语言模型，我的任务是提供有用和合适的信息， ...

你把这段话删了，多试几次

mouse1996 · 发表于 2024-3-13 18:25:36

怎么让他像小说一样写.总是写几十个字就开始乱对话

qilianshan · 发表于 2024-3-13 20:15:39

15267158147 发表于 2024-3-10 12:11
- n. X& F. q- k% o& d& ?如果你的模型加载不出来，你可以看看左上角你的什么比较大，内存，显存还是gpu，然后你可以找到配置，找到 ...

16g内存，转换的时候直接内存拉满，然后转换失败怎么办

xc5566521xc · 发表于 2024-3-14 02:18:38

失效了补下档吧

软件下载区

[Windows] [转载搬运] 本地部署ai小说软件 [1+56][百度盘]

合作

站务管理

获得帮助

关于老王

更多发现