您当前的位置: 白鹿网 -> 财经频道

魔改GPT自动写网文:一秒十字不带停,还能给太监作品无限续更

发布时间:2021-11-06 19:26   来源:IT之家   阅读量:12282   

如果一个人只看网文,他会写什么样的文字看了100G网的文章,这个AI模型帮你试了一下

魔改GPT自动写网文:一秒十字不带停,还能给太监作品无限续更

让我们从自由创作:开始。

乍一看非常好吃,而且基本上是第二次交叉甚至更快,很神奇。

然后,让我们在经典网文故事高潮前播放一段内容,让AI写手帮你继续。

嗯.又不是三十年河东,三十年河西,不欺负年轻人入贫,这没意思!

这就是AI—Writer:的模型,开发者亲切地称之为智力低下的人工写作,由GPT魔改而成。

一秒钟的交叉,无限的书写

这个模型有100M参数,基于100G在线小说训练,没有任何其他素材。

但幸运的是,有无数本书可以读,同样的句子从:开始。

您可以生成具有不同样式和不同方向的多个线段:

也可以自定义每次生成的字数,比如每次生成200字。

理论上,单词可以无限生成,但时间长了,就会陷入重复某个单词或某个片段的怪圈。

文本生成速度受加速模式影响。目前支持N卡,A卡,I卡和GPU加速,可以选择最适合自己设备的模式:

和开头展示的动画一样,生成速度甚至超过一秒交叉,这就是GPU加速的效果。

如果你觉得AI写作有点过于自我释放,也可以设置生成文字的随机性。

要在这里解释字符生成的随机性,就必须说说AI—Writer采用的一种特殊的采样方法:

在这一段的开头

将Top—P设置为0.995,根据输出的概率分布几乎完全采样,增强书写的变化。

对于其他位置

先找出概率最高的词的概率p,然后去掉所有概率小于0.02P2的词。

这样,模型生成的每个词都是概率分布因此,上述词生成的随机性就是小概率词在词生成中被忽略的程度

当值分别为0.01,0.1和0.9时,可以比较生成效果:

当然,因为这是一个只有1亿参数的小模型,逻辑和阅读理解能力都比较低。

用开发商的话来说,就是那是纯粹的智障,纯粹的娱乐。

模型可以直接试用。

在环境配置方面,开发者表示如果采用C AVX2编写的纯CPU版本,就不需要Python和Python,2014年以后的所有CPU都可以成功运行。

上面演示的动画在Python3.8和Pytorch1.10中演示

配置好环境后,下载模型和release文件,在模型文件中创建新的模型文件夹,并解压模型目录中的Release文件。

此时可以运行python run.py,在终端快速生成文本:

文字一直可以自由生成,Ctrl C可以停止。

当然,因为运行在2.3 GHz双核英特尔酷睿i5的Mac上,没有达到10字/秒的生成速度。

您也可以在网页上尝试它,运行python server.py,并在下载模型的web—client文件夹中打开index.html。

然后可以打开网页,直接在对话框中输入开头,点击按钮继续写:

下载链接:

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

推荐