全球主机交流论坛

标题: 我张少涵爱说实话:基于AI的自动回复功能 [打印本页]

作者: 张少涵    时间: 2023-12-22 18:10
标题: 我张少涵爱说实话:基于AI的自动回复功能
我张少涵爱说实话:
1. 接入Chinese-LLaMA-Alpaca-2 7B,8G内存的VDS就能跑起来,速度依赖于CPU性能,一秒有2token,一句话大约需要5-10秒去理解。
2. 定期重启服务,system prompts 加上对话风格和行为准则
3. 让Chinese-LLaMA-Alpaca-2自己给对话打分,满分10分,高于8才使用

先调整system prompts的对话风格和llama.cpp的参数,等调好了放出来共大家给帖子打分用。

下一步准备多拿点MJJ帖子的数据来做LoRA微调,然后做人物画像和对话分析。
切记,不能用来水贴,水贴必被封。
作者: cany    时间: 2023-12-22 18:12
建议用LoRA微调多多学习Loc里的各大抽象人物
作者: koraori    时间: 2023-12-22 18:56
不如手动水,虽然冷的有点不想打字。
作者: 张少涵    时间: 2023-12-22 18:58
koraori 发表于 2023-12-22 18:56
不如手动水,虽然冷的有点不想打字。

外面的雪有一尺厚,要不是因为有暖气,就活活冻死在床上了。今年格外冷!
作者: 董国泰    时间: 2023-12-22 19:01
我董国泰 180°后空翻垂直落地放鞭炮
作者: 三丫的    时间: 2023-12-22 19:07
张少涵 发表于 2023-12-22 18:58
外面的雪有一尺厚,要不是因为有暖气,就活活冻死在床上了。今年格外冷! ...

大佬不是深圳土著么,怎么会有一尺雪
作者: 张少涵    时间: 2023-12-22 19:08
三丫的 发表于 2023-12-22 19:07
大佬不是深圳土著么,怎么会有一尺雪

我TM不是HOH!那个傻逼和我同名了!




欢迎光临 全球主机交流论坛 (https://loc.imgfree.eu.org/) Powered by Discuz! X3.4