smalltong02 最近的时间轴更新
smalltong02's repos on GitHub
25 人关注
7-Zip-zstd
7-Zip with support for Brotli, Fast-LZMA2, Lizard, LZ4, LZ5 and Zstandard
2 人关注
docker-llama2-chat
Play LLaMA2 (official / 中文版 / INT4 / llama2.cpp) Together! ONLY 3 STEPS! ( non GPU / 5GB vRAM / 8~14GB vRAM)
0 人关注
adaptnlp
An easy to use Natural Language Processing library and framework for predicting, training, fine-tuning, and serving up state-of-the-art NLP models.
0 人关注
aifs
Local semantic search. Stupidly simple.
0 人关注
Anima
33B Chinese LLM, DPO QLORA, 100K context, AirLLM 70B inference with single 4GB GPU
0 人关注
autogen
Enable Next-Gen Large Language Model Applications. Join our Discord: https://discord.gg/pAbnFJrkgZ
0 人关注
AutoGPTQ
An easy-to-use LLMs quantization package with user-friendly apis, based on GPTQ algorithm.
0 人关注
awesome-chatgpt-prompts
This repo includes ChatGPT prompt curation to use ChatGPT better.
0 人关注
awesome-flutter
An awesome list that curates the best Flutter libraries, tools, tutorials, articles and more.
0 人关注
axolotl
Go ahead and axolotl questions
0 人关注
Bert-VITS2
vits2 backbone with multilingual-bert
0 人关注
blog
Public repo for HF blog posts
0 人关注
byzer-llm
Easy, fast, and cheap pretrain,finetune, serving for everyone
0 人关注
candle
Minimalist ML framework for Rust
0 人关注
cargo-mobile2
Rust on mobile made easy!
0 人关注
ChatGLM-6B
ChatGLM-6B: An Open Bilingual Dialogue Language Model | 开源双语对话语言模型
0 人关注
ChatGLM2-6B
ChatGLM2-6B: An Open Bilingual Chat LLM | 开源双语对话语言模型
0 人关注
ChatGPT-Next-Web
A cross-platform ChatGPT/Gemini UI (Web / PWA / Linux / Win / MacOS). 一键拥有你自己的跨平台 ChatGPT/Gemini 应用。
0 人关注
chatgpt-on-wechat
Wechat robot based on ChatGPT, which using OpenAI api and itchat library. 使用大模型搭建微信聊天机器人,基于 GPT3.5/GPT4.0/Claude/文心一言/讯飞星火/通义千问/LinkAI,支持个人微信、公众号、企业微信、飞书部署,能处理文本、语音和图片,访问操作系统和互联网,支持基于知识库定制专属机器人。
0 人关注
chatgpt-prompts-chinese
极好的ChatGPT中文提示命令,对标awesome-chatgpt-prompts,命令包含awesome-chatgpt-prompts的中文翻译版(不定期翻译更新和优化,命令为英文命令后加zh),以及部分精选的独创中文命令。
0 人关注
ChatTTS
ChatTTS is a generative speech model for daily dialogue.
0 人关注
chinese-dos-games
🎮 Chinese DOS games collections.
0 人关注
codellama
Inference code for CodeLlama models
0 人关注
CogVLM
a state-of-the-art-level open visual language model | 多模态预训练模型
0 人关注
ColossalAI
Making large AI models cheaper, faster and more accessible
0 人关注
corenet
CoreNet: A library for training deep neural networks
0 人关注
Cronos-Rootkit
Cronos is Windows 10/11 x64 ring 0 rootkit. Cronos is able to hide processes, protect and elevate them with token manipulation.
0 人关注
Detect-It-Easy
Program for determining types of files for Windows, Linux and MacOS.
0 人关注
dify
Dify is an open-source LLM app development platform. Dify's intuitive interface combines AI workflow, RAG pipeline, agent capabilities, model management, observability features and more, letting you quickly go from prototype to production.
0 人关注
edge-tts
Use Microsoft Edge's online text-to-speech service from Python WITHOUT needing Microsoft Edge or Windows or an API key
smalltong02

smalltong02

V2EX 第 673310 号会员,加入于 2024-01-25 23:55:22 +08:00
7 S 98 B
I like windows kernel, llvm, machine learning and deep learning
smalltong02 最近回复了
171 天前
回复了 smalltong02 创建的主题 程序员 对 Qwen 2 模型代理能力的完整测试
@wwvvance
我使用我自己的开源项目支持的 Qwen 函数调用: https://github.com/smalltong02/keras-llm-robot
171 天前
回复了 smalltong02 创建的主题 程序员 对 Qwen 2 模型代理能力的完整测试
@wwvvance

对于原生支持 Function Call 的模型,比如 OpenAI ,Gemini 和 Kimi 等,我都使用它们提供的接口来进行函数调用。对于不支持函数调用的模型,我使用预置的提示词技术来实现的函数调用功能。Baidu 和 Qwen 的模型原生是支持这个功能的,但是因为需要安装其它的库有点冲突,所以暂时把它们当成不支持来对待的。
174 天前
回复了 panlatent 创建的主题 分享创造 来推荐推荐自己的开源项目和经验吧
[Keras-llm-robot]( https://github.com/smalltong02/keras-llm-robot) 是一个基于 Langchain 的大语言模型项目,支持各种外部工具的调用,比较偏向于模型的 C 端落地项目,工具包括:代码解释器,知识库,搜索引擎,函数调用和工具箱,可惜同类产品太多,一直不火。
180 天前
回复了 smalltong02 创建的主题 程序员 对 Qwen 2 模型代理能力的完整测试
@kneo

不知道您的测试主要关注哪方面,方便共享吗?我也可以合并到我的测试集中,并在本机上尝试一下。
180 天前
回复了 smalltong02 创建的主题 程序员 对 Qwen 2 模型代理能力的完整测试
@kenvix

您可以再尝试调整一下 Prompt ,看看效果是否会好一些。实在不行就整理数据并做微调吧。
180 天前
回复了 smalltong02 创建的主题 程序员 对 Qwen 2 模型代理能力的完整测试
@mightybruce

您要自己测试的话,需要在 Google Cloud Platform 上注册自己的账号,并且生成 OAuth 2.0 的凭证,下载 Json 格式的 Token 之后再导入到 WebUI 中就可以使用了。
180 天前
回复了 smalltong02 创建的主题 程序员 对 Qwen 2 模型代理能力的完整测试
@crackidz

是的,毕竟各家的大模型,训练数据还是不一样的,训练的侧重点也有区别。
180 天前
回复了 smalltong02 创建的主题 程序员 对 Qwen 2 模型代理能力的完整测试
@Znemo

可能您在测试的时候,侧重于逻辑推理和语言生成方面。我的测试更注重的是和各种工具配合使用,测试方向不太一样就会有不一样的效果。
180 天前
回复了 smalltong02 创建的主题 程序员 对 Qwen 2 模型代理能力的完整测试
@yankebupt

条件有限,手上只有一块 4090 ,70B 的跑起来太慢啦。速度快是因为使用了 2 倍的播放速度,Youtube 上视频太长太拖拉就没人看啦。
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   963 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 20ms · UTC 20:43 · PVG 04:43 · LAX 12:43 · JFK 15:43
Developed with CodeLauncher
♥ Do have faith in what you're doing.