开源网址:https://github.com/eosphoros-ai/DB-GPT
开源网址:https://github.com/eosphoros-ai/DB-GPT-Hub
传统的数据库交互需要用户掌握复杂的SQL语言,或者使用有限的图形界面,这些方式都不够直观和灵活。DB-GPT则允许用户通过自然语言来查询和更新数据库,无需编写任何代码,让更多的人可以快捷方便的去使用数据库。
DB-GPT项目主页:https://github.com/csunny/DB-GPT/blob/main/README.zh.md
DB-GPT使用文档:https://www.yuque.com/eosphoros/dbgpt-docs/kwg1ed88lu5fgawb
视频中的安装文档链接:
DB-GPT部署视频:https://www.bilibili.com/video/BV1mu411Y7ve/vd_source=4fed55ef30f958576f5d0334c74bd1e8
DB-GPT支持大部分LLM在本地环境(6-24GB显存)部署,包含vicuna、chatglm、guanaco、gorilla、falcon和GPT4ALL等系列大模型。同时为降低部署成本,也提供了提供openai key直连GPT的方式,具体教程为https://db-gpt.readthedocs.io/projects/db-gpt-docs-zh-cn/zh_CN/latest/index.html
项目地址在:https://github.com/csunny/DB-GPT/blob/main/README.zh.md
conda create -n dbgpt_env python=3.10
conda activate dbgpt_env
pip install sqlparse python-multipart fschat gitpython auto_gpt_plugin_template langchain sentence-transformers alembic accelerate protobuf==3.19.0 duckdb chardet pymysql chromadb openai charset-normalizer typeguard schedule tomlkit
pip install -U langchain-community
到官网,根据选择提示进行安装:https://pytorch.org
python
import torch
torch.cuda.is_available()
// 返回False,说明是cuda和pytorch的冲突问题,cuda不可用。
// 返回Trues,说明cuda可用。
解决方案:
nvidia-smi获得机器支持最高cuda版本信息,nvcc -V获得当前安装cuda版本信息,到pytorch官网看下cuda和pytorch的版本对应。然后把自己机器上已有的cuda、pytorch删除干净,重装即可。
python dbgpt/app/dbgpt_server.py --port 6006
或者/home/ps/llm/DB-GPT
dbgpt start webserver --port 6006
git lfs install
Exception: model vicuna-13b-v1.5@huggingface(172.17.0.5:6006) start failed, Error parsing message with type 'sentencepiece.ModelProto'
这个好像是模型没有下载好
安装完成后,回答速度较慢。运行大模型框架提示:Current platform is windows, use avx2 as default cpu architecture
cuda没有用上,需要检查cuda框架版本,torch框架版本是否对应
提问报错:RuntimeError: "addmm_impl_cpu_" not implemented for 'Half'
提问报这个错误,可能是cuda没有用上,需要检查cuda框架版本,torch框架版本是否对应
提问报错:AttributeError: ‘charset_normalizer‘ has no attribute ‘md__mypyc‘
从字面理解,可能是程序包遭到破坏、或者是版本不匹配,需要重新安装charset-normalizer。
修复方法:
强制指定charset-normalizer的版本,
pip install --force-reinstall charset-normalizer==3.1.0
或者
pip install charset-normalizer // 重新安装charset-normalizer,有可能是程序包遭到破坏
或者重装全部先决条件依赖包。
积卷神经网络(CNN) 循环神经网络(RNN) 自注意力机制Transformer(的方法)解决了自然语言特征提取的问题