这是一个基于 TBAC-VLR1-3B-preview 模型的现代化 AI 作业助手 Web 应用,可以帮助用户上传作业图片并获取 AI 解答。
- 简洁现代的用户界面
- 支持图片拖拽上传
- 实时图片预览
- 自定义模型路径加载
- 格式化的 AI 解答展示
- 响应式设计,适配各种设备
- 自动检测并使用GPU加速(CUDA、MPS)
- 提供硬件加速切换开关 (切换加速状态最好重新启动下程序)
-
确保已安装 Python 3.10 或更高版本
-
克隆或下载本项目
git clone https://github.com/fzd9752/ai-homework-assistant.git
- 安装依赖包
pip install -r requirements.txt
- TBAC-VLR1-3B 官方模型仓库或国内镜像下载模型文件
-
启动 Web 应用
python app.py
-
在浏览器中访问 http://localhost:5678
-
根据需要打开或关闭硬件加速开关
-
点击「加载模型」按钮,在弹出的文件选择器中选择模型所在的文件夹
-
上传作业图片并输入问题
-
点击「提交问题」按钮获取 AI 解答
应用会自动检测并使用可用的硬件加速:
- NVIDIA GPU:自动使用CUDA加速(需安装适当的CUDA驱动和PyTorch CUDA版本)
- Apple Silicon:自动使用MPS(Metal Performance Shaders)加速
- 无可用加速硬件时:使用CPU模式
硬件加速可以显著提高模型的推理速度,尤其对于复杂的数学问题更为明显。
应用提供了方便的加速切换开关:
- 开启状态:使用检测到的最快硬件(CUDA > MPS > CPU)
- 关闭状态:仅使用CPU(在GPU内存不足或需要进行其他高负载任务时有用)
注意:切换加速模式时,如果模型已加载,可能需要重新加载模型才能生效。
├── app.py # Flask 应用主文件
|── TBAC_test.py # TBAC-VLR1-3B-preview 原始测试文件
├── requirements.txt # 项目依赖
├── static/ # 静态资源
│ ├── css/ # 样式文件
│ │ └── style.css # 主样式表
│ ├── js/ # JavaScript 文件
│ │ └── script.js # 前端交互脚本
│ └── uploads/ # 上传图片存储目录
└── templates/ # HTML 模板
└── index.html # 主页模板
- 首次运行时,模型加载可能需要一些时间,请耐心等待
- 当您点击「加载模型」按钮时,系统会打开一个文件夹选择对话框让您选择模型目录
- 应用会自动尝试在所选文件夹中寻找模型文件
- 使用CUDA加速时,请确保安装了兼容的NVIDIA驱动和PyTorch CUDA版本
- 如果遇到GPU内存不足错误,可以尝试关闭硬件加速开关
- 本应用仅供学习和研究使用
- 后端:Flask, PyTorch, Transformers
- 前端:HTML5, CSS3, JavaScript
- AI 模型:TBAC-VLR1-3B-preview