本项目基于多模态信息融合的思想,打造了一款具有症状分析、智能舌诊功能的体质分析与膳食推荐微信小程序。
项目的开发主要分为以下四个模块:
-
数据获取与预处理模块
主要用到的技术是网络爬虫,使用Python对网上的舌象图片爬取并下载到本地,之后删除掉一些冗余的图片,建立起初步的数据集并做好每张图片的数据标注。
-
算法开发模块
利用OpenCV进行图片分割、去除噪声,并且利用imgaug进行数据增广扩充数据集。舌象分类采用PyTorch框架进行开发,选择ResNet50构建模型。
-
后端部署模块
使用Gunicorn+Flask+阿里云服务器部署,将舌象分类模型与症状匹配模块信息融合后综合部署。
-
微信小程序模块
依托WXML、WXSS、JavaScript和众多开源的微信小程序组件,构建并提供一个界面精美,交互友好的小程序给用户。