【bootcamp问答系统部署】
前言
该项目结合Milvus和BERT来构建问答系统。这旨在提供一种结合人工智能模型的Milvus实现语义相似性匹配的解决方案。
github地址:bootcamp问答系统
具体部署
一、安装Milvus
安装docker和docker-compose
sudo apt-get update && sudo apt-get install -y apt-transport-https ca-certificates curl software-properties-common && curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add - && sudo add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable" && sudo apt-get update && sudo apt-get install -y docker-ce
pip install docker-compose
下载docker-compose.yml
下载milvus-standalone-docker-compose.yml并重名为docker-compose.yml 下载链接
开启Milvus
sudo docker-compose up -d
sudo docker-compose ps #查看容器的状态
运行正常可看到如下状态:
sudo docker-compose down // 停止Milvus
sudo rm -rf volumes // 停止Milvus后删除数据
二、开启MySql
在docker环境下,运行如下命令:
docker run -p 3306:3306 -e MYSQL_ROOT_PASSWORD=123456 -d mysql:5.7
docker ps // 查看docker运行列表
可通过列表查找到mysql的唯一标识号,通过标识号进入mysql镜像查看状态:
docker exec -it [唯一表示号] /bin/bash
mysql -uroot -p
三、运行qa-chatbot-server
运行参数如下图:
添加环境变量:
export Milvus_HOST='127.0.0.1'export Milvus_PORT='19530'export Mysql_HOST='127.0.0.1'
docker下运行
$ docker run -d \
-p 8000:8000 \
-e "MILVUS_HOST=${Milvus_HOST}" \
-e "MILVUS_PORT=${Milvus_PORT}" \
-e "MYSQL_HOST=${Mysql_HOST}" \
milvusbootcamp/qa-chatbot-server:v1
四、运行服务端
从该链接下载中文模型,放置在quick_deploy/server/src/models/路径下
按照参数表修改quick_deploy/server/src/config.py文件
特别地,修改MODEL_PATH地址为我们中文模型的路径:
在导入csv文件时,若为中文问答集,默认的逗号分隔符会导致问题和答案部分逗号对数据集分割的误判,故设置导入的csv文件以分号为分隔符,相应的修改quick_deploy/server/src/opertio ns/load.py中读取csv文件部分为:
另外由于mysql建表编码格式的问题,可能导致后续导入数据出错,修改quick_deploy/server/ src/ mysql_helper.py中创建mysql表部分为:
运行服务端启动程序:
cd server/src
python main.py
打开浏览器,进入127.0.0.1:8000/docs便可利用FastAPI对服务器端提供的接口进行测试
五、运行客户端
命令行输入如下:
# Please modify API_URL to the IP address and port of the server.
$ export API_URL='http://127.0.0.1:8000'
$ docker run -d -p 80:80 \
-e API_URL=${API_URL} \
milvusbootcamp/qa-chatbot-client:v1
在浏览器输入http://127.0.0.1:8000,可得到网页前端。
【bootcamp问答系统部署】相关推荐
- milvus问答系统部署
一.前言 基于centos 操作 该项目结合Milvus和BERT来构建问答系统.这旨在提供一种结合人工智能模型的Milvus实现语义相似性匹配的解决方案. github地址:Milvus问答系统 英 ...
- tipask 3.5问答系统部署说明,超详细命令行部署,挂载iso,可内网使用。
前提环境 基本要求:WEB服务器 : Nginx ,PHP 5.5.9及以上,MySQL 5.0 及以上. PHP扩展要求:OpenSSL PHP 扩展 - PDO PHP 扩展 - Mbstring ...
- 开源开放 | 面向家庭常见疾病的知识图谱(东南大学)
OpenKG地址:http://openkg.cn/dataset/medicalgraph 开放许可协议:CC BY-SA 4.0 (署名相似共享) 贡献者:东南大学(王之畅,罗卓彦,朱启鹏,朱浩嘉 ...
- java计算机毕业设计汽车销售自然语言知识库问答系统源码+系统+数据库+lw文档+mybatis+运行部署
java计算机毕业设计汽车销售自然语言知识库问答系统源码+系统+数据库+lw文档+mybatis+运行部署 java计算机毕业设计汽车销售自然语言知识库问答系统源码+系统+数据库+lw文档+mybat ...
- 搜索推荐系统[10]项目实战系列Z7:FAQ保险问答系统搭建包含训练,优化,部署上线;检索式的问答可应用在搜索引擎,智能音响等智能硬件,政府,金融,银行,电信等领域
搜索推荐系统专栏简介:搜索推荐全流程讲解(召回粗排精排重排混排).系统架构.常见问题.算法项目实战总结.技术细节以及项目实战(含码源) 专栏详细介绍:搜索推荐系统专栏简介:搜索推荐全流程讲解(召回粗排 ...
- flask部署机器学习_如何开发端到端机器学习项目并使用Flask将其部署到Heroku
flask部署机器学习 There's one question I always get asked regarding Data Science: 关于数据科学,我经常被问到一个问题: What ...
- ccentos 7下安装php5.6并使用nginx + php-fpm部署多个不同端口网站
作为一个的勤杂工,近期因公司内部信息化的需求,给新进员工提供基础的知识培训和介绍,也为了给公司内部建立一个沟通交流的平台,百度找了开源的百科系统HDwiki和开源的问答系统Tipask问答系统,蛋痛的 ...
- apache beam_Apache Beam ML模型部署
apache beam This blog post builds on the ideas started in three previous blog posts. 这篇博客文章基于之前 三篇 博 ...
- ML.NET机器学习、API容器化与Azure DevOps实践(四):持续集成与k8s持续部署
通过上文所介绍的内容,我们已经完成了RESTful API的开发,现在,就可以使用Azure DevOps来进行持续集成(CI)和k8s持续部署(CD)了.本文我会对使用Azure DevOps进行C ...
- 知识图谱入门2-1:实践——基于医疗知识图谱的问答系统
注:欢迎关注datawhale:https://datawhale.club/ 系列: 知识图谱入门一:知识图谱介绍 知识图谱入门2-1:实践--基于医疗知识图谱的问答系统 知识图谱入门2-2:用户输 ...
最新文章
- 堆状态分析的利器——valgrind的DHAT
- ES6--那些新加入的数组方法
- SQL in和exists 比较
- python pandas写入_51-python3 pandas读写excel
- 这个机器人不学数据集,“纯玩”get各类家务技能,LeCun觉得很赞
- 我可以在输入字段上使用:before或:after伪元素吗?
- 深度学习(一)神经网络中的池化与反池化原理
- oracle:触发器,自治事务,instead of trigger,trigger
- AJAX框架都有哪些是常用的
- 使用栈完成高级计算器
- ROVIO安装运行及保存轨迹用evo评估
- Android 自定义视频录制终极解决方案(翻转问题)
- C语言malloc与calloc区别
- 禅道配置smtp发信没反应
- 【NOIP模拟赛】【数学真奇妙系列】纸盒子
- WOJ1017-Billiard Ball
- IOS停机卡免流线路下载更新
- MySQL——超详细数据库触发器教程
- GUI图形化界面(后篇)
- 关于eclipse SE版本不支持建立web工程的问题
热门文章
- oracle 模糊查询语法
- 微信爬虫服务器,微信文章爬虫使用教程 - 八爪鱼采集器
- javascript延时调用函数
- 动量梯度下降(Momentum、指数加权平均)、逐参数适应学习率方法(Adagrad、RMSprop、Adam)、学习率退火、归一化/标准化
- GoogleAnalytics文档
- 恩智浦半导体推出近距离非接触式读卡器IC CLRC663
- CorelDRAW X4无法响应卡死解决方法教程
- raw数据拆分成rggb四通道,拆分与合成
- 【微软商店(Microsoft Store)重置后打不开,商店下载不了应用的解决方法】
- Typora 中文字体深度修改