又一神器开源！无需服务器支持！打通手机，浏览器的Web LLM!
大家好，我是千与千寻，大家可以叫我“千寻哥”，之前和大家分享了两篇关于ChatGPT的技术文章，ChatGPT毫无疑问是现在最大的风口，各个行业都在集成ChatGPT的API接口以及各类的应用插件，这么多人的应用，那么肯定就需要保证ChatGPT模型的高可用性，轻量化，以及各个平台之间的“通用性”。但是这几点商用价值的核心，哪有那么容易满足，是啊，不过没关系，今天它来了，由来自CMU Catalyst、UW SAMPL、SJTU、OctoML 和 MLC 社区的成员发起的web LLM项目！
跟大家分享这一神器web LLM与传统的ChatGPT的直接区别在于打破了windows与Linux客户端、手机安卓端与电脑浏览器之间的三个平台的生态区域限制，最重要的亮点是无需厚重的服务器以及GPU显卡来加速模型的运行与训练。
既然说web LLM的轻量化模型打通了web端，安卓手机端，以及windows与Linux系统的三个生态区，看看 web LLM的轻量化模型到底是怎么工作的。
Web端部署应用
它采用了与ChatGPT远程调用模型API接口不同的，将GPT模型加载直接加载到浏览器端，并使用WebGPU进行加速。
下面是这个项目的网址：
https://mlc.ai/web-llm/
我们都知道像ChatGPT这类的自然语言生成大模型他们存在一个共性问题，就是他们需要非常强大的算力以及性能高涨的服务器来支撑他们进行模型推理，而这款开源神器可以将我们的神经网络模型直接部署到浏览器。
用户进行询问消息的时候，浏览器进行提前加载，相当于将浏览器封装成了带有语言模型的客户端。我们在
又一神器开源！无需服务器支持！打通手机，浏览器的Web LLM!相关推荐
- Excel(XLSX/XLS)文件内容导入WEB表单,纯前端无需服务器支持,开源Chrome扩展 v0.0.8，附下载，附github链接(2021/5/8更)
起因 老婆从事的是售后的工作,常年需要把售前工程师和销售的一些实施的数据录入到他们的工作平台上. 最开始我看在眼里,焦虑在心上,我心想,你这完全是人力无价值的搬运工的(excel到网页表单)工作,你们 ...
- 神奇的javaScript实现的无需服务器支持的WIKI [摘]
key words: wiki tiddlyWiki 客户端wiki 今天的主角是 tiddlywiki 这个玩意真不错,N多时候其实说实在的,用服务器并不方便,能有一个放在我自己笔记本硬盘里的wik ...
- 关于安卓手机改装成Web服务器的尝试
前言:之前刚好有部旧手机淘汰了,然后想着与其让它在那积灰,倒不如来发光发热,然后就寻思着能不能把它改成像阿里ECS那样的云服务器 关于安卓手机改装成Web服务器的尝试 手机型号:华为的畅享9 然后,我 ...
- Ventoy - 免格式化！超简单的『多合一』系统启动盘制作神器 (开源免费，多平台支持)...
公众号关注 「奇妙的 Linux 世界」 设为「星标」,每天带你玩转 Linux ! 赚一个亿需要多久?先定下『一个亿』的小目标,万一实现了呢? 简单来说,Ventoy 是一个制作可启动 U 盘的开源 ...
- Portal服务器开源无线,OpenPortalServer开源Portal服务 Web认证服务器 支持华为 H3C 锐捷设备...
OpenPortalServer开源Portal服务 Web认证服务器 支持华为 H3C 锐捷设备 OpenPortal官方交流群 119688084 该软件是基于华为AC/BAS PORTA ...
- 分享一款超多功能工具箱组合微信小程序源码_支持流量主，无需服务器和域名！适合小白
分享一款超多功能工具箱组合微信小程序源码_支持流量主,无需服务器和域名!适合小白操作! 简介: 超多功能工具箱组合微信小程序功能实用性质特别的高,用户还能覆盖的广一些具体功能列表如下: 1.证件照制作 ...
- 分享一款超40款多功能工具箱组合微信小程序源码_支持流量主，聚集市面上大部分功能的小程序，无需服务器和域名！源码拿去！
分享一款超多功能工具箱组合微信小程序源码_支持流量主,无需服务器和域名!适合小白操作! 简介: 超多功能工具箱组合微信小程序功能实用性质特别的高,用户还能覆盖的广一些具体功能列表如下: 1.证件照制作 ...
- 2023最新开源版ChatGPT3.5小程序源码无需服务器搭建+用阿里云函数搭建
正文: 开源版本gpt3.5无需服务器搭建(阿里云函数) 搭建前说明:此教程使用阿里云函数搭建,搜阿里云函数,开通即可 此教程只是函数使用阿里云,数据库什么的不用动,如果你之前有版本上线,直接复制那个 ...
- 高仿微信局域网聊天V5版本-无需服务器实现，支持多线程文件收发和跨平台运行
高仿微信局域网聊天V5版本-无需服务器实现,支持多线程文件收发和跨平台运行 近年来,随着人们对通信技术和网络的需求日益增长,基于局域网的即时通讯软件已经成为了当今社会中不可或缺的一部分.其中,微信是最 ...
最新文章
- java+long.builder_Java LongStream.Builder accept()用法及代码示例
- C++ 虚函数表解析
- php循环输出sql数组吗,在PHP中循环SQL结果 – 没有获得整个数组
- 云计算之路-阿里云上-幸福总是很突然：“黑色1秒”问题解决啦
- java的多态性学习代码
- ESFramework介绍之（16）―― Tcp数据自动发送器ITcpAutoSender
- 手机进程设置多少个最好_安卓手机难逃卡顿宿命？打开4个系统设置，秒变新机般流畅...
- Django中模型类 属性-学习笔记
- ubuntu进入桌面自动启动脚本_在 Ubuntu 下开机自启动自己的 QT 程序而不启动 Ubuntu 的桌面...
- 【clickhouse】clickhouse数据文件目录移动到新目录并建立软连接
- 空降了一位CTO，不到3个月，就被发现是一地鸡毛
- 台达服务器AB和B2系列区别,台达伺服各系列区别
- ESP12F模组-USB转TTL模块-Arduino下载程序
- Echarts 柱状图上方显示数值
- 扑克洗牌java_java扑克牌洗牌发牌问题
- 【小教程】Ubuntu ASF steam自动挂卡
- 第三章作业题3--队列
- 般若波多密心经读书心得（一）
- ng serve 报错： 95% emitting LicenseWebpackPlugin(node:21768) UnhandledPromiseRejectionWarning…
- 备战面试日记（2.4） - （JVM.GC算法）