大模型时代下做科研的思路
总结zhu老师观点
Efficient
1.这篇论文是真的好orz，总结了目前的视频类模型
修改周边的一些参数，来训练，不改基础的模型（太大了。。。没资源没卡）
引申：
- prompt 是你想模型干什么你就给提示（简单来说）
- 什么是tuning呢？ 就是调可能更好 （设计不同效果不一样）
hard prompt：固定的
COOP：soft prompt 自己学 - PEFT
5. mixgen——这篇论文 一个模块 几个任务有涨点就行。
怎么利用好大的模型，这样即使大模型不断发展也关我们没什么事情，因为设计的module 是模型无关的。但是任务要新，没什么人做
参考了b站用户CNcreator的评论：我太懒了直接copy了= =
1.Efficient PEFT 参数的有效使用
- New directions
3.plug and play 做一些通用的模块，能够广泛引用到一些方向中去 目标函数 loss data argumentation 可以应用到各种领域 选很多的baseline 公平对比说明有效性
4.写数据集，分析为主的文章或者综述论文
Fewshot,zeroshot，或者最多就是Fine Tuning的实验，再加上比较新的topic.比如
Causality Learning 因果学习
Feedforward network FFNet
Language In-context learning
Chain of thought prompting(cot)
大模型时代下做科研的思路相关推荐
- 李沐读论文笔记--大模型时代下做科研的四个思路
大模型时代下做科研的四个思路 0. 视频来源: 1. 提高效率(更快更小) 1.1 PEFT介绍(parameter efficient fine tuning) 1.2 作者的方法 1.3 AIM效 ...
- 多模态大模型时代下的文档图像智能分析与处理
多模态大模型时代下的文档图像智能分析与处理 0. 前言 1. 人工智能发展历程 1.1 传统机器学习 1.2 深度学习 1.3 多模态大模型时代 2. CCIG 文档图像智能分析与处理论坛 2.1 文 ...
- 大模型时代下智能文档处理核心技术大揭秘
强烈推荐一个大神的人工智能的教程:http://www.captainai.net/zhanghan 大模型时代下智能文档处理核心技术大揭秘 前言 一张图全览 文档图像分析与预处理 图像预处理的整体 ...
- AIGC大模型时代下，该如何应用高性能计算PC集群打造游戏开发新模式？
ACT | SIM | ETC | FTG | RAC AVG | RPG | FPS | MUG | PUZ ACT.SIM.ETC.FTG.RAC.RTS.STG.AVG.RPG.FPS.MUG. ...
- 大数据时代下的新生态、新洞察、新趋势 | 神策 2019 数据驱动大会
10 月 22 日,以"矩•变"为主题的神策 2019 数据驱动大会在北京维景国际大酒店顺利举行,来自全球大数据各大行业的领袖人物聚首北京,融合国际前沿技术与行业实践,深入探讨大数 ...
- 独家 | Michael I.Jordan：大数据时代下的安全实时决策堆栈与增强学习（视频+精华笔记）
金秋九月,2017国际大数据产业技术创新高峰论坛暨大数据系统软件国家工程实验室第一次会议盛大开幕,大数据系统软件国家工程实验室作为大数据系统软件技术研发与工程化的国家级创新平台,将通过大数据系统软件技 ...
- 爱肤宝医生产品负责人王照陆：大数据时代下的人工智能医疗
嘉宾介绍 王照陆:爱肤宝医生产品负责人.前华为研发工程师,CSDN博客专家,同济大学MBA,负责过医疗智能硬件血压.血糖.体脂等产品设计与数据分析:现负责皮肤医疗大数据产品,从0-1实现皮肤轻问诊预约 ...
- 精华 | 恩墨学院侯圣文：大数据时代下的 DBA 该何去何从？
嘉宾演讲视频 Guest Video 温馨提示: 本视频时长57分02秒,建议在 WIFI 下观看. 第七届数据技术嘉年华于 2017年11月17日-18日在北京丽都皇冠假日酒店胜利召开,全国各地技术 ...
- 大数据时代下的贝叶斯公式
2019独角兽企业重金招聘Python工程师标准>>> 大数据时代下的贝叶斯公式 2016-04-24 数据观 每当有技术热点或新概念出来的时候,人群就会分成三种:炒作的.观望的和踏 ...
最新文章
- linux 忘记密码（以centos6为例）
- Dinic算法----最大流常用算法之一
- Nvidia GPU驱动与CUDA、Ubuntu内核兼容性问题的解决日志
- java web项目初始化启动一个java方法
- 暂无支持此机型的手机版本_miui+app官方版-miui+安卓版 _5577安卓网
- 开发运维日常坑 总结 51-100
- 字节跳动正式offer之前是哪一个环节_不是做梦！她在3天前拿到腾讯、百度、字节跳动的offer！...
- 1.第一本 docker 书 --- 简介
- css3 animation 位置移动了怎么不占位置_手把手整理CSS3知识汇总【思维导图】
- 什么是像素格式（色彩采样、色度抽样）RGB 4:4:4、(Limit)RGB 4:4:4、Ycbcr 4:4:4、Ycbcr 4:2:2、Ycbcr 4:2:0又是什么？
- python十以内加减法_【小学】 生成10以内的加减法
- java输出数组中所有数字排列的集合
- 数据包络分析--SBM模型（第一篇）
- 利用comtypes.client批处理dwg文件（AutoCAD二次开发Python）
- 有趣实用的app分享，强烈推荐
- 什么是防火墙？防火墙基础知识讲解
- Java中同包和不同包类进行相互访问的问题
- 经销商、业务人员和销售提成的三个故事
- 道翰天琼认知智能为您解密：Rust语言杀疯了！前有谷歌高薪争夺 Rust 人才，Facebook再官宣加入Rust基金会 「自2016年以来，Facebook 就已开始使用 Rust，并应用在开发
- Python+WebKit+HTML开发桌面应用程序