【2023新书】《ChatGPT在做什么…以及它为什么好使》
来源:专知
本文为书籍介绍,建议阅读5分钟
沃尔夫勒姆不但讲清楚了GPT的底牌和命门,而且提出了一个可谓惊世骇俗的洞见。
精英日课解读的2023年3月9日刚刚出版的新书《ChatGPT在做什么…以及它为什么好使》(What Is ChatGPT Doing ... and Why Does It Work? ),作者是史蒂芬·沃尔夫勒姆(Stephen Wolfram)他是一个神人,他发明了Mathematics软件,他做了WolframAlpha网站,他搞了一个计算语言叫沃尔夫勒姆语言,他对整个物理学提出了全新的看法。
https://www.wolfram-media.com/products/what-is-chatgpt-doing-and-why-does-it-work/
这本书不是赶时髦,讲的不是GPT的一般功能,而是数学原理和哲学思辨,而数学和哲学是不会过时的。本书得到了OpenAI CEO山姆·奥特曼(Sam Altman)的背书,说是他所见过最好的解释。
沃尔夫勒姆不但讲清楚了GPT的底牌和命门,而且提出了一个可谓惊世骇俗的洞见。
GPT和目前市面上所有的AI,本质上都是神经网络。所以GPT更像人脑,而不是像一般的计算机程序。GPT是一个语言模型,在最本质上,语言模型的功能无非是对文本进行合理的延续,说白了就是预测下一个词该说什么。也正式因为如此,如果让 GPT 做大数字的计算,他会出错。
但是,GPT 却为什么这么好用?奥特曼说,这是上天的眷顾。OpenAI最应该感恩的,是运气。
沃尔夫勒姆讲了GPT的一些特点,其中有三个最幸运的发现——
第一,GPT没有让人类教给它什么「自然语言处理(NLP)」之类的规则。所有语言特征,语法也好语义也好,全是它自己发现的,说白了就是暴力破解。事实证明让神经网络自己发现一切可说和不可说的语言规则,人不插手,是最好的办法。
第二,GPT表现出强烈的「自组织」能力,也就是「涌现」和「思维链」。你不需要人为给它安排什么组织,它自己就能长出各种组织来。
第三,也许是最神奇的一件事情是,GPT用同一个神经网络架构,似乎就能解决表面上相当不同的任务!按理说,画画应该有个画画神经网络,写文章应该有个写文章神经网络,编程应该有个编程神经网络,你得去分别训练——可是事实上,这些事情用同一个神经网络就能做。
GPT的底牌是:它只是一个语言模型,但同时,它很神奇。
GPT的命门是:它是用来思考的,不是用来执行冷酷无情的计算的。
这样说来,虽然GPT比人脑知道的更多、反应更快,但作为神经网络,它并没有在本质上超越人脑。而沃尔夫勒姆有一个洞见:用这么简单的规则组成的神经网络就能很好地模拟人脑的语言系统,这说明人脑的语言系统并不厉害,GPT证明了,语言系统是个简单系统!
沃尔夫勒姆让我们认识到了GPT的根本局限性:神经网络的计算范围是有限的。
Preface
What Is ChatGPT Doing ... and Why Does It Work?
It's Just Adding One Word at a Time
Where Do the Probabilities Come From?
What Is a Model?
Models for Human-Like Tasks
Neural Nets
Machine Learning, and the Training of Neural Nets
The Practice and Lore of Neural Net Training
"Surely a Network That's Big Enough Can Do Anything!"
The Concept of Embeddings
Inside ChatGPT
The Training of ChatGPT
Beyond Basic Training
What Really Lets ChatGPT Work?
Meaning Space and Semantic Laws of Motion
Semantic Grammar and the Power of Computational Language
So ... What Is ChatGPT Doing, and Why Does It Work?
Thanks
Wolfram|Alpha as the Way to Bring Computational Knowledge Superpowers to ChatGPT
ChatGPT and Wolfram|Alpha
A Basic Example
A Few More Examples
The Path Forward
Additional Resources
【2023新书】《ChatGPT在做什么…以及它为什么好使》相关推荐
- ChatGPT 在做什么… 以及它为何发挥作用?最新关于ChatGPT的论文速递
作者:Stephen Wolfram,发表于 2023年2月14日 原文链接:https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-d ...
- 2023 安卓 ChatGPT手机学习版
无须注册 无须登陆 直接使用................ 2023 安卓 ChatGPT手机学习版................
- 亚马逊跨境电商可靠吗?2023年还可以做吗?
新的一年新的打算,不少小伙伴在问,亚马逊跨境电商可靠吗?2023年还可以做亚马逊跨境电商吗?为此我们小编就来简单说说自己的想法吧! 亚马逊跨境电商可靠吗? [回答]:首先我们需要肯定一点的是,亚马逊跨 ...
- 2023最新ChatGPT网站源码+支持ChatGPT4.0+支持Midjourney绘画+用户会员套餐+后台管理+一键更新版本
2023最新ChatGPT网站源码+支持ChatGPT4.0+支持Midjourney绘画+用户会员套餐+后台管理+一键更新版本,支持手机电脑不同布局页面自适应. ChatGPT商用网站源码搭建安装教 ...
- 2023最新ChatGPT商业运营网站源码+支持ChatGPT4.0+新增GPT联网功能+支持ai绘画+实时语音识别输入+用户会员套餐+免费更新版本
2023最新ChatGPT商业运营网站源码+支持ChatGPT4.0+新增GPT联网功能+支持ai绘画+实时语音识别输入+用户会员套餐+免费更新版本 一.AI创作系统 二.系统程序下载 三.系统介绍 ...
- 牛客专访ChatGPT:2023校园招聘如何做?附校招趋势
春招在即,牛客作为新一代数智化校园招聘引领者,为大家采访了当下"顶流ChatGPT",关于近几年校园招聘的变化及2023企业做校招的建议.以下,为"ChatGPT专访&q ...
- 2023年 ChatGPT 研究报告
第一章 行业概况 ChatGPT是由OpenAI 团队研发创造,OpenAI是由创业家埃隆·马斯克.美国创业孵化器Y Combinator总裁阿尔特曼.全球在线支付平台PayPal联合创始人彼得·蒂尔 ...
- 越来越好玩,用ChatGPT+Python 做有声小说!
菜鸟学Python-第623篇原创 现在我们几百人的会员群已经玩的越来越高级了,利用chatgpt花色玩法!有玩百度问一问每天早上6点多起来抢单的,有玩微信机器人帮人部署接单的,也有玩咸鱼去给大学生指 ...
- 2023最新ChatGPT整理的40道Java高级面试题
2023 年最火的就是 ChatGPT 了,很多同事使用他完成一些代码上的智能提示,也有人使用它发了财<「用ChatGPT年入百万!」各博主发布生财之道,网友:答辩搬运工>.<&qu ...
最新文章
- swift -charts框架雷达图
- iOS项目的本地化处理(多国语言)
- 【中文】Joomla1.7扩展介绍之Kunena(强大的论坛)
- 搭建“双11”大型网站架构必须掌握的 5 个核心知识
- 一道数组求连续子集最大值的题目。
- WebAPI(part7)--Tab栏切换案例
- 浅谈Opencl四大模型之Programming Model
- [CTO札记]研究:日本Rakuten(乐天)
- python设置执行服务环境变量_Python执行.sh脚本cataline环境变量配置
- 应用服务器配置测算及计算公式
- 宽带波形测试软件,适用于5G时代的波形测试分析系统是怎样的?
- android psensor测试,MTK camera驱动结构
- Multisim基础 桥式整流二极管电路
- 修改 UITabBar的背景颜色
- 月薪2300深圳流水线女工,逆袭为年薪80万谷歌工程师,又因疫情失业:我绝不轻易认输...
- android之GMS认证
- 全国计算机四级之网络工程师知识点(五)
- React中useMemo的简单使用
- 养牛和养羊相比,用同样的资金,哪个效益会更高一些?
- 网页右下角弹出广告窗口 超简洁