李开复博士,创新工场董事长兼首席执行官,创新工场人工智能工程院院长。2009 年创立创新工场,2016 年秋季创办创新工场人工智能工程院。此前担任过谷歌中国全球副总裁兼大中华区总裁、微软全球副总裁,苹果、SGI 等知名科技企业高管。

李开复在美国哥伦比亚大学取得计算机科学学士学位,以最高荣誉毕业于卡耐基梅隆大学获得博士,获得香港城市大学、卡耐基梅隆大学荣誉博士。李开复出任世界经济论坛人工智能委员会联席主席,获《时代》评选为 2013 影响全球100 位年度人物、2018 亚洲商界领袖奖等殊荣。李开复博士发明过十项美国专利,发表逾百篇专业期刊或会议论文,并出版过十本中文畅销书。

赵九州,腾讯云中小企业产品中心总监,中小企业数字化转型专家,牵头制订了《中国中小企业数字化标准等级认证》,曾创办企业移动化SaaS公司—火速移动,先后获得创新工场、DCM等知名VC的千万美元投资。

1

赵九州再次这样与您交流不禁有些感慨,当时我创办小程序建站SaaS—火速移动时,曾得到过开复老师的投资,至今都非常感谢您的支持与指导。您做了这么多年的投资,尤其在 AI 领域孵化了多家知名独角兽,您能总结一下创新工厂在 AI 领域的投资偏好是怎样的吗?

李开复:在过去大约十年的 AI 投资经历里,我认为 AI 已经不再是初始的状态了,AI 最大的价值一定是与场景的结合

在早期阶段,我们的投资方向是 AI techonology,投资的公司会因为 AI 技术人员比较厉害就先创业,后面再去看做什么应用。

在第二个阶段,我们投资的是 AI for business,AI 可以在某些领域创造很大的价值,很多创业公司都已经拥有非常强的商业应用和落地场景,先靠场景落地再做平台。

更有意思的是,今天 AI 已经进入了第三个阶段—— AI 与其他的科学交叉,也就是AI for science,AI 可以被应用在,比如发明新药、基因编辑、材料学、新能源等领域,这些都是我们最近一两年投资的方向。

我最近的新书《 AI 未来进行式》囊括了上述三种方向,比如在智能交通,无人驾驶就是一个重要的领域,再比如 AI 制药、AI 在新能源方面的应用,都会有所涉及。得益于这些投资经历,我学会了一些跨领域的知识,所以才能够在书中描述多种多样的场景,告诉大家我们做投资看到的新趋势。

2

赵九州:我最近也拜读了您的新书《 AI 未来进行式》,比起之前的作品,这次特别有意思的是将科幻小说和科学分析二合一,编织了10个既天马行空又有科学依据的 AI 预言故事,您当初写这本书以及选择这种形式的契机是什么?

李开复:创作起源主要有两个。

第一,我认为 AI 是一项特别重要的技术,每个人都应该去了解它能创造什么机会,和自己有什么关联。未来 AI 可能带来很多新的工作机会,也会取代一些工作,了解 AI 后,父母可以帮孩子做策划,年轻人可以为自己做职业规划。所以我希望把这本书写得非常科普,让每个人都能读懂,现在有很多老先生、老太太和文科生都觉得这本书挺不错,让他们大概知道 AI 是什么意思。

第二,我多年来是一个理工科的“技术人”,在大学、本科、博士阶段都积极学习,但我深深感受到理工技术人士是欠缺场景想象力的。这也是为什么我开始读书的时候,AI 领域就已经在讨论语音识别、自然语言、计算机视觉、人脸识别,但40年过后,大家还在关注类似的话题。

因此,我这次和科幻小说家陈楸帆的合作,不仅可以把故事描述得很清楚,还能让我们这些做技术的人看到更具想象力的未来,预测新技术会带来哪些挑战,又将如何化解,然后给大家一些灵感和建议。

李开复新书《 AI 未来进行式》(来源:当当)

3

赵九州聊到 AI 的各个细分课题,NLP(自然语言处理)是非常重要的核心之一,开复老师在30多年前就已经投身于 NLP 的研究,在这块的积累非常深。与早期投资的时期相比,NLP 领域近年来发生了哪些深刻的变化?

李开复在我大二的时候,我刚开始接触的第一个 AI 技术就是 NLP 。与早期 NLP 的发展相比,最近几年很多技术正在发扬光大,深度学习是其中的一个重要核心

我们看到一个很大的突破就是自然语言处理的领域正在用自监督学习(Self-Supervised Learning)的技术去做海量数据的标注,也就是把全球所有的文字数据做成一个 foundation AI model,在做的过程中不需要监督,不需要人来做标注,就能组织成适合数据训练的 AI 大脑,解决了自然语言无法消化海量数据的巨大瓶颈。这个模型做出来以后,带来了包括 transformer、GPT3 在内的诸多 NLP 领域的技术突破。

我们最近投资的 AI 企业,就是用自监督学习训练出巨大的模型,在各种比赛中可以打到第一名;然后在使用时把模型缩小,毕竟太大的模型需要很贵的机器,很多创业公司或者学者用不起;最后针对某个应用做 fine-tuning(微调)或迁移学习,例如语音识别、机器翻译,那么每次花几周就能调出模型。

4

赵九州如果从技术创新和应用创新两个维度来看,NLP有哪些值得关注的动向?

李开复我认为 NLP 在未来3-5年应该会有非常多的发展。

一方面是在过去已有的应用实现更多突破,例如语音识别的识别率会变得非常好;出现语音对语音的机器翻译,那么我们出国旅行与外国人讲话时,带上一个耳机就能非常精准地实时翻译。

另一方面是在还没有发生的场景下得到很多尝试,比如语音对话型的终极搜索引擎,未来我们可以根据一个人的搜索词到输入的每一个字,分析出什么广告词会最大地触动 TA 的购买欲望。

NLP 未来的发展,既会把已有的应用从不可用变成可用,从可用变成好用,也会把过去不可能做的应用变成可做,这是我们现在重大的投资方向,也非常看好这个领域。

5

赵九州开复老师是否有投资过 AI 与云计算相结合的技术?在《AI未来进行式》畅想的2024年里,“AI + 云技术”会以什么样的样貌存在?

李开复我们投资的大多数公司都有用到云,其中不少有跟腾讯云等云厂商合作。这些公司很多都是做 B2B 企业服务的,当现在的企业逐渐接受用云来实现部分的服务,尤其是私有云,那么我们就有机会更快速地构建出一个 AI 解决方案,与云平台也有一个非常好的结合。同时,我们也投资了一些帮助云在算力方面加速的项目,当然包括AI,也包括普通的 Workload,我觉得这代表了云的未来会快速提升。

一个很有意思的现象是,中国的AI其实在创业公司、使用率、产生的价值等方面一点都不输美国,虽然美国的科研能力更厉害,但是中国的落地成果并不比美国差。在云技术领域,美国的领先优势较大,但中国的成长空间也非常充足。尽管美国的一整套云技术已经部署得非常成熟,但也是最近才开始尝试加入AI的能力,而中国的云计算已经在做AI的解决方案了。

我在书里没有描述太多AI+云,并不是云不重要,而是云太重要了,在20年以后的场景里,云已经让AI无所不在了。云将成为一个必有的、主流的平台型服务,就像操作系统、数据库一样,无需再刻意强调它的重要性,也只有当云的功能提升了,书里描绘的无人驾驶等场景才能真正实现。

6

赵九州相信新冠疫情是近3年来对全球人民生产生活影响最大的事件。在疫情成为“新常态”的情况下,其实倒逼了医疗行业的数字化革新,同时也将医疗推上了风口浪尖。你认为 AI 与医疗结合的前景如何?

李开复从投资发展的角度来看,10年甚至20年以后,医疗都会是非常好的投资领域

原因之一是传统的医疗行业现在正全方位数字化,包含医疗流程信息化、可穿戴设备记录全程健康数据、以及新技术产生海量生物学数据等带来的大量数据将成为 AI 的“养料”,产生更多创新与发明。

原因之二是目前医疗里还没有普遍形成海量数据的 practice 和 science,那么受过海量数据训练的 AI 就有巨大的机会。我去哈佛医学院聊癌症样本数据时,发现他们每种癌症平均只有10个样本,医疗的数据是用来教学的,而我们的数据是用来教 AI 的,数据量很快就能超越前者。

此外,一个医生读的论文是有限的,了解病人和看病的时间是有限的,及时知晓新药的发明和使用方法等信息也是有限的,那么可以把庞大的医疗知识装在一起的AI就非常适合投入医疗领域。

7

赵九州那么随着 AI 在医疗领域的发展与升级,是否最后给我们看病的会是 AI ?未来我们都有机会活到100岁吗?

李开复如果单从学术角度来看,我们会觉得 AI 可以在医疗领域做得更好,取代医生似乎是理所当然的,但是里面还要考虑利益、道德、法律等问题,所以真正的 AI 诊断仍需要更多的磨合

我认为在诊断方面这样的形式会逐渐被业界和社会所接受:以医生为主,医生担负最终判断的责任,AI 作为助手,针对每一个病人提出想法,建议医生这可能是什么病,建议用什么药,用药概率是多少,因为什么因素不能用这个药等等,以及医生开错药或者忘了问有没有敏感等问题时 AI 可以提醒与预警。

这样的话,在医生的基础之上,AI 只会提高他正确诊断的概率,相信医生也会越来越接受这个工具。尽管如此,今天的医疗诊断主要还是掌控在医生的手里,那么我们从投资角度来说就没有投 AI 诊断的公司。

新药发明相对来说会是一个比较好的投资领域,无论是医学生物出身,还是做 AI 出身,我们的目标都是非常一致的,就是希望能够以最低的成本、最短的时间发明一个最有效的新药。当做 AI 的技术人群与真正的业务方诉求和利益都是一致的,两个领域的人就能合力把事情做好。

基于此,我们投了一些做小分子制药的公司,复杂度更高、人类比较难发明的大分子药机会更大,这些新药的出现能够解决原本几乎无法医治的疑难杂症。

医疗行业背后还有很多在生物学、化学、制药等领域从事临床实验的人员,他们的工作也非常适合用 AI 来完成。AI 的价值并不是取代人力成本,更重要的是机器可以一天24小时、一周7天不间断地做实验,工作起来精准高效,而且不用担心感染问题。

这样的话,新药研发更快了,价钱也降低了,让很多罕见病、不可医的病变得有药可医,人能活得更长久和健康,这是我们可以期待的,也是 AI 能做出的最大且没有争议的贡献

8

赵九州如果把话题拔高一些,您作为 AI 领域的顶尖专家,您是怎么看到 AI 的社会价值,即 AI 对于整个社会而言的意义是什么?AI 会帮人类打造出一个乌托邦,还是打开一个潘多拉魔盒?

李开复:我对 AI 的价值思考采取的是一个比较有建设性的态度。业界对 AI 的负面作用讨论比较多,但我个人认为技术本身是中性的,技术的应用绝大多数也是积极的,当然也需要去处理少数的负面影响。从长远来说,AI 肯定会持续创造巨大的经济价值,可以更精准、便宜、有效地把很多事情做好。

同时,AI 也是一把双刃剑,它可以帮我们省去很多重复性的任务和工作,在这个过程中必然会有一部分人的工作岗位被 AI 所取代。但从正面的角度来看,当这些工作岗位的取代发生时,也必然会创造一些新的工作机会,例如机器人修理、数据科学等,服务业也会因为能够提供 AI 缺少的温度与关怀,工作机会和收入将有所增长。

我认为20年以后会达到一个非常美好的状态,这个状态就是人类会有更多的时间去做只有人类能做的事情,把时间花在个人兴趣和能力上,每个人的工作会更有趣、更满意。

此外,AI 和其他多种技术的成熟会将生产成本降到非常低,材料、人工与制造、能源的成本在未来20年将降低80%或以上,这就有可能把贫穷和饥荒彻底消灭,成为一个重大的人类历史里程碑。虽然实现过程中会遇到很多挑战,但至少从技术层面看是有机会的。

我们今天会看到 AI 应用带来的偏见、隐私保护、信息茧房等问题,我认为一个新科技的推出一定会对社会产生一些冲击,但最后的解决方法都是技术人发明了新的技术来解决了这些负面影响。就像当年电脑刚接入互联网时会有很多病毒,后来也会出现解决这个问题的杀毒软件。在看这篇文章的各位读者,其实就是未来去化解 AI 大部分问题的工作者。

9

赵九州开复老师在著作和其他采访中一直在强调,AI 最大的机会蕴藏在与传统企业的结合中,腾讯云正好也是在利用自身先进的AI技术赋能各行各业,但同时,我们也看到其实“只有不到10%的企业应用了AI技术”。在您看来,应该如何提高AI在传统企业中的渗透率?

李开复:据我观察,国内很多传统企业数字化并没有做得很好,当开始使用 AI 的时候碰到的问题是需要海量的资源和时间先把数据整合好,然后才能进入到 AI 的落地环节。许多传统企业的企业家没有意识到这样的挑战,或是下面的数字化团队没有做好信息同步,最后发现做了很多努力 AI 还是不能起作用。其实数据的储存、整理、分析是最难的部分,一旦做好了,落地 AI 反而是相对较小的问题

还有很多其他的挑战,比如每个行业需求都不一样,没法做到一个平台解决所有行业的问题。我们投资的很多公司目前都还是在做解决方案,从长期来说,我们当然是希望能解决一切问题,但这背后需要很多的时间和技术探索。

整体来说,未来5年国内大部分的 AI 应用还是需要一个解决方案提供商,它可以是云,也可以是垂直的 AI 企业。同时我们仍旧需要继续探索如何能诞生一个更标准化的 AI 能力或者平台,可以覆盖大部分行业场景下的用户需求。

10

赵九州再谈一个更犀利的,开复老师是计算机视觉领域的领军人物,您在新书中也探讨了近几年非常热门的 AI 视觉系统伪造人脸(Deepfake)的话题,对技术人来说,怎么看待 AI 技术的两面性?

李开复Deepfake 确实让人头疼,而且很难解决。未来可能会是“道高一尺,魔高一丈”的状态,你用什么方法识别出 Deepfake,对方就倒过来再做一个骗过你的技术,所以我们作为技术人可能只能针对每个问题见招拆招

有时候解决的方案是用该领域的一些知识把事情做得更好,有些问题则可能需要弯道超车,找一个奇怪的路径去解决,比如说 GAN 本身就有两个神经网络,一个在作假,一个再抓,所以一直都会是一个猫鼠游戏,但这也会带来一些风险,包括社会上 Deepfake 技术生成的虚假视频、音频越来越逼真

Deepfake 技术演示(来源:澎湃新闻)

我是这样假设的:有没有可能我们以后把区块链的技术放到每一台捕捉内容的机器,例如每一个传感器、摄像头、手机里,那么我们就能看到里面所做的任何篡改,从而判断是不是一个 Deepfake。

当然,这个解决方案并不一定是最好的,实践起来非常困难,而且这些问题不是一个政策法令,或者一次杀鸡儆猴就能解决的,但我们也不能因为这项技术的应用有负面效应就彻底放弃,技术发展对一个国家来说是极其重要的,所以说技术人身上的担子是非常重的。

11

赵九州不仅是 Deepfake ,大众对于 AI 的未来抱有不少“顾虑”,包括大数据杀熟、AI 暗藏的性别、种族歧视等已经出现在当今的生活。您认为应该如何兼顾技术发展与科技向善,如何破解 AI 的“傲慢与偏见”?

李开复:这些问题其实已经造成了大部分人对 AI 的看法是负面多于正面,这是很不幸的事情。AI 确实带来了一些问题,但也会随着时间、新技术去化解,包括一些相关法律法规的健全和完善,Web 3.0 把数据还给个人等等方式。这些都是可以探索的方向,而且解决方案并没有我们想象的那么难

第一,隐私保护问题。这里其实有很多隐私计算的算法,比如联邦学习,可以让我们鱼与熊掌兼得:我把医疗数据授权给医院,医院并不是把我的数据直接给别人,而是用整个医院所有病人的数据训练出模型,再把模型传给别人,这样的话就不会产生隐私问题。

第二,大数据与推荐算法问题。目前商业化落地的 AI 算法,很多时候都在最大化我们的停留时长以满足大公司的利益需求,为了吸引我们的眼球,可能会推荐一些不真实的、不好的内容,但又会让人越刷越上瘾。一个有趣的题目是,如何能让一个目标函数去衡量相对长远、比较困难的事情,训练 AI 依然要往千人千面的方向优化,在企业收益和用户个人的需求中找到平衡

第三,偏见问题。这主要来自于数据的不平衡,例如一家大公司不喜欢招女生,可能是因为 AI 的训练数据库里大部分是男生。做 AI 的人应该警惕,做产品之前要确保数据是有合理的覆盖度和平衡度,同时加入一些工具来提醒和校正

第四,可解释性问题,这是相当困难的。因为深度学习如果要充分解释出来就是一个巨大的数学公式,人也看不懂,但是我们一方面可以做一些可解释的机器学习模型,另一方面可以试着对已有的标准模型做可解释,但不要对结果的精确性、细腻度过于吹毛求疵。

最后我想说的是,我们批评 AI 这么多,人难道就会做得更好吗?人会比 AI 更没有偏见吗?其实不然,以色列做过一个实验,法官在午餐之前做出的判决会比午餐之后更苛刻,代表他不爽了以后就不顾工作的公平了。

人的偏见是很严重的,而且人会隐藏、拒绝承认自己的偏见。AI 是一个客观、公平、透明、基于数据的领域,所以我们有更大的希望把 AI 做成一个低偏见的决策者,远远比人的偏见来得低。大家不要因为外部的力量放大一些个别的案例,我有信心,我们会在上面提到的四点上做得比现在好,而且跟人相比做得更好。

* 图片来源:摄图网授权素材、当当图书、澎湃新闻

 END  

栏目统筹 | 赵九州

责任编辑 | 黄绮婷  庄雅捷 张洁

你对 AI 的态度是期待还是害怕?你最期待 AI 如何改变你的生活?欢迎在评论区分享你的看法~点亮“在看”+评论区留言,阿D将在7月6日(周三)下午15:00随机抽取1位粉丝,送出DNSPod定制咖啡杯~

《DNSPod十问》是由腾讯云企业中心推出的一档深度谈话栏目,通过每期向嘉宾提出十个问题,带着广大读者站在产业互联网、科技领域精英的肩膀上,俯瞰各大行业发展趋势和前沿技术革新。

栏目嘉宾的领域在逐渐扩大,从最初的域名圈、站长圈到程序员圈、创业者圈、投资圈。腾讯副总裁丁珂、CSDN董事长蒋涛、Discuz!创始人戴志康、知识星球吴鲁加、腾讯安全学院副院长杨卿等技术大咖和行业领军人物都在这个栏目留下了他们的真知灼见。

《DNSPod十问》在腾讯云生态圈也极具影响力和活跃度。我们在腾讯内部平台——DNSPod公众号、腾讯中小企业服务公众号、腾讯云公众号、腾讯云主机公众号、腾讯云服务器公众号、腾讯云助手、腾讯乐问、腾讯码客圈、腾讯KM平台、腾讯云+社区、腾讯云+大学等平台累计关注度高达数十万,同时我们积极开拓与外部媒体的合作,如腾讯科技、腾讯新闻、新浪微博机构号、CSDN社区技术专栏、知乎机构号、企鹅号、搜狐号、头条号、开源中国技术社区、IT之家、InfoQ社区资讯站点、Twitter机构号、Facebook机构号等媒体阅读总量逾百万。

未来,我们希望这个栏目的影响力会覆盖更加多元的受众,把更多正确的理念对外传递出去。欢迎各位读者在评论区留下你想看到的嘉宾和想问的问题,我们邀请你共同成为《DNSPod十问》栏目的提问者与发声者。

合作联系:

qitinghuang@tencent.com

▼公众号后台获取二维码

加入DNSPod官方用户群

DNSPod十问李开复:为什么我们对AI既期待又害怕?相关推荐

  1. 陆奇李开复余凯谈AI十年机遇,Hinton和LeCun会如何评价?

    李根 发自 Galaxy  量子位 报道 | 公众号 QbitAI 因移动互联网而生的GMIC大会,今年即将迎来第十年. 也迎来了全新时代下的话题:人工智能. 在昨天举行的首场发布会上,长城会董事长文 ...

  2. DNSPod十问百果园焦岳:为什么开水果店是一门高科技生意?

    焦岳,百果园集团常务副总裁.资深合伙人.一米鲜创始人,2016年一米鲜和百果园战略合并,现主抓百果园的运营.营销.创新等核心工作. 主导确立了百果园线上线下一体化战略并落地,在一体化战略第一年百果园线 ...

  3. DNSPod十问梁定安: 工业互联网唤醒制造业的第二个春天

    问答时间:2021年02月18日 嘉宾简介: 梁定安:现任腾讯云智能制造总经理,主要负责企业数字化转型.智能制造.工业互联网等解决方案与产品开发工作.曾任腾讯社交网络事业部技术总监.产品总监,腾讯公司 ...

  4. DNSPod十问花生壳陈宇晔:远程办公领域的下一个“独角兽”?

    问答时间:2020年12月2日 嘉宾简介: 陈宇晔:国内知名远程协作SaaS解决方案服务商-上海贝锐信息科技股份有限公司(以下简称:贝锐科技)创始人兼CEO,贝锐科技曾先后推出橄榄邮.花生壳内网穿透. ...

  5. DNSPod十问深创投刘辉:产业互联网是烧钱做慈善吗?

    刘辉博士,深创投产业互联网投资中心执行董事,高级研究员,集团投委会专业委员,专注2B数字科技/工业与能源互联网投资与研究.投资案例包括德风科技(电力能源工业互联网).高灯科技(财税数字化).微吼企业直 ...

  6. DNSPod十问巩书凯:制造业小工厂上云是个伪需求吗?

    问答时间:2021年8月18日 嘉宾简介: 巩书凯,重庆忽米网络科技有限公司CEO,任天津市政协委员.天津市红桥区团委副书记.红桥区人大代表.入选创业邦"2017年30位30岁以下创业新贵& ...

  7. DNSPod十问国泰航空郑悦:数字化如何让航司冲上云霄?

    问答时间:2021年6月7日 嘉宾简介:郑悦,国泰航空大湾区负责人.毕业于英国伦敦大学学院,获国际公共政策硕士学位.曾担任APEC 亚太经合组织峰会中国青年代表.TED x 讲者.CCTV希望之星英语 ...

  8. DNSPod十问辛恒:如何让1万名保洁阿姨学会在线接单?

    伊年初始,元宵佳节! 我想大家都希望在干净整洁的家里迎接2021年的好运吧,家政服务预订这个时候也自然迎来"高峰期",但事实上预约难已经不仅限于节日前后了,优质的家政服务在平日也需 ...

  9. DNSPod十问腾讯副总裁丁珂:腾讯在守护谁的安全底线?

    问答时间:2020年9月10日 嘉宾简介: 丁珂:腾讯副总裁,腾讯安全负责人,国内著名安全专家,2003年加入腾讯.曾任腾讯九大业务部门第一负责人,是手机QQ&Qzone.浏览器.应用宝.腾讯 ...

最新文章

  1. 开源APM监控Pinpoint的快速部署和使用
  2. DNS同时占用UDP和TCP端口53——传输数据超过512时候用tcp,DNS服务器可以配置仅支持UDP查询包...
  3. FlexPaper不能跨服务器加载远程文件解决办法
  4. DevOps之持续集成SonarQube代码质量扫描
  5. excel亮灯怎么设置_Excel表格技巧—怎么给表格设置密码
  6. jeecg getParameter
  7. PowerShell实现“机器人定时在企业微信群中发送消息”功能(下)
  8. 【技术分享】BurpSuite 代理设置的小技巧
  9. Android性能优化系列---管理你的app内存(一)
  10. 《Git与Github使用笔记》分享3款Git可视化工具
  11. 河南计算机对口升学题,河南省计算机对口升学专基模拟试题(四)[1]
  12. 常用开关稳压电源(LM2596、MC3406)
  13. panabit安装和默认密码
  14. 梦想,因坚持而绽放——答大学生的兴趣与行动
  15. 案例实战|泰坦尼克号船员获救预测(数据预处理部分)
  16. 温柔末世,慢慢到来的末日
  17. matlab怎么读txt文件字符串,Matlab中读取txt文件的几种方法
  18. 2018年我跑去做淘宝了(续篇)
  19. JAVA软件技术人力外派外包费用怎么算?
  20. 魔百盒之小型家庭NAS

热门文章

  1. 中国地区三级联动菜单(纯js制作)
  2. MAX SDK之插件概述(一)
  3. 2017计算机会考知识点总结,【2017年整理】信息技术会考操作题知识点汇总.doc
  4. PS 蒙版实现图片融合
  5. yolov3实战 超简单上手 飞机与油桶数据集
  6. 微信小程序——文本居中的方法
  7. 实战U盘安装苹果系统 半小时轻松搞定
  8. 春节过后不想打工了想自己创业
  9. “中央处理器(CPU)”学习提纲
  10. 梅花雨做的一个日历 Javascript 页面脚本控件