作者 | Pranay Dave
CDA 数据分析师原创作品,转载需授权

毫无疑问,Kaggle是非常适合学习数据科学的平台。许多数据科学家在Kaggle上投入了大量时间。

但同时,你不应该只依靠Kaggle来学习数据科学技能。

以下就是当中的原因:

1.数据科学不仅仅是预测

Kaggle主要针对预测相关的问题。然而许多现实问题是与预测无关的。

例如,许多公司都想知道用户流失的最常见途径。这些类型的问题需要了解不同的数据类型和用户接触点,例如web导航、计费、客服中心交互、商店访问等问题。同时还需要识别重要事件,例如超额计费或导航错误。在确定所有事件后,你需要应用路径算法来了解导致用户流失的常见路径。解决这类问题不能仅靠预测算法,而需要能够根据事件构建时间线的算法。

同样,解决许多其他问题也需要预测之外的技能。能够解决预测性问题是很强大的,但作为数据科学家你需要解决多种类型的问题。现实情况中有更多类型的问题需要解决,因此你不能仅局限于Kaggle,还需要用其他技能解决现实的数据科学挑战。

2.无法提高图算法方面的技能

社交网络分析、影响预测、社区分析、欺诈网络分析等,这些有趣的分析问题都是数据科学家需要解决。解决这类问题需要有关图形算法的知识,如Pagerank、Modularity、ShortestPath、EigenVectorCentrality等等。

网络或社区类型问题在Kaggle中很少见。解决图形和网络方面问题需要节点和链接相关数据,而Kaggle中大多数数据并不是这种形式的。

当然,你可以将问题转换为使用图算法,但这种情况很少。Kaggle上缺少这类的比赛,这也表明了于数据科学家日常需要解决问题的巨大差距。

3.无法提高算法可解释性

算法的可解释性越来越重要。你可以使用高大上的方法和最复杂的算法,但如果无法解释算法是怎样得到预测的,在企业中这将是一个大问题。这种说不清缘由的算法被称为“黑匣子”算法。

使用黑盒算法存在一定的隐患,而且也可能造成法律方面的问题。假设,你开发了一种非常精确的算法集合来预测信用风险。在投入生产时,它将用于预测信贷风险。其中有些人的信用得分会很低,被拒绝贷款的人有权知道他们申请被拒的原因。如果算法无法提供解释,则可能会产生法律问题。

在Kaggle比赛中,获胜者是基于准确性,而不是基于可解释性。这意味着比赛中数据科学家可以使用复杂的算法来保证高准确性,而不必关心可解释性。这种方法能够赢得比赛,但在企业的数据科学项目中就行不通了。

4.缺少投资回报率的分析环节

公司正在加大数据科学技能方面的投入。他们希望数据科学项目能够提供投资回报率。通常,成功的分析项目需要数据科学算法与投资回报率紧密相关。

其中一个例子是预测性维护,其中能够对设备故障进行预测。假设设备的故障率为10%,那么你需要派维护人员去进行检查吗?可能并不需要。但如果故障率为95%,那是肯定需要的。

然而在实际情况中,故障率通常为55%,63%等,这时就不确定了。如果公司派维护人员检查所有这些设备,则可能产生巨大的成本。如果不派人检查,则会有很大的设备故障风险。

那么故障率的阈值应该是多少呢?这时就需要计算投资回报率了。因此非常需要数据科学家给出当中的阈值,从而帮助公司确定相关决策。

Kaggle并不涉及这方面的分析,而只专注预测,并不考虑如何把数据科学结果应用于投资回报率。

5.不会涉及到模拟和优化问题

关于模拟和优化算法,比如系统动态仿真、基于代理模拟或蒙特卡罗模拟等应该是所有数据科学家的必备技能。金融优化、路线优化、定价等许多问题都是数据科学家需要解决的问题。

以价格预测为例,你可以使用机器学习,根据季节、日期、地点、竞争对手价格等数据来预测产品价格。但机器学习算法预测的价格是否是最优价格?也许不是。为了确定最优价格,你首先要确定优化目标。

优化目标可以设为利润优化。在这种情况下,你需要确定提供最佳利润的价格范围。为了留住用户,这样的价格不能设太高。同时,为了保持良好的利润率,也不应该太低。

因此,你需要通过优化算法来确定最佳价格范围。如果预测价格在价格范围内,那么机器学习的结果是可以接受的,否则应被拒绝。

在Kaggle上,通常不会给出利润优化等优化目标。因此,当中涉及的问题仍然局限于机器学习,而并没有探索优化方面的问题。

6.无法体验模型部署和操作

假设你的模型在Kaggle排行榜位居前列。然而部署模型是完全另外一回事,这是在Kaggle上无法体验的。

生产部署模型会涉及到docker、kubernetes等技术。虽然数据科学家并不需要成为docker和kubernetes方面的专家,但至少要能够熟练使用。很多情况下,数据科学家需要用docker创建评分管道。

操作和部署还包括定期监控模型性能,并在必要时采取改进措施。假设有一个产品推荐模型。你在某个时间点观察到,由于推荐而导致销售额下降。那么问题是出在模型上吗?还是其他方面呢?

数据科学家需要参与到模型部署环节,从而获得获得真实而丰富的体验。

结语

数据科学家需要涉及算法可解释性、投资回报率评估、优化等技能。在这一系列问题中,你将解决各种有趣的现实问题,从而更全面的提高数据科学相关技能。

对于数据科学家而言,不要仅局限于Kaggle,而是要从其他角度解决不同类型的数据科学问题。

为什么Kaggle不会让你成为一名出色的数据科学家?相关推荐

  1. 独家 | Kaggle 大神Dan Becker与你分享他的数据科学之旅!

    作者:ANALYTICS VIDHYA 翻译:吴振东 校对:和中华 本文约4000字,建议阅读10分钟 本文中Kaggle大佬Dan Becker谈论了自己从经济学向数据科学的转变,从零开始成为数据科 ...

  2. 2020 Kaggle年度报告发布:美国公司最容易「人均百万」,90%数据科学家坚持终生学习...

    来源:机器之心 本文约2000字,建议阅读5分钟 近日,Kaggle 正式发布了 2020 年度报告,总共调查了 2 万多名开发者,但美国实体清单上的个人 / 实体代表除外. Kaggle 是重要的数 ...

  3. Kaggle 年度报告出炉:数据科学家年轻多金,薪资近百万

    ‍ 来源:HyperAI超神经 本文约2400字,建议阅读5分钟 2020 年已经逐渐接近尾声,kaggle 发布了其年度调查报告<机器学习与数据科学 2020>,向我们展示了当前数据科学 ...

  4. ipynb是什么文件_数据科学家的神器:为什么大家都用Kaggle?

    全文共2451字,预计学习时长7分钟 图源:viaboxx 学习数据科学绝非易事.能找到一个可以分享代码.数据和想法的社区对我们的学习大有裨益,有一个地方汇聚了这些特质,那就是Kaggle. 我在大学 ...

  5. Kaggle 发布首份数据科学从业报告 | 不及美国同行1/3,中国数据科学家平均年薪约3万美元

    Kaggle 是互联网上最著名的数据科学竞赛平台之一,今年 3 月 8 日,这家机构被谷歌收购,6 月 6 日又宣布用户数量超过了 100 万人.互联网创业方兴未艾,人工智能的浪潮又接踵而来,而贯穿其 ...

  6. Kaggle 年度报告出炉:数据科学家年轻高学历,薪资近百万

    作者 |  神经小兮  责编 | 张文 头图 | CSDN 下载自视觉中国 来源 | HyperAI超神经(ID:HyperAI) 数据分析竞赛平台 kaggle,近期针对平台用户进行了一项调查,涉及 ...

  7. 《Kaggle》Tweet Sentiment Extraction 实战(一)构建数据加载器

    <Kaggle>Tweet Sentiment Extraction 实战(一)构建数据加载器 前言 目标 引用库 分词器 ByteLevelBPETokenizer 介绍 ByteLev ...

  8. kaggle入门项目:Titanic存亡预测(三)数据可视化与统计分析

    ---恢复内容开始--- 原kaggle比赛地址:https://www.kaggle.com/c/titanic 原kernel地址:A Data Science Framework: To Ach ...

  9. Kaggle经典数据分析项目:泰坦尼克号生存预测!1. 数据概述与可视化2. 数据预处理3. 模型训练4. 模型优化(调参)

    ↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习 ,不错过 Datawhale干货 作者:陈锴,中山大学,Datawhale成员 最近有很多读者留言,希望 ...

最新文章

  1. ButterKnife源码解析
  2. 第三章:3.6 典型信号傅里叶变换
  3. [论文泛读]Web服务组合综述相关论文1(3篇)
  4. Spark-shell和Spark-hive的使用
  5. 云原生应用程序_什么是云原生应用程序?
  6. 已知前序(先序)与中序输出后序
  7. Mac系统下运行Java项目出现Unable to start embedded Tomcat server解决方法
  8. cad怎么表示出一个孔_怎么训练出一个NB的Prophet模型
  9. 谷粒商城:09.商品服务 — 品牌管理
  10. 【TDA4系列】芯片资源:处理器Processor Subsystems 与 加速器和协处理器Accelerators and Coprocessors
  11. 全国行政区划分简单分析
  12. 小程序轮播图swiper,自定义的指示点
  13. 数据地图在商业数据分析中的5种应用
  14. 检验检测系统管理服务器,检验检测管理平台
  15. 褚霸:阿里开源四部曲,从拥抱到回报
  16. Kali渗透测试:Metasploit 6.0 中的Evasion模块
  17. 实锤了,尤大妥妥的二次元迷弟 —— 聊聊 Vue 的进化历程
  18. 基于Vue Konva的canvas图片放大缩小
  19. CSS实现表格表头(thead)固定,内容(tbody)滚动
  20. HDU - 2121 Ice_cream’s world II(朱刘算法+虚根)

热门文章

  1. SOA,RMI,RPC,SOAP,REST等名称的理解
  2. MinGW GCC 7.1.0 2017年6月份出炉啦
  3. (寻找第K小的数amp;amp;寻找第K小的数的和)
  4. 非常实用的Android Studio快捷键
  5. V - 不容易系列之(4)――考新郎(第二季水)
  6. 当才华还配不上野心,就静下来学习
  7. 浮点数在内存中的表示
  8. Android UI开发第四十篇——ScrollTricks介绍
  9. CHD4B1(hadoop-0.23)实现NameNode HA安装配置
  10. Gradle打可运行Jar包(包含依赖第三方库中的类)