遇到问题----hadoop组件---spark实战-----spark on k8s---hail--Expected n part files but found 0
遇到问题
在jupyter notebook中使用hail进行操作,使用命令如下:
import hail as hl
mt = hl.import_vcf("s3a://test-env/tmp/zzq/20200317072357")
mt.show()
可以成功运行,并展示数据如下:
Initializing Spark and Hail with default parameters...
Running on Apache Spark version 2.4.5
SparkUI available at http://10.1.39.244:4040
Welcome to__ __ <>__/ /_/ /__ __/ // __ / _ `/ / //_/ /_/\_,_/_/_/ version 0.2.33-5d8cae649505
LOGGING: writing to /tmp/hail-20200319-0942-0.2.33-5d8cae649505.log
2020-03-19 09:42:33 Hail: WARN: expected input file 's3a://test-env/tmp/zzq/20200317072357' to end in .vcf[.bgz, .gz]
2020-03-19 09:42:38 Hail: INFO: Coerced sorted dataset
2020-03-19 09:42:39 Hail: INFO: Coerced sorted dataset
locus alleles A01.CEL.GT A02.CEL.GT A03.CEL.GT A04.CEL.GT
locus<GRCh37> array<str> call call call call
1:564936 ["T","C"] 0/0 0/0 0/0 0/0
1:565433 [
遇到问题----hadoop组件---spark实战-----spark on k8s---hail--Expected n part files but found 0相关推荐
- Hadoop组件搭建-Hadoop伪分布式
该文章仅用于记录个人笔记,如果您觉得不专业或者有误导,打扰到您,请谅解. Hadoop组件搭建-前置要求 Hadoop组件搭建-jdk Hadoop组件搭建-Hadoop伪分布式 Hadoop组件搭建 ...
- hadoop组件---spark----全面了解spark以及与hadoop的区别
Spark是什么 Spark (全称 Apache Spark™) 是一个专门处理大数据量分析任务的通用数据分析引擎. spark官网 Spark核心代码是用scala语言开发的,不过支持使用多种语言 ...
- 大数据各组件理论性总结---spark和hadoop(将持续更新)
Hadoop和spark的起源 Hadoop起源 1998年9月4日,Google公司在美国硅谷成立.正如大家所知,它是一家做搜索引擎起家的公司 无独有偶,一位名叫Doug Cutting的美国工程师 ...
- hadoop组件---spark理论----spark on k8s模式的三种方式全面了解
我们在之前的文章中 已经了解了 spark支持的模式,其中一种就是 使用k8s进行管理. hadoop组件-spark----全面了解spark以及与hadoop的区别 是时候考虑让你的 Spark ...
- 中国Spark技术峰会(上):Spark与生态圈中组件结合实战
5月13日-15日,由全球最大中文IT社区CSDN主办的"2016中国云计算技术大会"(Cloud Computing Technology Conference 2016,简称C ...
- 大数据Spark实战第一集 导学
开篇词:学了就能用的 Spark? 你好,很高兴我们在<即学即用的 Spark 实战 44 讲>这个课程中相遇,我是范东来,Spark Contributor 和 Superset Con ...
- spark 简单实战_大数据入门与实战-Spark上手
1 Spark简介 1.1 引言 行业正在广泛使用Hadoop来分析他们的数据集.原因是Hadoop框架基于简单的编程模型(MapReduce),它使计算解决方案具有可扩展性,灵活性,容错性和成本效益 ...
- Spark实战之读写HBase
1 配置 1.1 开发环境: HBase:hbase-1.0.0-cdh5.4.5.tar.gz Hadoop:hadoop-2.6.0-cdh5.4.5.tar.gz ZooKeeper:zooke ...
- 生产环境实战spark (5)分布式集群 5台设备之间hosts文件配置 ssh免密码登录
生产环境实战spark (5)分布式集群 5台设备之间 ssh免密码登录 之前已经在master节点单台设备上配置ssh免密码的登录工作,现在要做的事情是在5台设备之间实现ssh免密码操作.我在整个大 ...
最新文章
- 李洪强iOS经典面试题153- 补充
- 机器学习最有价值的6个经验教训
- 华岩资本--微生物领域项目投递通道
- Eclipse用法:自动生成get和set方法
- (转)yi_meng linux 下 ifcfg-eth0 配置 以及ifconfig、ifup、ifdown区别
- Codeforces1142D
- 文件传输-对数据进行加解密的方法!
- ibm服务器维修站点,IBM 服务器维修
- 检测到在集成的托管管道模式下不适用的ASP.NET设置的解决方法(非简单设置为【经典】模式)。 - CatcherX...
- ubuntu 的问题,我一个人使用,却显示两人登录?
- 不能创建对象qmdispatch_按键精灵更新时提示 ActiveX 部件不能创建对象 错误代码 800a01ad...
- python背景图添加_Python实例讲解 -- tkinter canvas (设置背景图片及文字)
- 第三章:SCI论文写作经验分享
- 单相串励电机和三相交流异步电机在高空作业平台中的应用
- 码支付源码完整版-安装环境配置
- 【904. 水果成篮】
- 计算机组成原理(4.2)—— IA-32指令系统(CSIC)
- mysql怎么创建和调用out参数的存储过程
- 解决报错Process finished with exit code -1073741571 (0xC00000FD),修改栈大小
- CodeForces1214B
热门文章
- FreeXFrameWork简介
- 【硬核】MMU是如何完成地址翻译的
- Going Home HDU - 1533 (最小费用最大流)
- 米4android6.0 root,小米4刷机包 小米3/4W/C/TD通刷 安卓6.0刷机包 完美ROOT权限 简洁流畅 非凡体验...
- 编译bibtex时报错“I couldn‘t open file name `xxxx.aux‘.”对应。已亲测可用。
- 红米k40pro+怎样打开5g开关
- 高通Android 13默认切换免提功能
- 有关文本框的高考计算机视频,高职考技能提升教程006期 textbox文本框综合运用 VB语言 高考信息技术必备...
- MySQL之数据库和表的创建与管理
- UX用户体验设计十大重要原则 下