MaxCompute使用常见问题总结
摘要: Maxcompute常见问题的总结,方便广大用户可以快速排查问题
计费相关
存储计费:按照存储在 MaxCompute 的数据的容量大小进行阶梯计费。
计算计费:MaxCompute 分按量后付费和按 CU 预付费两种计算计费方式。
按量后付费:按量后付费方式针对 SQL 任务和 MapReduce 任务进行计费。
SQL 任务按量后付费:即 SQL 任务按 I/O 后付费。
MapReduce 按量后付费:即 MapReduce 任务按量进行计费。
按 CU 预付费:此方式仅在阿里云大数据平台提供。
下载计费: MaxCompute 将按照下载的数据大小进行计费
注意是对公网下载收费,内网下载不收费
参考https://help.aliyun.com/document_detail/27989.html?spm=5176.doc45389.6.560.LYjhcl
SQL语法和标准sql区别
1,无事务控制
2,暂时不支持update/delete
3,不支持修改字段类型,不支持删除字段
4,不支持 select from 多表
5,其他hive对标函数,官方文档没有的暂时不支持
更多参考
https://help.aliyun.com/document_detail/50985.html?spm=5176.doc27862.6.757.lSC74f
SQL限制
select 最大显示10000行
想导出大于10000行参考
https://help.aliyun.com/document_detail/53093.html?spm=5176.7751065.6.751.iLm6hF
2,string字段最大8M
更多其他限制参考
https://help.aliyun.com/document_detail/51823.html?spm=5176.doc53093.6.618.R37r8p
java沙箱限制类问题
用户经常问:
本地测试正常,在提交到odps后失败,代码一毛一样
https://help.aliyun.com/document_detail/27967.html?spm=5176.doc51823.6.647.Rt0efa
原因:
我们处于安全考虑,对一些第三方jar包做了限制
一般是fastjson这个包比较常见,回复口径:
由于java沙箱限制,对一些第三方jar包由限制,fastjson的jar包被限制因为安全沙箱的原因无法使用。
https://help.aliyun.com/document_detail/27967.html
建议用gson
import com.google.gson.Gson;这个包试下
其他的jar的限制用户遇到类似报错可以提交工单咨询
下图是常见报错例子
没有启用新类型flag
若想使用新数据类型,需在 SQL 语句前加语句:set odps.sql.type.system.odps2=true;
目前情况是需要加这个set,后续会省掉
https://help.aliyun.com/document_detail/27821.html?spm=5176.doc27967.6.546.XhnAGU
新数据类型,以及新函数、函数返回值是新数据类型都需要set
如果没有set,报错现象
com.aliyun.odps.OdpsException: ODPS-0130071:[1,8] Semantic analysis exception - function or view udtf_recom cannot be resolved
找不到函数或者方法
oss和ots外部表创建,查询失败
1,检查是否按照文档授权
https://help.aliyun.com/document_detail/45389.html?spm=5176.doc27821.6.691.5g0yGt
2,报错类似
DDL syntax error:ODPS-0130071:Semantic analysis exception - unrecognized option ‘EXTERNAL’.
检查:是否引用了新类型,也需要set
3,如果建表后查询失败
检查用户oss或者ots数据量是否巨大,
oss的object数量是否很多
单个object是否很大
参考文档 https://www.atatech.org/articles/67977 理解
报错例子 没有授权
客户端odpscmd 报错
连接客户端/访问域名先看下域名
https://help.aliyun.com/document_detail/34951.html?spm=5176.doc48950.6.572.58H50H
项目名称
Ak信息
如果报错找不到java类什么的
一般是客户端java环境(暂时不支持java9),建议java 7和8
任务运行比较慢
1,如果是按量付费,请提交工单,如果是预付费,可以先看下cu对应的项目是否有大量作业或者比较大的作业,长期没有执行完。
可以使用主账户执行命令: TOP INSTANCE;这种方式查看当前正在运行的任务(在客户端(版本为0.29.0或以上)运行。)
下载最新版本的客户端: https://help.aliyun.com/document_detail/27804.html?
您也可以通过这个工具查看项目下运行任务的状态
https://yq.aliyun.com/articles/247739?spm=5176.8091938.0.0.7Sf007
如果是预付费cu用户可以使用这个工具查看cu使用情况
https://help.aliyun.com/document_detail/66565.html?spm=a2c4g.11186623.6.713.QARDJv
2,数据倾斜
https://help.aliyun.com/document_detail/51020.html?spm=5176.doc34951.6.754.iMKNUT
原文链接
干货好文,请关注扫描以下二维码:
MaxCompute使用常见问题总结相关推荐
- 阿里巴巴大数据计算平台MaxCompute(原名ODPS)全套攻略(持续更新20171127)
概况介绍 大数据计算服务(MaxCompute,原名ODPS,产品地址:https://www.aliyun.com/product/odps)是一种快速.完全托管的TB/PB级数据仓库解决方案.Ma ...
- 大数据全攻略:10年老兵带你看尽MaxCompute大数据运算挑战与实践
大数据计算服务(MaxCompute,原名ODPS)是一种快速.完全托管的TB/PB级数据仓库解决方案.MaxCompute向用户提供了完善的数据导入方案以及多种经典的分布式计算模型,能够更快速的解决 ...
- python 清空表格_python 清空表数据库表
<Greenplum5.0 最佳实践> 迁移数据使用Gptransfer 使用 Gptransfer 命令迁移一个 Greenplum 数据库集群中的数据到另一台集群(metradata, ...
- 【云周刊】第171期:重磅推荐,神龙架构首次开箱直播评测
原文链接:点击打开链接 摘要: 神龙架构首次开箱直播评测,神经引导演绎搜索:两全其美的程序合成方法 ,Oracle迁移上云实战北京专场(云数据库PPAS + ADAM) ...更多精彩内容,尽在云周刊 ...
- python处理数据库数据类型_python 导入表格数据库数据类型
Django 博客开发教程 3 - 创建 Django 博客的数据库模型 设计博客的数据库表结构 博客最主要的功能就是展示我们写的文章,它需要从某个地方获取博客文章数据才能把文章展示出来,通常来说这个 ...
- oracle sql长度限制吗_设置sql数据库的最大长度限制吗
MaxCompute常见问题(2019.04新版) 计量计费 购买开通 MaxCompute计费常见问题 现在公司有数据统计分析的需求,已经在用RDS数据库,还应该开通什么服务? 从MaxComput ...
- python清空列表内容_python 清空列表数据库
Pyhton连接SQL Server数据库解决方案 为了提高工作效率及便利性,拟自主开发一款一键自动化运维小工具:其中主要一项功能用于与SQL Server数据库进行交互,程序可以根据数据库中数据情况 ...
- python连接access数据库查询并打印出来_python 查询 access数据库操作
日志服务使用Python SDK快速入门指南 为快速开始使用日志服务Python SDK,请按照如下步骤进行: 创建阿里云账号 为了访问阿里云日志服务,你需要有一个阿里云账号.如果没有,可首先如下创建 ...
- MaxCompute Spark 使用和常见问题
简介: 本文将就MaxCompute Spark开发环境搭建.常用配置.作业迁移注意事项以及常见问题进行深入介绍. 一. MaxCompute Spark 介绍 MaxCompute Spark是Ma ...
最新文章
- R语言str_subset函数和str_which函数:str_subset函数提取字符串向量中所有包含匹配字符的字符串、str_which函数返回字符串向量中所有包含匹配字符的位置(索引)
- K8S资源限定(CPU、内存)及pod数量修改
- CPU缓存越大计算机的性能越好,CPU缓存真的越大越好?小心你的钱包
- 【SQLSERVER】SQL SERVER 2008筛选表报错
- 《JavaWeb从入门到改行》注册时向指定邮箱发送邮件激活
- instant.page —— 一个 JS 脚本实现网站预加载,提升页面加载速度
- kubernetes权威指南学习遇见的问题以及意见之二:Permission denied
- 【杂】poj2482 Stars in Your Windows 题面的翻译
- 软件工程案例学习-网上购书系统
- 英语演讲计算机ppt模板,英语ppt演讲稿
- 酒店客房管理系统(C语言)
- 华云数据入围2021新经济年度巅峰榜
- 高尔顿钉板仿真模拟 MATLAB
- java 单体测试_单体测试指南
- 云原生不可变基础设施
- CC2530芯片资料
- 重命名Active Directory域名
- java 中free,FreeJava 的使用方法(三)FreeJava的使用,freejava使用方法
- 一小时电动力学 02 麦克斯韦方程组
- 计算机视觉中的多视图几何 -- 2D射影几何与变换 -- 相似、仿射与射影变换的层次
热门文章
- python二级模拟选择题集错网_计算机二级python真题:第1套选择题A
- 计算机网络数据链路层 --- 选择重传协议(SR)
- telnet入侵linux,教你入侵RedHatLinux
- methods vue过滤器 和_数据动态过滤技巧在 Vue 项目中的实践
- json 反射java 实体_java反射实现javabean转json
- # 定义四边形_【四边形系列专题】 特殊平行四边形之矩形
- 11篇SCI论文,多次跨专业,武大物理博士敲开美国顶尖生命医学研究中心大门...
- 新自然指数出炉,哪些高校表现突出?
- 2019,转行人工智能?机会来了!
- 爱因斯坦鲜为人知的另一面