2019FME博客大赛——基于FME的跨带线性工程DEM接边分析
参赛单元:传统GIS数据处理
作者:崔欣
单位:中国石油天然气管道工程有限公司
对于大型线性工程的影像数据,跨带工程的数据接边是否满足要求是数据质检过程中的重中之重。传统检查方式是在接边处取采样点,收集采样点在两个投影坐标系下的高程信息,进行高差分析,以评估整个接边情况。但是这种利用样本描述整体的分析方式对样本高度依赖,受采样方式、采样密度等的影响极大,同时花费的时间和成本因人和手段而异,评估结果数据不稳定,容易遭到质疑。
FME是高效数据批处理软件的代表,支持访问多种栅格数据格式,并含有丰富的栅格数据处理转换器。因此利用FME的高效数据处理性能对接边整体进行分析,分析标准化,避免了采样数量与影像重叠范围不匹配、采样方法、采样均匀度等主客观因素的影响,同时其结论更稳定。
制作处理模板
采用FME Desktop对跨带DEM数据接边分析需要进行的处理包括数据的坐标一致化、提取重叠区域数据、格网化、同名格网匹配、计算高差、摄取异常值、高差统计分析等过程,具体如下:
图 1 数据检查流程
第一步 坐标转换
首先进行坐标转换的原因是待检查的两块影像位于相邻的两个投影带中,采用两个不同的投影坐标系。为了进行重叠区域的分析,必须将两块影像坐标转换到同一个坐标系中。为了减少坐标转换带来的数据投影变形,将两块影像从各自的投影坐标系转换到CGCS2000地理坐标系。此步采用Reprojector转换器即可满足需求。
第二步 提取影像边界
为了计算影像的接边区域,即两块影像的重叠区域,可从两块影像有效数据的边界多边形重叠范围计算得到。对多边形重叠区域计算的效率要比直接逐像素判断两块影像的重叠范围更高效,因此需要先提取两块影像各自的边界多边形。
由于线性工程的影像多为窄长条状,数据并不是布满整个最小外接矩形,因此需要提取的是有效数据的边界多边形,排除无效数据的干扰,同时也可以提升数据处理分析的效率。
对于支持Nodata的影像格式同时有效利用Nodata字段的数据,可直接利用FME的RasterExtentsCoercer转换器提取边界,边界类型为数据边界。
对于没有使用Nodata字段赋值无效数据或不支持的Nodata的影像数据,需要了解其对无效数据的赋值数值,利用RasterBandNodataSetter转换器让模板识别出无效数据。注意为了便于通过该转换器的数据可以利用RasterExtentsCoercer转换器提取边界多边形,应将其参数“代替单元值”设置为“是”。
第三步 计算重叠区域
有效数据的边界多边形已经取得,通过AreaOnAreaOverlayer转换器可以对两个多边形的重叠情况进行判断,记录在重叠数量字段中,再通过TestFilter转换器提取重叠数量大于等于2的区域,即得到两块影像的重叠区域范围。
但是由于RasterExtentsCoercer转换器获得的边界多边形是沿着影像栅格边缘精确绘制的,因此该多边形通常含有数量巨大的节点,会对计算机内存已经计算效率有一定的影响。所以需要对节点数量进行优化,可以使用Generalizer转换器实现此目的。同时由于通常在影像数据的边缘处,数据通常质量欠佳,因此在进行接边分析时,可以基于影像边界适当缩小,取得数据分析的范围。利用GeographicBufferer转换器可以基于重叠区域边界进行向内缓冲一个半格网尺寸,获得接边分析的数据范围。
第四步 裁剪取得接边区影像
根据已经获得的重叠区域多边形,分别对两块原始影像进行裁剪,只保留需要计算分析的数据区域,为后续逐像素的计算分析做准备。利用Clipper转换器即可实现该需求。
第五步 影像格网化
由于DEM中的高程信息都存储在每个格网的band信息中,默认在模板数据流中无法直接访问每个单元的信息,因此需要对影像数据进行格网化。利用RasterCellCoercer转换器,定义输出单元几何结构为点并提取波段值到属性中,可以实现影像格网化需求,以访问每个栅格单元的高程信息。
由于RasterCellCoercer将高程信息自动提取到band列表中,因此需要将高程显示提取到固定的属性字段中。新建一个高程字段复制存储相关信息即可。
第六步 同名格网匹配
以一个数据集为依据,对该数据集中的每个格网,寻找其在另一个数据集中的最邻近点,将这对格网当作同名格网,即同一位置在两块影像上的格网单元。利用NeighborFinder转换器可在两个数据集中寻找最邻近点。由于同名格网的邻近距离不会大于1个格网尺寸,因此可以设置为约束条件,即最大距离参数不超过一个格网尺寸。
为了便于后期计算两个同名格网的高程差值,需要对两格网的属性进行合并,并对候选集的数据进行前缀标记,以防止属性冲突时信息的丢失风险。
第七步 计算高差
新建高差字段存储同名格网高程的差值。
由于在影像格网化及同名格网匹配的过程中,可能会有些数据略微超出了接边分析的范围,因此需要追加一次空间过滤,将边缘可能有问题的数据提前过滤掉。
第八步 分离异常值
当同名格网的高差大于一个格网尺寸时,则认为该点存在接边异常的可能性,因此,需要将此类点分流出来,并单独输出到一个矢量文件,便于后续的确认分析。
第九步 接边统计分析
对认为没有接边异常的格网进行统计分析,获取这些格网单元的高差最大值、高差最小值、高差均值、高差标准差、高差众数等,以及参与统计分析的格网数量。
为了进行对比,同时对接边范围内包括上一步获取的潜在异常值的所有单元进行同样的统计分析,获取接边统计分析情况。这是因为,当接边高差是整体存在偏移,且偏移大于一个格网单元时,将可能没有高差小于一个格网的单元,进而也就无法获知整个接边区的统计信息。为了对这种存在整体偏移的接边情况兼容,有必要对两组分离的数据进行全部统计,这样统计结果可以明显指出整体偏移量。
应用与分析
样例数据:某横跨高斯三度投影带30-35的长输管道工程沿线的DEM数据,有效数据的长度约1700公里、宽度5公里,共计将近9000平方公里。原始数据按照不同的投影带分成6块,接边处有重叠区域。在该数据使用之前,需要对数据的接边情况进行检查,便于后续整个工程对于数据使用。
整个接边分析的模板如下图所示:
图 2 数据分析模板
下图所示其中两个带的影像数据。红色框的范围内是一个带的数据,其余部分是另一个带的数据。
图 3 数据状态
RasterExtentsCoercer转换器提取的边界多边形与影像的真实情况对比如下图所示,左侧(a)是原始影像,右侧(b)是获取的边界多边形。
(a) (b)
图 4 影像边界
边界多边形叠置分析得到的重叠区域如下图所示。
图 5 叠置分析结果
缩减多边形顶点,并进行向内缓冲后的重叠区域多边形如下图所示。
图 6 分析用的重叠区域
对其中两个接边统计结果如下图所示。30-31接边由于只输出了全部统计分析结果,观察其标准差小于1而均值为34.9,说明整体存在偏移,数据未通过验收,需要整改。31-32接边的两条统计记录说明未存在高差超出限值的单元,其标准差0.335说明数据离散度不高,结合其他统计数据可以得出该处DEM数据的接边可以满足后续生产上的需要。
图 7 接边统计结果
下图为FME2019beta版计算上述统计结果花费的时间,其效率相对人工统计计算的花费提升是巨大的,且该统计分析的模板具有很强的通用性。
图 8 FME数据分析耗时
展望
DEM接边处的高差分析说明统计分析可以确定两块跨带DEM接边重叠区域的值是否可以满足数据合并使用的需求,同理DOM的接边检查应该在波段信息上也具有一定相关性,未来可以考虑利用DOM的波段信息,进行适当的相关性统计分析,以确定接边情况是否满足数据验收要求。
2019FME博客大赛——基于FME的跨带线性工程DEM接边分析相关推荐
- 2019FME博客大赛——基于 FME 求算最佳租房方案
参赛单元:互联网.大数据及云计算 作者:黄文强 单位:成都润成信息技术有限公司 摘要 本文基于FME实现了最佳租房的求算.首先抓取了租房网站上房源的信息,再根据房源所在的公寓的名称或详细地址利用百度地 ...
- 2019FME博客大赛——基于FME的地理国情监测 变化信息通用属性项检查
参赛单元:传统GIS数据处理 作者:陈兴波 单位:宁夏回族自治区基础测绘院 1 绪论 1.1 背景 基础性地理国情监测引入的变化信息通用属性项,通过人机交互检查容易出现错漏,且速度慢,因此需要设计对应 ...
- 2019FME博客大赛——基于FME和ArcGIS Pro的规划成果标准化建库方法
参赛单元:传统GIS数据处理 作者:江威 单位:武汉市测绘研究院 引言 城市规划是指对一定时期内城市的经济和社会发展.土地利用.空间布局以及各项建设的综合部署.具体安排和实施管理.城市规划编制数据依据 ...
- 2019FME博客大赛——基于FME的报备坐标(Excel或txt)与shp转换
参赛单元:传统GIS数据处理 作者:廖超毅 单位:成都市国土资源信息中心 一.前言 自2017年毕业以来,接触了很多国土行业的东西,最令我头痛的问题还是把国土用地报备坐标表(下文简称"坐标表 ...
- 2020FME博客大赛——基于FME的天地图·浙江融合数据质检程序的设计与应用
作者:闻达 单位:浙江省测绘科学技术研究院 摘 要:基于FME技术,根据天地图·浙江融合设计要求,并结合天地图日常运维工作,建立一套严格的质检规则,用于检查天地图数据是否符合标准.对数据进行逻辑一致性 ...
- 2020FME博客大赛——基于FME的地理国情监测 全集水网检查与入库
作者:陈兴波 单位:宁夏回族自治区测绘地理信息院 摘要 本文针对2019年基础性地理国情监测全集水网数据更新工作,利用FME软件设计了关于数据质量检查及入库的方法,实现了全集水网数据快速检查和水体实体 ...
- 2021FME博客大赛 —— 基于FME的电子地图道路面快速构建方法研究
作者:吴国华 随着基础测绘成果应用的不断推广,电子地图数据的快速生产与更新的需求成为近年来备受关注的热点问题.道路面作为电子地图中主要地物要素有着举足轻重的作用,针对电子地图中道路面生产和更新的应用需 ...
- 2018FME博客大赛-基于FME的不同比例尺线面要素 一致性检测关键技术研究
编 写:曹 文 涛 武汉市测绘研究院 二○一八年三月 概述 随着地理信息系统技术的不断发展和广泛应用,各省市国土测绘部门都纷纷建立起了各种比例尺的基础地理信息数据库,其提供的矢量地理数据为社会各行业 ...
- 2019FME博客大赛——利用FME进行POI名称相似检查并分组
参赛单元:传统GIS数据处理 作者:祁建春 单位:北京超图软件股份有限公司 1 目的 做项目时,有时我们会接触到不同来源的数据,数据属性字段中的"数据名称"或"数据地址& ...
最新文章
- 1199: 房间安排
- 0基础学python难吗-0基础学Python有多难?该怎么入门?
- python---微信聊天机器人
- 多线程存数据mysql_java 多线程存储数据库
- 京东JDHBase异地多活实践
- Linux 安装USB摄像头
- 11月6日云栖精选夜读:阿里云双11访谈之云安全
- Atitit 安全规范 指南 常见五种意外防止规范 attilax总结
- 实现类去实现接口的时候,将接口的注释一起重写出来设置
- 电容式门把手工作原理
- 用markdownpad2导出的pdf字体太小的解决办法
- html获取表格行数据,怎么获取表格一行数据
- 目前人工智能技术,主要有应用于哪些领域?
- QQ空间批量删除留言
- 随机漫步与有效市场假说
- Java虚拟机周志明Eason-zhang解读
- 时势造英雄,快影成长启示录
- 视频监控技术的发展对于市场的影响越来越大
- BT源代码学习心得(七):跟踪服务器(Tracker)的代码分析(HTTP协议处理对象) -- 转贴自 wolfenstein (NeverSayNever)
- 【板栗糖GIS】CAD照片底色为黑色如何调整为白色
热门文章
- 08年6月PMP(京沪)开课及试听通知
- 银行迎宾机器人——智慧银行小助理
- 投顶会的流程——2021 NIPS
- 系统集成项目管理工程师计划
- 计算机研究生各专业方向简介及对应就业方向
- BAT三家的CDN情况究竟如何
- 经验贝叶斯克里金——基于ArcGIS 10.1Geostatistical Analyst
- matlab物理实验数据处理,利用Matlab对物理实验数据进行处理
- Kali Linux 2021.2在VMware和VirtualBox安装教程 超简单 步骤详细讲解
- 计算机bois界面无法保存,主板BIOS不能保存是怎么回事?