经纬度子集的 netcdf4 提取

Posted

技术标签:

【中文标题】经纬度子集的 netcdf4 提取【英文标题】:netcdf4 extract for subset of lat lon 【发布时间】:2015-05-22 01:17:01 【问题描述】:

我想提取一个相当大的 netcdf 文件的空间子集。来自Loop through netcdf files and run calculations - Python or R

from pylab import *
import netCDF4

f = netCDF4.MFDataset('/usgs/data2/rsignell/models/ncep/narr/air.2m.1989.nc')
# print variables
f.variables.keys()
atemp = f.variables['air'] # TODO: extract spatial subset

如何仅提取与某个州(比如爱荷华州)对应的 netcdf 文件的子集。爱荷华州有以下边界纬度:

经度:89° 5' W 至 96° 31' W

纬度:40° 36' N 到 43° 30' N

【问题讨论】:

【参考方案1】:

如果您在 Linux 或 macOS 中工作,则可以使用 nctoolkit (https://nctoolkit.readthedocs.io/en/latest/) 轻松处理:

import nctoolkit as nc
data = nc.open_data('/usgs/data2/rsignell/models/ncep/narr/air.2m.1989.nc')
data.crop(lon = [-(96+31/60), -(89+5/6)], lat = [40 + 36/60, 43 + 30/60])

【讨论】:

【参考方案2】:

需要对 lonbounds 部分做些小改动(数据为东度数),因为数据中的经度值范围是 0 到 359,所以负数在这种情况下不起作用。 latli 和 latui 的计算也需要切换,因为值从北到南,从 89 到 -89。

latbounds = [ 40 , 43 ]
lonbounds = [ 260 , 270 ] # degrees east
lats = f.variables['latitude'][:] 
lons = f.variables['longitude'][:]

# latitude lower and upper index
latli = np.argmin( np.abs( lats - latbounds[1] ) )
latui = np.argmin( np.abs( lats - latbounds[0] ) ) 

# longitude lower and upper index
lonli = np.argmin( np.abs( lons - lonbounds[0] ) )
lonui = np.argmin( np.abs( lons - lonbounds[1] ) )  

【讨论】:

【参考方案3】:

要反映 N1B4 的响应,您还可以使用气候数据操作员 (cdo) 在一行中完成:

cdo sellonlatbox,-96.5,-89,40,43 in.nc out.nc

因此要循环一组文件,我会在 BASH 脚本中执行此操作,使用 cdo 处理每个文件,然后调用您的 python 脚本:

#!/bin/bash

# pick up a list of files (I'm presuming the loop is over the years)
files=`ls /usgs/data2/rsignell/models/ncep/narr/air.2m.*.nc`

for file in $files ; do 
   # extract the location, I haven't used your exact lat/lons
   cdo sellonlatbox,-96.5,-89,40,43 $file iowa.nc

   # Call your python or R script here to process file iowa.nc
   python script
done 

我总是尝试“离线”处理我的文件,因为我发现它不太容易出错。 cdo 是 ncks 的替代品,我并不是说它更好,我只是发现它更容易记住命令。 nco 通常更强大,当 cdo 无法执行我希望执行的任务时,我会使用它。

【讨论】:

【参考方案4】:

如果你喜欢 pandas,那么你应该考虑看看 xarray。

import xarray as xr

ds = xr.open_dataset('http://geoport.whoi.edu/thredds/dodsC/usgs/data2/rsignell/models/ncep/narr/air.2m.1980.nc',
                     decode_cf=False)
lat_bnds, lon_bnds = [40, 43], [-96, -89]
ds.sel(lat=slice(*lat_bnds), lon=slice(*lon_bnds))

【讨论】:

ds.where 将只是 mask,我建议改为 ds.sel(lat=slice(*lat_bnds), lon=slice(*lon_bnds))【参考方案5】:

请注意,这可以在命令行上使用NCO's ncks 更快地完成。

ncks -v air -d latitude,40.,43. -d longitude,-89.,-96. infile.nc -O subset_infile.nc

【讨论】:

【参考方案6】:

Favo 的回答有效(我假设;尚未检查)。更直接和惯用的方法是使用 numpy 的 where 函数来查找必要的索引。

lats = f.variables['latitude'][:] 
lons = f.variables['longitude'][:]
lat_bnds, lon_bnds = [40, 43], [-96, -89]

lat_inds = np.where((lats > lat_bnds[0]) & (lats < lat_bnds[1]))
lon_inds = np.where((lons > lon_bnds[0]) & (lons < lon_bnds[1]))

air_subset = f.variables['air'][:,lat_inds,lon_inds]

【讨论】:

使用此注释,我收到以下错误 IndexError: Index cannot be multidimensional 这可以通过将 [0] 添加到以 lat_inds 和 lon_inds 开头的行来解决。【参考方案7】:

这很容易,您必须找到纬度和经度的上下界的索引。 您可以通过查找与您要查找的值最接近的值来做到这一点。

latbounds = [ 40 , 43 ]
lonbounds = [ -96 , -89 ] # degrees east ? 
lats = f.variables['latitude'][:] 
lons = f.variables['longitude'][:]

# latitude lower and upper index
latli = np.argmin( np.abs( lats - latbounds[0] ) )
latui = np.argmin( np.abs( lats - latbounds[1] ) ) 

# longitude lower and upper index
lonli = np.argmin( np.abs( lons - lonbounds[0] ) )
lonui = np.argmin( np.abs( lons - lonbounds[1] ) )  

然后只是对变量数组进行子集化。

# Air (time, latitude, longitude) 
airSubset = f.variables['air'][ : , latli:latui , lonli:lonui ] 
注意,我假设经度维度变量以东度为单位,空气变量具有时间、纬度、经度维度。

【讨论】:

感谢收藏!这很棒 有没有一种简单的方法也可以将 airSubset 吐出为 netcdf 文件? 使用 netcdf4-python 库最直接的方法是创建一个新的 netcdf 文件,添加维度、变量名称、其属性并保存数据数组。那是大约 4~5 行代码。另一个不错的 python 库是 IRIS (scitools.org.uk/iris),它有很好的方法来绘制、插值、重新网格和保存 netcdf 文件的子集。

以上是关于经纬度子集的 netcdf4 提取的主要内容,如果未能解决你的问题,请参考以下文章

子集空间点以提取多边形内部的空间点(国家边界)

显示经度/纬度点的子集?

在不规则网格上绘制数据的有效方法

如何使用传单实时提取用户经纬度

Python批量提取图片经纬度并写入csv文件

Python批量提取图片经纬度并写入csv文件