以下资源来自网络,本文仅转载,希望可以帮到有需要的同学们!
0 J* Z R7 i. {/ [9 R7 l. h
+ T6 x; |: @ \3 @0 N4 i【前提】 最近有同学问如何批量下载海冰密集度的数据,很久前在家园里了解到了wget,今天以这个为例整理一哈…当然,实现的方式还有很多,这里用的是shell来完成。
% G* N; U8 J: I0 S7 w5 u
% V" j. y8 Z( o0 c' }. I/ YA【数据】 A.1 数据名Sea Ice Concentrations from Nimbus-7 SMMR and DMSP SSM/I-SSMISPassive Microwave Data, Version 1 A.2 数据主页 https://nsidc.org/data/nsidc-0051/; 数据说明 www.52ocean.cn 5 C( D5 p) w+ G( l) u' w* W# a
! R( q+ g4 |2 H( }. g% U- H3 O
B 【需求】 B.1 需要下载该数据集海冰的数据,由于数据存放方式是根据时间建立的路径,需要遍历下载。如/n5eil01u.ecs.nsidc.org/PM/NSIDC-0051.001/2000.04.22 , z. w( Y2 ^: u1 n! l) L- ?4 p, [# l
C【实现方式】 创建文件$ vim down_sea_ice.sh 根据需求修改代码
; {& H, ^- D( U; d% f8 {在终端中$bashdown_sea_ice.sh 9 x( J- J! J# H* M0 w% T
8 ^5 e7 }/ O( L- x9 S. n( C, B, ]5 c R( P
& A- @- q# V( J/ L5 JC.1 使用语言:shell。MATLAB、python等也可,后面介绍。 C.2 思路:通过wget进行下载 利用shell,设置起始时间和结束时间,循环生成每个路径后,再利用wget进行下载。 6 T4 L' j; q$ U3 V* ?* V
C.3 代码 - #
- # www.52ocean.cn
- startdate=2000-01-01
- enddate=2010-12-31
- sDateTs=`date -j -f "%Y-%m-%d" $startdate "+%s"`
- eDateTs=`date -j -f "%Y-%m-%d" $enddate "+%s"`
- dateTs=$sDateTs
- offset=86400
- while [ "$dateTs" -le "$eDateTs" ]
- do
- date=`date -j -f "%s" $dateTs "+%Y-%m-%d"`
- year=`date -j -f "%s" $dateTs "+%Y"`
- month=`date -j -f "%s" $dateTs "+%m"`
- day=`date -j -f "%s" $dateTs "+%d"`
- printf "wget --load-cookies ~/.urs_cookies --save-cookies ~/.urs_cookies --keep-session-cookies --no-check-certificate --auth-no-challenge=on -r --reject \047index.html*\047 -np -e robots=off www.52ocean.cn\n" $year $month $day $year $month $day
- wget --load-cookies ~/.urs_cookies --save-cookies ~/.urs_cookies --keep-session-cookies --no-check-certificate --auth-no-challenge=on -r --reject 'index.htm;*' -c -np -e robots=off -A "*_n.*" "https://n5eil01u.ecs.nsidc.org/PM/NSIDC-0051.001/${year}.${month}.${day}/"
- dateTs=$(($dateTs+$offset))
- done
- 7 ? w& M( X* m2 ~
% i" H* \9 h1 b9 V4 ]: u9 g' b- `[color=rgb(255, 0, 0) !important]复制代码& L0 U+ ~+ H9 u6 T
! k4 ~" J; O) Q# l代码中配置时间,循环时间,生成路径,wget下载【linux】 wget--load-cookies ~/.urs_cookies --save-cookies ~/.urs_cookies--keep-session-cookies --no-check-certificate --auth-no-challenge=on -r --reject 'index.htm;*' -c -np -erobots=off -A "*_n.*" "https://n5eil01u.ecs.nsidc.org/PM/NSIDC-0051.001/${year}.${month}.${day}/" 【windows】 wget--http-user=[USERNAME] --http-password=[PASSWORD] --load-cookies mycookies.txt--save-cookies mycookies.txt --keep-session-cookies--no-check-certificate--auth-no-challenge -r --reject "index.html*" –c-np -e robots=off -A "*_n.*""https://n5eil01u.ecs.nsidc.org/PM/NSIDC-0051.001/${year}.${month}.${day}/" 基本参考冰雪中心给的下载方式(下面有网址),额外加了 1. -c:断点 2. -A "*_n.*" :通配符,可下载北极的数据,见图1中的蓝色方框。若只下载bin文件,则改为-A "*_n.bin" * B" p4 `2 P2 J2 L; e9 Q
参考网址:https://nsidc.org/support/faq/what-options-are-available-bulk-downloading-data-https-earthdata-login-enabled
1 H3 M: s# w; f' c) F3 `; l- x7 u" E
% {5 w1 [& Y) v- r$ V- p. ~$ ]
3 t1 o5 ^5 r. mC.4 遇到的问题: 最初使用了绝对路径,发现出现了404错误,排查发现是 文件名是nt_20100105_f17_v1.1_n.bin。之前以为‘f17‘是不变的。 下面是错误记录
4 A! B0 g( b7 ^9 B% f7 f$ \; E1 u4 L/ j! d0 f P
【报错】 下载2000年的数据发现404报错 wget --load-cookies ~/.urs_cookies --save-cookies~/.urs_cookies --keep-session-cookies --no-check-certificate--auth-no-challenge=on -r --reject 'index.html*' -np -e robots=offwww.52ocean.cn Resolving n5eil01u.ecs.nsidc.org... 128.138.97.102 Connecting to n5eil01u.ecs.nsidc.org|128.138.97.102|:443...connected. HTTP request sent, awaiting response... 404 Not Found 2019-06-11 16:12:17 ERROR 404: Not Found. 【原因】 文件名发生变化 变成了f07 不是 n07 nt_20100105_f17_v1.1_n.bin 【解决思路】 1 找到f编号的规则 或者 变通配符 & [1 q' s! f4 s
参考
( k8 e* f- N5 V; F6 C& F0 u同时我也记录在了气象家园的网上 www.52ocean.cn |