1956 Dartmouth Conference The pioneers of AI

John McCarthy

Marvin Minsky

Herbert A. Simon

符号AI

Arthur Samuel

1956

AI
Claude Shannon

Ray Solomonoff

Allen Newell

Nathaniel RochesterOliver Selfridge Trenchard More

Ilya Sutskever

Yoshua Bengio

NVIDIA.

Yann LeCun
Robert Mercer

Geoffrey Hinton

感知智能

Noam Chomsky Edward Feigenbaum

认知智能

DARPA 2018

2016

AI

□精准目标识别

2018年“戈登·贝尔奖”，使用27360块GPU卡，对0.25度大气CAM-SE模式模拟的结果进行识别：大气河（蓝色）和热带气旋（红色）

增强预测能力

美国EarthRisk公司通过对传统区域数值模式的预报结果进行深度学习订正，将温度的有效预测时间从原来的7天提升到40天

替代数值模型

密西根大学在CFD模拟方面的最新结果，利用深度学习代替LBM方法，开展预报比数值方法要快几个量级

GPS

图1美国“战斧"BGM-109舰载巡航导弹结构图

GPS

图1美国“战斧"BGM-109舰载巡航导弹结构图

2021年汛期降水预测图汇总
气候中心

水利部

31010部队

大气所

南京大学

气科院

FODAS-动力统计

南信大-罗京佳
兰州大学

MODES

清华大学
CMME

BCC-CPSv3

南信大-王院士

CWRF

H0-00-20-10 50

中科院西北院

北师大

中山大学-范可

Ding et al., 2008, Int. J. Climatol; Wu et al., 2018, Atmosphere

（ACC PS

APCC14-model ensemble

; Wang et al., 2009, CD

1991-2012 SVD

Deep Learning = Learning representations features without being taught

layer

representation learning

Earth science tasks

Machine learning tasks

aObject classification and localization

b Super-resolution and fusion

Statistical downscalingand blending

Short-termforecasting

d Language translation

Dynamic time seriesmodelling

HadCRUT4
		a b	CMIP
C	PCA	d
1877 7 b

ENSO

21 CMIP5

Ham et al., 2019, Nature; Benjamin et al., 2019, arXiv

SEasonal DEep-learning System

2020

ACC=0.23 PS=81.2

ACC=0.37 PS=74

2021

ACC=0.16 PS=75

ACC=0.13 PS=69.5

（2013-2016

2022

MME

EOF1
500hPa

(b) QUV850

（a)U200&Z500

（b）QUV850

EOF3

1997/1998

Wang, 2000, J. Climate

“optimal input”

“Grad-CAM”
Activation Mapping

Class

Grad-CAM

i j

( )

（a）观测

b）

（b）再分析环流为输入

（a）
（ACC=0.75

（b）U200&Z500

（c）QUV850

Zeiler et al. 2014

（Shin et al., 2022

SEDES

Ham et al., 2022

ACC
SEDES

Olah, 2017

Gagne et al., 2019

（ Barnes et al., 2020

2009 6 -2010 5

01 02-16
	25km	5km
	51	51
	Morrison	Morrison
	RRTMG	RRTMG
	RRTMG	RRTMG
	Noah	Noah
	Kain-Fritsch
	YSU	YSU

	WRF	ATTN	LSTM	MLP		WRF	ATTN	LSTM	MLP
0-24h	4.60	1.94	2.17	2.71	0-24h	2.64	1.68	1.88	2.11
24-48h	4.80	2.13	2.34	2.87	24-48h	2.96	1.84	2.10	2.29
48-72h	4.90	2.16	2.43	3.33	48-72h	3.20	2.01	2.27	2.55
0-24h	3.08	1.68	1.92	2.77	0-24h	3.03	2.07	2.34	2.70
24-48h	3.31	1.84	2.06	2.85	24-48h	3.40	2.30	2.62	2.81
48-72h	3.51	1.94	2.13	2.97	48-72h	3.63	2.43	2.74	2.91
0-24h	3.03	1.66	1.86	2.48	0-24h	3.30	1.91	2.18	2.94
24-48h	3.22	1.76	1.95	2.57	24-48h	3.66	2.01	2.27	3.14
48-72h	3.45	1.84	2.05	2.72	48-72h	3.85	2.10	2.39	3.21
0-24h	3.37	1.72	1.96	3.04	0-24h	4.28	2.36	2.60	3.77
24-48h	3.67	1.86	2.10	3.15	24-48h	4.48	2.43	2.74	3.94
48-72h	3.85	2.02	2.23	3.32	48-72h	4.58	2.46	2.80	4.04
0-24h 24-48h	2.78	1.65	1.79	2.42	0-24h	3.47	1.81	2.07	2.39
	3.26	1.84	2.03	2.62	24-48h	3.94	1.93	2.20	2.49
48-72h	3.39	1.91	2.18	2.83	48-72h	4.08	2.03	2.29	2.59
0-24h	2.48	1.57	1.78	2.05	0-24h	2.81	1.76	1.99	2.34
24-48h	2.76	1.70	1.92	2.15	24-48h	3.22	1.92	2.22	2.43
48-72h	2.95	1.79	2.05	2.26	48-72h	3.41	1.99	2.30	2.50
0-24h	2.70	1.53	1.69	2.05	0-24h	2.42	1.33	1.44	1.91
24-48h	2.99	1.66	1.91	2.21	24-48h	2.83	1.45	1.49	1.99
48-72h	3.13	1.68	1.87	2.30	48-72h	3.17	1.51	1.77	2.22
0-24h	2.76	1.57	1.78	2.30	0-24h	4.12	1.58	1.72	3.49
24-48h	3.13	1.79	1.90	2.49	24-48h	4.41	1.55	1.82	3.59
48-72h	3.11	1.82	2.05	2.61	48-72h	4.51	1.66	1.87	3.67
0-24h	2.51	1.46	1.62	1.96	0-24h	4.12	2.70	3.00	3.46
24-48h	3.01	1.65	1.86	2.16	24-48h	4.52	2.85	3.15	3.69
48-72h	3.27	1.77	1.97	2.29	48-72h	4.64	2.89	3.29	3.74
0-24h	2.68	1.60	1.77	2.19	0-24h	4.02	1.91	2.08	3.22
24-48h	2.99	1.74	1.99	2.40	24-48h	4.05	2.00	2.19	3.31
48-72h	3.06	1.81	1.99	2.52	48-72h	4.07	2.09	2.32	3.39

0-24h 0-24
24-48h 24-48
48-72h 48-72

WRF模式预报流程（丢掉16小时）

UTC	北京时间
00	08
1____	14
	20
18	02

·最早设计

预报开始16:00UTC(+1 day,00:0 U+8)

72

rmse	wrf	24h	48h	72h	reference	n_train	n_test
1	2.93	1.81	1.97	1.88	2.16	27592	8146
2	3.17	1.73	1.83	1.85	2.40	22267	6648
3	3.20	1.73	2.02	2.20	nan	28591	8570
4	3.14	1.59	1.80	2.13	2.40	14688	4416

GFS
2020 1 -2022 12

d01 d02 d03

27 km 9 km 3km

41 41 41

Thompson Thompson Thompson

RRTMG RRTMG RRTMG

Noah Noah Noah

Grell 3D Grell 3D

Eta TKE scheme Eta TKE scheme Eta TKE scheme

2021-07-18

10 EKO ASI-16 5

A.Observation Towerina Photovoltaic Power Station

B.ASI Installation Near the Observation Tower

C.EKOASI-16AllSsky Imager

: AARes – ConvLSTM

Attention-augmented ResNet

ResNet-18

（AACN）

ResNet-18，

（ConvLSTM

LSTM

（RNN）

LSTM

Persistence Model 2. Basic ANN
Stacked CNN (Feng et al. 2022) 4. 3DCNN (Feng et al. 2022)
3DResNet (ResNet without LSTM & attention)
ResNet-ConvLSTM (ResNet-ConvLSTM without attention)
AARes-ConvLSTM

Morice et al. (J. Geophys. Res.: Atmos., 2021)

Huang et al. (Nat. Clim. Change, 2017)


1	HadCRUT5	1850-2020	CRUTEM5	HadSST4	Morice et al. (J. Geophys. Res.: Atmos.,2021）
2	GISTEMP v4	1880-2020	GHCN v4	ERSST v5	Lenssen et al. (J. Geophys. Res.: Atmos.,2019)
3	NOAAGlobalTemp-Interim	1850-2020	GHCN v4	ERSST v5	Vose et al. (Geophys. Res. Let., 2021)
4	Berkeley Earth	1850-2020	Berkeley	HadSST4	Rohde and Hausfather (Earth Syst. Sci. Data2020)
5	Kadow et al.	1850-2020	CRUTEM5	HadSST4	Kadow et al. (Nat. Geosci., 2020)
6	China-MST	1856-2020	CLSAT	ERSSTv5	Sun et al. (Adv. Atmos. Sci., 2021)
7	Cowtan and Way	1850-2020	CRUTEM4	HadSST3	Cowtan and Way (Q. J. R. Meteorol. Soc..2014)
8	Vaccaro et al.	1850-2020	CRUTEM4	HadSST3	Vaccaro et al. (J. Clim., 2021)

IPCC AR6, 2021


1	Martin and Munoz(J. Clim., 1997)	1979-1993	6	100km		NP
2	Rigor et al.（J. Clim., 2000)	1979-1997	12	100km		NCARNPNCEP
3	Huang et al.(Nat. Clim. Change,2017)	1900-2014		5°latx5°lon	DINEOF	NOAATemp_Rigor etal.2000
4	Dodd et al. (2019)	1995-2012		1km		ATSR-2 AATSR
5	Englyst et al. (2021)	2000-2009		0.25°×0.25°		DMIEUSTACEPROMICEAASTI


Mesinger et al. (Bull. Amer. Meteorol.Soc.,2006)	1979-2020	Mainly in North America	32 km, L45
Zhang et al. (J. Clim., 2016)	1979-2009	Arctic marginal ice zone	10 km, L49
Bromwich et al. (Q. J. R. Meteorol. Soc.2016)	2000-2012	Most of the Arctic	30 km, L7115 km, L71
Dahlgren et al. (Q.J. R. Meteorol. Soc.,2016)	1989-2010	Mainly in Europe	22 km, L60


HadCRUT5	Gaussian process
GISTEMP v4	Distance WeightedInterpolation
Cowtan and Way (Q. J. R.Meteorol. Soc., 2014)	Kriging
Berkeley Earth	Kriging
Martin and Munoz(J. Clim.,1997)	optimal interpolation
Rigor et al.(J. Clim., 2000)	Optimal interpolation
NOAAGlobalTemp-Interim	Empirical OrthogonalTeleconnections
China-MST	Empirical OrthogonalTeleconnections
Huang et al.(Nat. Clim. Change,2017)	DINEOF
Vaccaro et al. (J. Clim., 2021)	Gaussian Markov randomfields
Kadow et al. (Nat. Geosci., 2020)	Deep Learning

1.GHCN (Global Historical Climatology Network)-Daily 1979-2021
· NOAA 1833

Russian North Pole drift stations 1979-1991 & 2003-2012 AARI Arctic and Antarctic Research Institute 1937 1991 2003
Buoy data 1979-2021 IABP International Arctic Buoy Programme 1979 2m 2011

Liu et al. (Comput Vis ECCV, 2018)

ERA-interim ERA5

Graham et al. (Geophys. Res. Lett., 2019) ERA5 ERA Interim 　JRA 55 CFSv2 MERRA 2 ERA5　 ERA-I

Jakobson et al. (Geophys. Res. Lett., 2012) ERA-Interim ；NCEP-CFSR JCDAS NCEP-DOE NASA-MERRA ERA-I

Lindsay et al. (J. Clim., 2014) NCEP- CFSR R1 NCEP-R2 20CR MERRA ERA- Interim JRA-25 ERA-I

Wang et al. (Cryosphere, 2019) ERA-Interim ERA-5 ERA-I ERA5

Tara

CRU Station Locations

CRU

Module Name	Filter Size	Channels	Stride	Padding	Nonlineari ty
PConv1	7× 7	18	2	3	ReLU
PConv2	5×5	36	2	2	ReLU
PConv3	5×5	72	2	2	ReLU
UpSample1		72
Concat1		72+36
PConv4	3×3	36	1	1	LeakyReL U
UpSample2		36
Concat2		36+18
PConv5	3×3	18	1	1	LeakyReL U
UpSample3		18
Concat3		18+3
PConv6	3×3	3	1	1	LeakyReL U

I	Ⅱ

2013-2018 0.997

ERA5-obs	Recon1	ERA5	2015-03-122015-07-20
ERAl-obs	Recon2	ERA-I	2015-03-122015-07-20

DatasetsObservation	Recon		ERA-5		ERA-Interim
DatasetsObservation	r	RMSE	r	RMSE	r	RMSE
Land-1(id RSM00020891,2011-01~2018-12)	0.996	1.55	0.994	1.79	0.994	1.88
Land-2(id CA002100402,2011-01~2018-12)	0.981	3.91	0.986	3.90	0.983	3.68
Land-3(id USR0000ASNI,2011-01~2018-12)	0.962	2.66	0.946	3.44	0.935	3.50
Land-4(id USW00027401,2011-01~2018-12)	0.985	2.10	0.985	2.43	0.986	2.10
Land-5(id RSM00023975,2011-01~2018-12)	0.995	1.58	0.997	1.35	0.996	1.49
Land-6(id NOE00134886,2011-01~2018-12)	0.973	1.68	0.969	1.73	0.990	0.894

2011-2018
0.996 0.981 0.962 0.985 0.995 0.973，

DatasetsObservation	Recon		ERA-5		ERA-Interim
DatasetsObservation	r	RMSE	r	RMSE	r	RMSE
NP-32(2003-06~2004-03)	0.994	2.51	0.985	5.80	0.989	3.52
NP-33(2004-09~2005-08)	0.986	2.46	0.977	5.03	0.979	4.15
NP-34(2005-09~2006-05)	0.986	2.39	0.963	3.83	0.959	3.93

RMSE

2011

, (b) ERA5, (c) NASA GISTEMP v4, (d) Berkeley Earth


1979-2000	0.402±0.011	0.784±0.017	0.307±0.009	0.422±0.016	-0.044±0.017
2001-2021	0.792±0.011	1.061±0.018	0.211±0.007	0.93±0.013	1.019±0.017

/10a

0.402 /10a 0.792 /10a 20 1979-2000 1.97

-0.044±0.017

/10a 1.019± 0.017 /10a

（3.78±0.14

	Linear trends			Ratios of the Arctic to NH		Ratios of the Arctic to GL (AA)
	Arctic	NH	GL	Original	Recon	Original	Recon
Recon	0.715±0.011
Berkeley Earth	0.689±0.01	0.285±0.003	0.190±0.002	2.42	2.51	3.52	3.65
GISTEMP	0.626±0.01	0.281±0.003	0.190±0.002	2.23	2.54	3.26	3.72
HadCRUT5	0.637±0.01	0.282±0.003	0.190±0.002	2.26	2.54	3.28	3.69
NOAA-Interim	0.628±0.011	0.278±0.003	0.180±0.002	2.26	2.57	3.41	3.89
CMST2.0	0.662±0.01	0.282±0.003	0.180±0.002	2.34	2.54	3.68	3.97
EM	0.649±0.01	0.281±0.003	0.189±0.002	2.30±0.08	2.54±0.02	3.43±0.17	3.78±0.14

NH： GL：

FourCastNet by NVIDIA

	43 ERA5	hourly ~30TB
	0.25	720× 1440 pixels
·AI		IFS
		NWP

Pangu-Weather

Principles of physics-informed learning

Karniadakis et al., Nature Review Physics, 2021

几点总结与思考

·人工智能和大数据给地球系统模式发展带来新的机遇，AlforEarth已经逐步成为研究热点

应用深度学习的一些弊端：

黑盒难于解释

依赖于大量的样本和标定

单个网络单个任务，泛化能力差

·未来方向

·利用海量的模式数据发现规律，利用在线迁移学习来补充观测数据的不足

·运用异常检测来处理不平衡的样本数据

·运用时空数据聚类和因果网络寻求机理解释

·设计物理约束的神经网络

清华AI for Earth案例

目标识别

1.2000-2020全球无缝遥感数据立方体构建与应用

2.中国30m-10m分辨率地表覆盖制图

3.大规模油棕树木识别

4.百度街景的树木特征识别

5.长时间序列城市制图与扩张

6.农作物AI识别（棉花）

预测增强

1.基于因果关系网络的海冰预报

2.ECMWF气温和风速误差订正

3.ECMWF产品降水订正

4.中国汛期降水预测

5.台风生成短期预报

6.ENSO的深度学习业务化预报

7.结合WRF和同化的AI风能预报

8.珠江口区域海雾预报

模型替代

1.深度学习湿物理过程参数化方案替代

2.深度学习陆面模式参数化方案

3.长序列高精度地表土壤水分反演

4.估算网格化PM2.5日均浓度

5.三维海洋要素场智能重构

6.海洋水文环境数据融合与预报保障

7.AI-PDE方程求解（PINNs）

未来工作计划 (十四五规划)

实现更高效、更精细化的智能网格预报，生产更准确的全要素预报数据产品

利用物理约束的神经网络模型（Physics-informedNeuralNetwork，PINN）将天气预报模式中的云微物理参数化过程替换为深度神经智能网络，在数据同化、模式研发、模式结果释用等方面取得突破，提升天气预报模式的计算效率和预测精度。

采用AI（SRCNN、SRGAN、EDSR等）超分辨率技术，将全球海陆地形数据和各个国家、城市高精度DEM相结合，通过全球基础地理框架，利用迁移学习生成全球高精度海洋地形数据，满足多领域多层次的海洋地形数据应用需求

基于AI的多模式集合预报

子案批名称	点音解进行时间	欢迎后运行健购	浏蛋员
特系位实配特化，附田步贝式中	37分钟	扫	16.0
	2份钟	8
	3	2	251
	2#钟	4B	明
	分	598	92
纸份期	10分件 123分	10f	4.0 5
业务前准备部分：11分58秒
干品名牌
植式信程	超银行对间 230分钟	海培策行间分588	加城信 19.2

实现15\~215天长期多模式集合预报系统

·采用AI方式替代传统统计多模式集成预报方法

发展通用的地球系统模式AI框架

·在计算框架OpenArray中加入自动求导计算能力，实现参数训练及自调优

·实现自定义算子，支持更多计算方法和网格

·分布式图计算优化，打破传统时间步迭代

L·多物理量守恒约束条件和神经网络结构和损失函数的映射关系

2024气象人工智能技术与应用报告

常见问题