张量网络方法导论 on Yuunagi Library

第二版前言

Mon, 01 Jan 0001 00:00:00 +0000

Preface to the Second Edition#

In the last few years, the field of tensor network method has undergone a very fast development. Since the publication of the first edition of this book, there have been several exciting developments in different directions. At the same time, I moved from Ulm University back to Italy, where I am now heading the Quantum Information and Matter group at the Department of Physics and Astronomy of Padova University. The research group has grown substantially which allowed me to explore different research directions, most of them devoted to the development and exploitation of new features of tensor network methods. Meanwhile, the Italian part of the EU Recovery Plan—NextGenerationEU has impacted my research as well, as it funded the Italian National Center for High-Performance Computing, Big Data, and Quantum Computing (Foundation ICSC), which has boosted the Italian activities on quantum computation, has increased the interaction and cohesion between universities, national research centers and industries in the field of quantum computing, and, as far as concern us, has greatly tightened our interactions with the CINECA, the Italian HPC center. At the same time, in 2022, Padova University funded via an open call a Quantum Computing and Simulation Center (QCSC) which I have the honor to direct. The QCSC was co-funded by several Quantum Centers and universities in Italy, together with the Italian National Institute for Nuclear Physics (INFN), and develops coordinated activities on quantum information among those institutions.

第一版前言

Mon, 01 Jan 0001 00:00:00 +0000

Preface to the First Edition#

In the last years, a number of theoretical and numerical tools have been developed by a thriving community formed by people coming from different backgrounds— condensed matter, quantum optics, quantum information, high-energy, and highperformance computing—which are opening new paths towards the exploration of correlated quantum matter. The field I have the pleasure to work in is mostly based and supported by the numerical simulation performed via Tensor Network Methods, which sprang from the Density Matrix Renormalization Group, introduced by S. White more than twenty years ago. White’s contribution, as the name itself suggests, was based on the powerful theoretical construction introduced in the seventies on the Renormalization Group and critical phenomena by K. Wilson. After a first decade where Density Matrix Renormalization Group has been applied mostly in condensed matter physics, starting from the new millennium, Tensor Network Methods have been developed and adapted to a constantly increasing number of research fields, ranging from quantum information and quantum chemistry to lattice gauge theories.

符号与缩写表

Mon, 01 Jan 0001 00:00:00 +0000

List of Symbols and Abbreviations#

DMRG Density Matrix Renormalization Group LGT Lattice Gauge Theories MF Mean Field MPO Matrix Product Operator MPS Matrix Product State RG Renormalization Group SVD Singular Value Decomposition TN Tensor Networks TTN Tree Tensor Network $\alpha_{j}$ Index for local basis $\beta$ Spontaneous magnetization $\beta_{T}$ Inverse temperature $1 / k_{B} T$ $D$ System dimensionality $d$ Local Hilbert space dimension $\eta$ Anomalous dimension $c$ Correlations $_ \mathrm{H}$ Hamiltonian $k_{B}$ Boltzmann constant $\lambda$ Matrix eigenvalue $m$ Auxiliary bond dimension $N$ Problem dimension or number of lattice sites $\nu$ correlation length divergence exponent $O ( . )$ Order of approximation $\psi$ Wave function $\rho$ Density matrix $\mathsf{S}$ Entropy $\hat{S}$ Spin operator $T$ System temperature $\mathbf{Z}$ Dynamical-scaling exponent

第一部分 · 序章

Mon, 01 Jan 0001 00:00:00 +0000

Part I

Prologue · 序章

建立数值方法的工具箱——从线性代数到偏微分方程求解，为张量网络方法奠定基础。

本部分章节#

第 1 章引言多体量子问题的挑战、张量网络方法的动机与全书结构。第 2 章线性代数特征值问题、Lanczos 方法等数值线性代数基础。第 3 章数值微积分数值积分、高斯求积、薛定谔方程的谱方法与有限差分法。

第1章 · 引言

Mon, 01 Jan 0001 00:00:00 +0000

引言#

Timo Felser 与 Simone Montangero

多体量子问题（many-body quantum problem）以其不同的表述形式，处于我们理解自然与现代技术的核心[2]。一方面，它涵盖了对宇宙基本构成[3]及量子物质（quantum matter）[4,5]的建模。另一方面，大多数未来技术的发展依赖于我们描述和理解多体量子系统的能力：其中包括对化学与药物研究有影响的电子结构问题（electronic structure problem）[6]、量子技术（quantum technologies）的发展[7,9,625]，以及新材料的工程化，例如更高效的光收集材料或呈现拓扑序（topological order）的材料[10–12]。

因此，多体量子问题的求解是现代物理学研究的一个首要目标。找到一种高效求解它的方法将具有不可估量的价值，并将直接或间接影响到自然科学的各个领域——从医学、化学到工程和高能物理——并将为技术发展的“黄金国”（Eldorado）铺平道路，极大地影响我们的日常生活。然而，尽管付出了巨大努力，并且在过去几十年中解析方法和数值方法取得了令人瞩目的进展，多体量子问题仍然是我们面临的最重大挑战之一。

多体量子问题的复杂性立即显现出来：系统N个基本组分（量子粒子数、晶格位点等）的可能配置空间维度随N呈指数增长。实际上，如果每个基本组分由d种可能的不同状态 $\{\alpha_{i} \}_{i = 1}^{d}$（自旋构型、电子或分子轨道、谐振子或角动量能级等）表征，则整个系统的可能配置数为 $d^{N}$ 。在量子力学中，感兴趣的基本对象是系统的波函数，即概率分布振幅 $\psi ( \alpha_{1} \ldots \alpha_{N} )$ ，其模平方给出了系统处于N体构型 $\alpha_{1} \ldots \alpha_{N}$ 的概率：也就是说，感兴趣的对象是包含每个可能系统配置概率振幅的向量。通常，为了跟踪系统的时间演化或找到系统基态对应的本征向量，需要更新该概率向量。迄今为止，只有少数精确可解模型（exactly solvable models）已被确定[13]，而精确对角化技术（exact diagonalization techniques）[14]仅限于少体问题：因此，在诸多情况下代表有趣场景的热力学极限或大N极限常常遥不可及。

总之，多体量子问题的精确处理几乎总是不可行的。然而，已经发展出许多近似解析和数值方法来攻克它：一类强大的方法基于对量子自由度进行半经典处理（semiclassical treatment）[15]，例如忽略或仅考虑系统量子相关性一小部分的平均场技术（mean-field techniques）[16]，比如哈特里-福克方法（Hartree-Fock methods）及其推广[134]。然而，众所周知，这些方法通常在高空间维度表现最佳，而在低维度下表现不佳[18]，特别是在一维中，纠缠（entanglement）和量子涨落（quantum fluctuations）扮演主导角色。另一类取得巨大成功的技术——通常称为蒙特卡罗方法（Monte Carlo methods）——在过去几十年中被广泛用于求解多体问题，特别是研究晶格规范场论（lattice gauge theories）[19]。蒙特卡罗方法通过统计抽样重建模型配分函数，从而捕捉系统的量子内容和统计内容。然而，每当出现负作用量或复作用量（sign problem，符号问题）时，蒙特卡罗方法会受到严重限制[20]，例如在研究有限化学势或非平衡系统时[21]。在许多情况下，仔细、精巧地选择统计算法可以缓解符号问题。然而，已经证明符号问题是NP难的，因此几乎肯定不存在一种通用的多项式算法来通过蒙特卡罗研究具有复作用量的系统[22]。

另一种解决多体量子问题的方法是一类基于重整化群（Renormalization Group, RG）范式的数值方法——这也是本书的核心。RG范式的核心思想是，基于能量考虑对指数增长的希尔伯特空间进行截断。其基本假设是，系统的低能物理主要由其组成部分的低能区决定[23]。在标准RG算法中，系统尺寸被迭代增大，并在每次迭代中丢弃系统不同部分的高能区。这一强大思想在凝聚态系统中得到了进一步发展，由此引入了密度矩阵重整化群（Density Matrix Renormalization Group, DMRG）[24]。最后，在量子信息学界，随着张量网络（Tensor Network, TN）方法的发展，这一思想得到了广泛而深入的拓展[25-32]。正如本书详细阐述的，TN方法提供了一种有效描述多体量子系统的方案，其近似程度取决于所使用的资源，并以可控的方式最优地描述系统波函数中的相关信息[25]。实际上，TN方法基于这样一个事实：波函数 $\psi ( \alpha_{1} \alpha_{2} \ldots \alpha_{N} )$ 所定义的希尔伯特空间的张量结构引入了一定的结构。也就是说，通常 $\psi$ 并非一个完全一般的N阶张量，因此它可能允许一种高效的表示。此外，在某些特殊但重要的情形中，例如短程相互作用哈密顿量的基态，可以证明系统中存在的纠缠遵循某些标度律——纠缠面积定律（Area Laws of Entanglement）[33-38]。这些标度律意味着可以引入一类通过其张量结构定义的态——TN尝试波函数（TN ansätze）——它们能高效地表示系统的基态[25, 26, 29, 31, 39-44, 46, 167]。实际上，我们可以将N阶张量 $\psi ( \alpha_{1} \alpha_{2} \ldots \alpha_{N} )$ 所定义的最自然的张量结构分解为一个由低阶张量构成的网络，这些低阶张量在未引入近似时是等价的。请注意，在引入TN尝试波函数时，我们固定了张量结构，但并未固定张量指标的维度或每个张量的元素：这些是为了构建所研究系统的最优表示（同时仍能捕捉系统的物理性质）而需要优化的变量。

第2章 · 线性代数

Mon, 01 Jan 0001 00:00:00 +0000

线性代数#

Simone Montangero

本章将讨论计算物理学家最常面对的一个简单但普遍存在的问题：特征值问题的求解。在量子物理中，特征值问题通常源于求解描述单粒子或多粒子量子系统的给定哈密顿量。事实上，除了少数几类存在解析解的问题（从无限深势阱到贝特假设计算），量子系统基态和激发态的搜索必须通过数值方法进行。特征值问题的数值求解等同于在一个适当基组中对表示哈密顿量的矩阵进行对角化，无论原始系统是离散的（例如一组量子比特或原子能级）还是连续的（例如自由空间或陷阱中的原子、离子，或玻色-爱因斯坦凝聚体）。后一种情况需要通过空间离散化（见附录B）或二次量子化转化为离散系统。最后，数学、物理学和计算机科学中的大量问题都可以转化为特征值问题。因此，我们首先介绍该问题，然后按复杂度顺序，介绍全局和部分特征值求解器的前沿方法。正如我们将看到的，特征值求解策略基于线性代数运算，为完整起见，我们在此简要回顾这些运算，同时也为了设定符号：全书将使用标准量子力学符号，并假设变量为复数。本章及下一章（以及附录）中的快速概述基于许多优秀的书籍和综述，例如[120–129]。

2.1 线性方程组#

线性方程组可以用算子形式表示

$$ {\hat{O}} | x \rangle = | y \rangle ;\tag{2.1} $$

其中 $\hat{O}$ 是线性算子，向量 x, y 存在于希尔伯特空间 $\mathcal{H} \equiv \mathbb{C}^{N}$ 中。给定 $\hat{O}$ 和 $| y \rangle$，可以利用线性方程组等价变换的性质来求解向量 $\vert x \rangle$，这导致了高斯消去法：(1) 将方程组的行乘以因子 $f_{i , j}$，(2) 将一行替换为该行自身与另一行逐项相加的结果，这两类操作不改变方程组的解。因此，任何形如式(2.1)的线性方程组都可以转化为一个等价的（具有相同解的）方程组，其中算子具有上三角形式

$$ \hat{U} | x \rangle = | y^{\prime} \rangle ; \qquad \mathrm{where} \qquad \hat{U} = \left( \begin{array} {c c c c c} {U_{11}} & {U_{12}} & {U_{13}} & {. . .} & {U_{1 N}} \\ {0} & {U_{22}} & {U_{23}} & {. . .} & {U_{2 N}} \\ {0} & {0} & {U_{33}} & {. . .} & {U_{3 N}} \\ {\cdot} & {.} & {.} & {\vdots} & {} \\ {0} & {0} & {0} & {0} & {U_{N N}} \end{array} \right) .\tag{2.2} $$

给定算子 $\hat{U}$，线性方程组的解可以通过如下回代过程轻松获得：

第3章 · 数值微积分

Mon, 01 Jan 0001 00:00:00 +0000

数值微积分#

Simone Montangero

本章将回顾利用有限精度数学执行微分和积分计算的数值标准方法。事实上，调用数值方法强大帮助所需付出的代价是引入一个有限精度截断，必须仔细考虑该截断，因为它会作为数值误差出现。然而，只要这种误差被控制住并正确界定，例如达到机器精度（见附录A），我们就说最终结果是数值精确的。接下来，我们将回顾求解函数积分和偏微分方程最成功的数值方法，并将它们具体应用于求解少体系统的薛定谔方程，即当系统的波函数及其上作用的算子可以显式写出时的情形。这些方法构成了基于张量网络方法的数值方法的基础，我们将在本书后续部分引入这些方法。

3.1 经典求积#

计算一维实函数 $f ( x )$ 积分的最直观方法直接遵循黎曼积分，即，在函数 $f$ 的支撑空间上定义网格 $\{x_{i} \}_{i = 1}^{N}$，并用 $N - 1$ 个梯形近似函数 $f$：

$$ \int_{a}^{b} f ( x ) d x \simeq{\frac{1} {2}} \sum_{i = 1}^{N - 1} [ f ( x_{i} ) + f ( x_{i + 1} ) ] ( x_{i} - x_{i + 1} ) .\tag{3.1} $$

如果我们假设格点间距是等距的，$h = x_{i} - x_{i + 1}$，则得到梯形法则

$$ \int_{a}^{b} f ( x ) d x \simeq h ( \frac{1} {2} f_{1} + f_{2} + f_{3} + . . . ~ f_{N - 2} + f_{N - 1} + \frac{1} {2} f_{N} ) \equiv h \sum_{i = 1}^{N - 1} w_{i} f_{i} + h . c . ~ .\tag{3.2} $$

其中 $f ( x_{i} ) \equiv f_{i}$，$w_{i} = 1 , 1 / 2$。因此，根据梯形法则，积分表示为在点 $x_{i}$ 处求值的函数值 $f_{i}$ 用系数 $w_{i}$ 加权后的和，再乘以 h。根据定义，结果在格点间距 h 趋于零的极限下是精确的。然而，了解每个有限 $h$ 引入的误差至关重要。误差的阶次可以通过泰勒展开来评估：误差源于用梯形近似函数 $f$ 之下每个底为 $h$ 的面积，而每个梯形的求和并不引入额外误差。因此，只需计算单个梯形的误差，不失一般性，我们假设该梯形中心在零点。然后，我们利用在 $- h / 2$ 和 $h / 2$ 处的两个函数值计算梯形的面积，并将结果与围绕零点泰勒展开得到的解析积分进行比较，即

第二部分 · 多体问题

Mon, 01 Jan 0001 00:00:00 +0000

Part II

The Many-body Problem · 多体问题

从数值重整化群到张量网络方法——攻克多体量子问题的核心武器。

本部分章节#

第 4 章数值重整化群方法平均场理论、数值 RG 与密度矩阵重整化群（DMRG）。第 5 章张量网络方法张量分解、SVD、等距变换、纠缠面积律与 TN 态 ansatz。第 6 章对称张量网络利用对称性提升模拟效率，量子链路模型中的格点规范理论。

第4章 · 数值重整化群方法

Mon, 01 Jan 0001 00:00:00 +0000

数值重整化群方法#

Simone Montangero

本章中，我们将从数值角度介绍重整化群（renormalization group, RG）方法。尽管解析重整化群方法是研究不同现象的常规强大工具[23,136,137]，本文主要关注其在数值求解多体量子问题中的应用。为奠定基础，我们首先介绍多体量子问题的平均场处理，并将其应用于研究横向场中的量子伊辛模型。随后引入数值重整化群方法，最后回顾密度矩阵重整化群（density matrix renormalization group, DMRG）方法的原始形式，以强调其与标准重整化群的联系。

4.1 平均场理论#

多体量子系统顾名思义由多个量子自由度组成。为简化起见，以下假设每个量子自由度都是局域的，且位于格点之上。典型例子是自旋链，但在许多不同场景中，例如光学晶格中的原子[96]，也可以从连续自由度出发推导出相同构造。系统波函数 $| \psi \rangle$ 位于 N 体希尔伯特空间 $\mathcal{H}_{N}$ 中，该空间由所有局部希尔伯特空间的张量积构成：$\mathcal{H}_{N} = \mathcal{H}_{1} \otimes \mathcal{H}_{1} \otimes . . . \mathcal{H}_{1}$。根据定义，波函数给出每个可能系统构型 $\vert \alpha_{1} \alpha_{2} \ldots . \alpha_{N} \rangle$ 的概率幅，其中指标 $\alpha_{i}$ 标记第 i 个格点的可能单体构型，$\{\alpha_{i} \}_{1}^{d}$ （例如，若系统由自旋1/2系统组成，则 $| \alpha_{1} \rangle = | \uparrow \rangle$，$| \alpha_{2} \rangle = | \uparrow \rangle$）。因此，一般态由 N 阶张量描述

$$ \left| \psi \right. = \sum_{\vec{\alpha}} \psi_{\alpha_{1} \alpha_{2} \dots \alpha_{N}} | \alpha_{1} \alpha_{2} \dots \alpha_{N} \rangle ,\tag{4.1} $$

其中 $\vec{\alpha} = \alpha_{1} \alpha_{2} \ldots \alpha_{N}$，而 $\mathcal{P}_{\alpha_{1} \alpha_{2} . . . \alpha_{N}} = | \psi_{\alpha_{1} \alpha_{2} . . . \alpha_{N}} | ^{2}$ 给出系统处于构型 $\alpha_{1} \alpha_{2} \ldots \alpha_{N}$ 的概率。以下局部希尔伯特空间维度 d 也可以是局部希尔伯特空间截断的结果，例如在研究晶格中的玻色子时。尽管为简单起见我们假设整个晶格上局部希尔伯特空间维度 d 是均匀的，但它也可以是依赖于格点的。注意 N 阶张量 $\psi_{\alpha_{1} \alpha_{2} \dots \alpha_{N}}$ 的维度随系统大小呈指数增长。

第5章 · 张量网络方法

Mon, 01 Jan 0001 00:00:00 +0000

张量网络方法#

Timo Felser and Simone Montangero

在本章中，我们介绍张量网络方法的核心概念：首先在第5.1节中定义张量本身，以及用于其操作的最常见运算（第5.2节），作为基本构建块。在此基础上，第5.3节引入了张量网络态的原理，并阐述了最突出的张量网络几何结构。接着，我们介绍了一些最成功的算法，这些算法利用张量网络来研究多体问题（第5.4节）。尽管所介绍的材料远未涵盖该领域快速增长的文献，但它为进入张量网络方法领域奠定了坚实的起点。我们在第5.6节中以快速概述和指向最近开发的、旨在超越我们模拟多体量子系统能力的进一步张量网络方法的文献作为本章的结束。

值得一提的是，本章为张量网络方法的基础理解提供了全面的介绍，而本章中选定的主题将在本书后续章节中，以更技术性的细节讨论实际实现和各种具体应用。

5.1 张量与张量运算#

5.1.1 张量定义与图形表示#

我们首先介绍我们将使用的张量的定义和图形表示，以及对其进行操作的标准运算。

图5.1 张量图形表示：(a) 一个n阶张量。(b) 一个由三个张量组成的张量网络，其张量缩并等价于式(5.5)。(c) 波函数标量积$\langle\varphi|\psi \rangle$。(d) 算子$\hat{B}$作用于波函数$\psi .$。(e) 由蓝色张量编码的波函数所表示的状态的可观测量的期望值（红色张量）。(f) 同(e)，但针对一个N体波函数

定义5.1（张量） 一个张量$\mathcal{T} \in C^{d_{1} \times d_{2} \times \cdots \times d_{N}}$是一个N维数组，具有N个指标，通常形式为

$$ \mathcal{T}_{\alpha_{1} , \dots , \alpha_{N}} ,\tag{5.1} $$

如图5.1a所示。张量的指标数N也指其阶或秩。

计算上，单个张量$\mathcal{T}$可视为线性代数中向量和矩阵的推广。事实上，向量等价于一阶张量（秩1张量），其元素仅由一个指标$i_{1}$访问。此外，矩阵构成二阶张量（秩2张量），分别用两个指标$i_{1}$和$i_{2}$表示行和列。类似地，三阶张量可视为一个三维数字立方体，每个维度对应一个指标。这种信息表示的概念可推广至任意高阶张量。下表5.1列出了低阶张量的常见名称及典型示例。

为简洁起见，张量网络引入了数学张量符号的图形表示：我们用圆圈（或类似的封闭图形）表示张量，用线或链接表示指标，这些线可以连接两个张量。连接两个不同张量的每条链接表示对匹配指标的缩并，详见第5.2.1节。

表5.1 不同N阶张量的定义

名称	示例	阶	记法
标量	常数	0	λ
向量	波函数	1	$\psi_{i}$
矩阵	算子	2	$O_{i , j}$
	·.·	.	.··
N阶张量	N体波函数	N	$\psi_{\alpha_{1} , \dots , \alpha_{N}}$

5.1.2 特殊张量#

在实际应用中，张量网络使用或包含满足特定数学约束的特殊张量。在各种张量网络计算中常用的主要有等距张量（isometry）和解纠缠张量（disentangler），它们可视为酉矩阵到高阶张量的推广。

第6章 · 对称张量网络

Mon, 01 Jan 0001 00:00:00 +0000

对称张量网络#

Simone Montangero

众所周知，对称性在物理学中扮演着基础性角色：其数学描述已被广泛应用于物理学的许多分支，用以理解所关注系统的主要性质、简化其描述，并提升描述这些系统的数值代码的计算性能。在量子力学中，任何物理学家都熟悉的最直接利用对称性的场景，是描述一个在给定变换 g 下不变的哈密顿量的系统。基础量子力学表明，该哈密顿量是简并的（即存在不同的本征态具有相同的能量，这些本征态在该变换作用下表现不同），并且生成该变换的哈密顿量与算子 g 可对易，且能同时被对角化 [135]。也就是说，系统的本征态可以根据一组多重指标进行标记，这些指标唯一地标识每个系统的本征态：典型例子是具有球对称性（例如氢原子）的任何系统的本征态，其本征态可通过三个指标 n、l、m 标记；第一个指标标识能级，另外两个分别标识系统的角动量及其在量子化轴上的投影，从而对应相应的球谐函数 [135]。最后，诺特定理指出，一个在给定连续变换下不变的系统具有一个守恒的连续量 [263, 264]。

在多体物理学中，对称性与系统空间延展所引入的额外自由度相结合。实际上，对称性可能表现为全局对称性（将整个系统视为单一整体，例如反射对称性、平移不变性等）、全局点状对称性（一种全局对称性，表现为在局部可观测量组合作用下的不变性，如全局磁化强度、总电荷或自旋绕自身轴的旋转）以及规范对称性（独立的局部对称性，如高斯定律）。接下来，我们将展示如何利用对称性来提升张量网络算法的性能，并处理特定的对称扇区。

在本章中，我们首先回顾群论（group theory）的最重要元素——对称性的数学描述以及对称张量网络（symmetric tensor network）构建的理论基础。然后，我们向读者介绍对称全局点状和规范不变的张量网络。本章旨在作为该主题的入门介绍，尽可能隐藏技术细节：对对称张量网络的技术细节及实现感兴趣的读者，请参阅本章主要依据的参考文献 [32,59,79]。

6.1 群论基础#

本章引言中提到的论断，可以从群的数学定义出发引出：群 $\mathcal{G}$ 是一个元素集合 $g_{i}$，配以乘法运算（集合中任意两个元素之间的组合规则），满足以下条件：(1) 对乘法封闭，(2) 满足结合律，(3) 集合中存在单位元，(4) 群中每个元素都在集合中存在逆元。若乘法交换，则称该群为阿贝尔群（Abelian group），否则为非阿贝尔群（non-Abelian group）。群可以简单到只含单位元（只由一个元素——单位元——组成），也可以包含无穷多个元素。群中元素的个数称为群的阶（order）。从上述非常抽象的定义出发，可以建立群乘法表（group-multiplication table），列出群元素所有可能乘法的结果。乘法表唯一刻画了群：拥有相同乘法表的两个群称为同构的（isomorphic），即群中的元素之间存在唯一的一一对应。稍后我们需要用到的一个更一般的群间性质是同态（homomorphism）：两个群称为同态的（homomorphic），如果它们之间存在一对多的对应关系，即对于第一个群的每个元素 $A_{i}^{1}$，可以关联第二个群中的一个元素集合 $\{A_{i^{\prime}}^{2} \}_{i^{\prime} = 1 , . . . m_{i}}$，使得若 $A_{i}^{1} A_{j}^{1} = A_{k}^{1}$，则对应集合 $\{A_{i}^{2} \} , \{A_{j}^{2} \}$ 中任意元素的乘积都属于 $\{A_{k}^{2} \}$。

群论与之前介绍的对称性相关联，因为定义系统上的某些操作（平移、旋转等）后，可以将它们组合（乘）起来。如果这些操作构成一个群，就可以建立相应的乘法表。然而，如果不与物理学家对对称性操作的标准描述联系起来，上述抽象构造在量子力学中将难以使用。群表示理论（theory of group representation）提供了桥梁：一个群的表示是与原群同态的具体数学实体（此处为方阵）构成的任意群。如果每个矩阵都不同，则两个群同构，该表示称为忠实表示（faithful or true representation）。这些矩阵的维数称为表示的维数（dimensionality）。最后，通过相似变换 S 可由一个表示构造出等价表示，即 $A^{\prime} = S^{- 1} A S$。事实上，在相似变换作用下群的乘法表保持不变，所有通过相似变换相关联的表示称为等价的（equivalent）。

第三部分 · 张量网络的实现

Mon, 01 Jan 0001 00:00:00 +0000

Part III

Implementation of Tensor Networks · 张量网络的实现

从 MPS 到增广树张量网络——掌握张量网络算法的手写实现。

本部分章节#

第 7 章矩阵乘积态 MPS 算法详解：DMRG、时间演化、TDVP 与变分优化。第 8 章树张量网络 TTN 层级结构、优化算法与高维系统的推广。第 9 章增广树张量网络 aTTN：突破面积律限制，以最低复杂度解锁高维量子模拟。

第7章 · 矩阵乘积态

Mon, 01 Jan 0001 00:00:00 +0000

矩阵乘积态#

Timo Felser 和 Simone Montangero

在第5章介绍了张量网络的核心数学概念之后，本章旨在介绍张量网络计算的概念和实践实现，特别是作为对常用算法及相关主题的探究。具体来说，我们将介绍一些利用张量网络研究多体问题的最成功算法。我们首先使用张量表示重新表述平均场方法。然后，我们引入MPS以及上一章介绍的DMRG在这种新形式下的重新表述。这种观点的转变伴随着新一类变分张量网络态和算法的爆发，以适应不同需求并更有效地描述多种物理现象。接下来，我们将介绍一些模拟一维多体量子系统基态性质和时间演化的算法；并回顾MPS到最直接层次结构——树张量网络（TTN）的推广，该网络将在随后的第8章中深入描述以便动手实现，同时介绍其优化算法。

7.1 通过张量网络寻找基态#

在本节中，在用张量网络重新表述平均场方法之后，我们将介绍最常见和最成功的张量网络态变分形式——矩阵乘积态。然后，我们介绍一些在此类态上进行变分优化以搜索多体哈密顿量基态性质的算法。最后，我们将介绍此类方法到一般无环张量网络的推广，并以对更一般和复杂的有环张量网络的概述结束本节，这些网络是现代张量网络方法研究的焦点。

图7.1 (a) 平均场变分形式的张量网络表示，(b) 实空间重整化群（即树张量网络）的张量网络表示。(c) 平均场近似下态的内积计算，(d) 能量期望值E的计算

7.1.1 平均场#

借助前面几节介绍的张量网络表示，我们现在可以将第4章介绍的强大平均场方法重新解释为一种张量网络算法。事实上，第4.3节引入的（单体）平均场近似可以用由N个单阶张量的乘积构成的张量网络来表示，如图7.1所示。任务则是找到这些张量的元素，使得在平均场变分形式下计算的能量期望值最小化。注意，我们可以轻松地放宽平移不变条件，即方程Eq. (4.5) 中所有张量$\psi^{1}$相等的条件，以适应例如边界效应和/或非平移不变哈密顿量。因此，在假设所研究的系统由最近邻哈密顿量（例如，Eq. (4.4) 定义的横场伊辛模型的情况）描述的假设下，能量期望值由N个1项的和给出，如图7.1d所示。

注意哈密顿量的每一项本身都可以表示为一个张量网络，如图7.1d（红色张量）所示：实际上，对于伊辛模型和许多其他哈密顿量，每个张量的显式形式可以通过解析方式找到。最简单的例子是横向场为零的情况，图中每个红色张量正好是对应的泡利矩阵，辅助指标 $k$ 的维度为1。或者，任何二点算子 $H_{\alpha_{i} , \alpha_{j}}^{\alpha_{i}^{\prime} \alpha_{j}^{\prime}}$ 都可以通过奇异值分解分解为两个较小的张量，如方程(5.12)所示，其中指标被融合为 $\alpha_{i} , \alpha_{i}^{\prime} \succ \mathbf{i}$ 和 $\alpha_{j} , \boldsymbol{\alpha}_{j}^{\prime} \succ \mathbf{j}$ 。正如我们稍后将看到的，这是定义在两个位点上的矩阵乘积算子（Matrix Product Operator, MPO）的最简单例子之一，可用于高效描述和操作作用于多体量子系统的算子。对张量的每次收缩进行计算，除了存在哈密顿量项的情况外，结果简单就是每个局域波函数 $\left| \psi_{j}^{1} \right.$ 的范数。在后面几节中，我们将看到这种简化方法如何引入到更复杂的张量网络中，同时需注意对张量进行适当的规范。

第8章 · 树张量网络

Mon, 01 Jan 0001 00:00:00 +0000

Tree Tensor Networks#

Timo Felser

本章旨在深入讨论树张量网络的基础知识。从第8.1节开始，我们将介绍树张量网络态的基本概念。在对树张量网络进行形式化定义之后，我们会看到这类张量网络态天然具有无环的层级结构，这极大地有利于计算可观测量和寻找多体哈密顿量基态的相关算法。在第8.2节中，我们将把树张量网络的概念推广到更高维系统的研究中。在那里，我们将看到树张量网络的具体结构对于模拟二维及更高维度的系统至关重要[189]，以及如何理想地将一个系统映射以适应树张量网络的拓扑结构。这种映射将通过一个具有最近邻相互作用的4×4系统的逐步实例来进一步强调。此外，我们将会看到，这种网络本身（没有引入第9章中的增强结构）在更高维度上不满足面积定律，因此对于增长的系统尺寸，最终无法忠实地表示物理态。本章的最后一节，第8.2节，致力于对树张量网络数值实现进行深入的技术描述，包括对底层数据结构、重要模块以及实现中高性能计算方面的实际说明的讨论。

8.1 树张量网络态#

定义8.1.1 (树张量网络) 树张量网络，缩写为TTN，是一个遵循定义5.3.1的张量网络，其中任意两个张量恰好由一条路径连接。

定义8.1.2 (路径) 设有一组不同的张量 $( \forall i \neq j : \mathcal{T}^{[ i ]} \neq$ $\mathcal{T}^{[ j ]} )$ ，并设 ν 为一组链接，每个链接 $\nu_{i}$ 连接张量 $\mathcal{T}^{[ i ]}$ 和 $\mathcal{T}^{[ i + 1 ]}$ ，其中 $1 \leq i < k$ 。那么，路径定义为有序、交替的列表 $( \mathcal{T}^{[ 1 ]} , \nu_{1} , \mathcal{T}^{[ 2 ]} , \nu_{2} , . . . , \nu_{k - 1} , \mathcal{T}^{[ k ]} )$

第9章 · 增广树张量网络

Mon, 01 Jan 0001 00:00:00 +0000

增广树张量网络#

Timo Felser

在本章中，我们将更详细地描述增广树张量网络（augmented Tree Tensor Network，aTTN）——一种针对高维量子系统的新型张量网络几何结构。aTTN最初是为了对即将到来的量子技术（如量子模拟器和量子计算机）进行基准测试而构想出来的，它彰显了张量网络方法对于开创量子技术的实验团队的影响[149]。近期实验在超导量子比特、超冷原子、 trapped ions 和里德伯原子晶格等不同平台上实现了具有前所未有的维度的量子多体态，这凸显了对一种稳健的数值工具进行验证和基准测试的需求[319–322]。

正如前一章（第5章）所述，三十年来，张量网络已发展为在经典计算机上模拟量子多体系统的方法。虽然矩阵乘积态（MPS）主导了一维系统，但寻找能够准确且可扩展地模拟高维系统的张量网络算法的探索仍在继续[170, 171]。现有的几何结构，如用于二维系统的投影纠缠对态（PEPS），以及适用于各种维度的树张量网络（TTN）和MERA，在有效表示高维量子态的纠缠特性方面存在局限。然而，增广树张量网络（aTTN）能够捕捉高维系统中复杂的纠缠特性，同时与PEPS和MERA等竞争者相比，保持有利的计算复杂度。通过融合MERA和TTN的优势，aTTN能够模拟临界和非临界系统，将边界扩展到前所未有的系统规模。

随后，我们将深入探讨aTTN的技术细节，提供对这种新型张量网络方法的深度探究。本章解释了aTTN如何解决在高维系统中忠实地再现TTN面积定律的挑战，同时保留其关键优势：（i）与MERA和PEPS相比，对键维度m的标度较低，以及（ii）能够精确收缩网络。本章还详细介绍了用于量子多体系统基态搜索的优化技术，并概述了有效计算可观测量的过程。最后，一项将aTTN与TTN在临界二维海森堡模型上进行综合比较的研究表明：（i）aTTN在描述两体关联方面具有更高精度，（ii）对纠缠消除器（disentangler）位置及其对数值结果影响的分析，以及（iii）aTTN更有利的CPU时间。

9.1 aTTN的技术描述#

在本节中，我们将以更技术性的细节描述aTTN，提供对我们这种新型张量网络方法的全面概述。我们首先更详细地解释aTTN的结构，以及它如何在保持其主要优势的同时弥补TTN的缺点：（i）与MERA和PEPS相比，对键维度m的标度较低，以及（ii）能够精确收缩网络。此外，我们详细描述了用于量子多体系统基态搜索的aTTN优化技术，并额外说明了如何有效计算可观测量。最后，我们在一项针对临界二维海森堡模型的广泛研究中，将aTTN与TTN进行了更详细的比较，展示了aTTN在描述两体关联 $\langle \sigma_{i , j}^{\gamma} \sigma_{i^{\prime} , j^{\prime}}^{\gamma} \rangle$ 方面的更高精度，对纠缠消除器位置的设计及其对数值结果影响的分析，以及aTTN更有利的CPU时间。

由于以下内容基于已发表的论文并旨在提供更深入的理解，本章仅应在此背景下理解，并包含原始论文中的选定部分和材料，而未明确引用。

9.1.1 aTTN几何结构#

增广树张量网络（augmented Tree Tensor Network，aTTN）在晶格 $\mathcal{L}$ 上表示波函数 $| \psi \rangle \in$ $\mathcal{H}$，其中希尔伯特空间为 $\mathcal{H}$ 。通常，晶格 $\mathcal{L}$ 可以是一个包含 $\begin{array} {r} {N = \prod_{i = 1}^{D} L_{i}} \end{array}$ 个格点的 D 维晶格，每个格点 $j \in \mathcal{L}$ 由有限维数 $d_{j}$ 的局域希尔伯特空间 $\mathcal{H}_{j}$ 描述，因此其完整的希尔伯特空间由 $\mathcal{H} = \otimes_{j} \mathcal{H}_{j}$ 张成。

第四部分 · 应用

Mon, 01 Jan 0001 00:00:00 +0000

Part IV

Applications · 应用

张量网络方法在前沿物理问题中的实战应用——从凝聚态到高能物理，再到机器学习。

本部分章节#

第 10 章量子相变 Landau 理论、量子-经典对应与纠缠测度在 TN 中的应用。第 11 章哈密顿量格点规范理论量子链路模型、高斯定律与 TN 对格点规范理论的模拟。第 12 章非平衡过程绝热量子计算、Kibble-Zurek 机制与多体量子最优控制。第 13 章张量网络机器学习 MPS 分类器与监督学习——张量网络在 ML 中的新范式。

第10章 · 量子相变

Mon, 01 Jan 0001 00:00:00 +0000

量子相变#

Simone Montangero

对平衡态多体量子系统物理学的理解涵盖了众多过程，这些过程正是我们理解自然的核心。例如，材料特性、化学分子以及用于高能物理的格点规范理论都属于此类。本章将从凝聚态物理学家的视角出发，主要关注量子物质的性质，介绍进入这一迷人领域所必需的基础知识。然而，我们不会对已有大量文献的这些精彩主题进行全面介绍（参见，例如，[137, 141, 264, 333, 334]）：我们将介绍一套有用的概念集合，以便开始在该领域工作，特别是考虑用张量网络（TN）方法解决这类问题。我们首先介绍相变的基础知识，简要回顾铁磁性的朗道理论以及不同维度系统之间的统计量子-经典对应关系。最后，我们介绍用于表征此类现象的局域和非局域（纠缠）度量，这些度量可以通过 TN 方法轻松处理。

10.1 相变#

每个人都熟悉相变，即物质的表观和性质随温度变化而发生剧烈改变：水在零度结冰，在一百摄氏度量沸腾。而另一类发生在磁性材料中的相变 [15] 可能不那么为人熟知。事实上，通过实验可以验证，在某个特定温度以下，即使没有外磁场，一些材料也会突然表现出非零的自发磁化。此外，作为温度函数的磁化强度在临界温度 $T_{c}$（磁化出现的地方）处是不可微的（见图 10.1a）。导数在临界点的不连续性表明系统内部发生了剧烈变化：系统的微观组分正在重新排列，一种新的集体现象出现了，这必然要求系统内存在广泛的关联（所有磁自旋沿同一方向排列），并且，正如我们将看到的，会发生对称性的自发破缺。

a) b)

图10.1 (a) 磁化强度随温度变化的示意图，在临界温度 $T_{c}$ 处经历相变。(b) 铁磁性朗道理论：不同温度下自由能作为磁化强度的函数；在 $T = T_{c}$ 时，$M = 0$ 处的稳定最小值变得不稳定，自由能变为一个四次函数，具有两个简并最小值，反映了问题的 $\mathbb{Z}_{2}$ 对称性

从现象学和宏观角度模拟此类现象的最早尝试是铁磁性的朗道理论（Landau theory of ferromagnetism）[335, 336]。其核心思想是利用一个状态方程来描述现象的主要方面，该方程需尊重问题的对称性，并将描述系统的两个最重要的热力学量联系起来：自由能 $F$（系统达到平衡时需要被最小化）和磁化强度 $M$（系统的独立变量）。假设对函数 $F(M)$ 进行幂级数展开，我们得到

$$ F ( M ) = F_{0} + F_{1} M + F_{2} M^{2} + F_{3} M^{3} + F_{4} M^{4} ,\tag{10.1} $$

其中高阶项被忽略，并假定它们不是解释我们感兴趣的主要特征所必需的。这是一个完全任意的假设，其合理性仅靠理论的成功来事后验证。我们假设不存在择优方向，即自旋之间通过某个特定的哈密顿量相互作用，该哈密顿量无法区分“上”和“下”方向：系统表现出 $\mathbb{Z}_{2}$ 对称性（在宇称算符下不变）。因此，式(10.1)中的奇数项应为零，即 $F_{1} = F_{3} = 0$。最后，我们假设 $F_{4} > 0$，并且二次项系数以最简单的可能方式依赖于温度（温度应在某处出现），即 $F_{2} ( T ) = F_{2} ( T - T_{c} )$。

第11章 · 哈密顿量格点规范理论

Mon, 01 Jan 0001 00:00:00 +0000

哈密顿量格点规范理论#

Giovanni Cataldi

本章探讨张量网络算法在格点规范理论中的应用。格点规范理论是一个通用的框架，用于研究在离散时空格点上具有规范对称性的量子场论[354-358]。格点规范理论构成了理解自然界基本相互作用的基础，其核心是规范不变性——即物理定律在局部对称变换下保持不变的原则。量子电动力学中的U(1)群和量子色动力学中的SU(3)群等对称群定义了标准模型中基本力的动力学。

格点规范理论提供了一种非微扰的方法来研究量子场论，尤其是在传统方法失效的领域[359-365]。通过离散化时空，格点规范理论使得数值模拟成为可能，从而揭示了诸如禁闭[366-371]、手征对称性破缺[372-375]、强子谱以及夸克和胶子的动力学[376]等引人注目的现象。此外，格点规范理论在粒子物理学之外也有应用，为高温超导[377-379]和自旋液体[380, 381]等低能现象提供了宝贵的见解。

与其他量子多体系统相比，这些理论带来了独特的挑战，因为像QED和QCD这样的模型具有强相互作用的性质。解析方法往往力不从心，数值方法也面临巨大困难。拉格朗日形式下格点规范理论的传统蒙特卡洛模拟[382-393]虽然极其强大，但受到著名的符号问题（sign problem）[365, 394, 395]的限制，这阻碍了其在实时动力学和有限密度区域的有效性。相比之下，哈密顿量形式的格点规范理论特别适合张量网络方法和量子模拟，因为它可以直接进入这些具有挑战性的区域[282, 396-400]。

本章全面介绍了哈密顿量格点规范理论，首先在第11.1节回顾了时空的格点离散化。讨论包括第11.1.3节中的交错费米子（staggered fermions）和第11.1.4节中的规范场（gauge fields），这些是建模这些理论中物质和相互作用的基本组成部分。本章的原创贡献始于第11.2节中引入的“着装位”形式（dressed-site formalism），这是一种规范不变的框架，旨在利用张量网络算法和量子硬件处理格点规范理论的复杂性。这种方法在维数较高、格点规范理论模拟变得愈发具有挑战性的情况下尤其有利。本章探讨了着装位形式的两种具体实现：第11.3节中的U(1)（阿贝尔）格点规范理论和第11.4节中的SU(2)（非阿贝尔）杨-米尔斯格点规范理论。这些实现已成功应用于多项研究[282, 396-403]中产生关键的数值结果，进一步加深了我们对格点规范理论及其在描述自然界基本力中作用的理解。

11.1 格点离散化#

我们来考虑由 $(D+1)$ 维点 $r ~ = ~ ( t , \mathbf{r} )$ 标识的连续 $(D+1)$ 维时空域 $(\mathbb{R}^{D} \times \mathbb{R})$，其中 $\mathbf{r} ~ = ~ ( \mathbf{r}_{1} , \ldots \mathbf{r}_{D} )$。在执行空间离散化时，时间变量 $t$ 保持连续，而空间域 $\mathbb{R}^{D}$ 被一个超立方 $D$ 维格子取代，其格点按晶格常数 $a_{0}$ 等间距排列（见图11.1）。然后，格点由坐标 $\mathbf{n} = ( \mathbf{n}_{1} , \ldots , \mathbf{n}_{D} )$ 标记，其中 $r_{k} = a_{0} n_{k}$ 且 $n_{k} \in \{1 \ldots N_{k} \}$，$N_{k}$ 表示沿第 $k$ 个方向的格点数目，$\forall k = 1 , \ldots , D$。那么，如果 $\begin{array} {r} {N = \prod_{k = 1}^{D} N_{k}} \end{array}$ 是总格点数，对应的晶格体积为 $V = a_{0}^{D} {\cal N}$。此外，我们定义指向 $\pm k^{\mathrm{th}}$ 方向的单位晶格矢量 $\pm \pmb{\mu}_{k}$。我们采用对晶格矢量的求和仅包含正方向的约定。那么，沿 $+ {\pmb{\mu}}_{k}$ 方向连接两个相邻格点 $\mathbf{n}$ 和 $\mathbf{n} + \pmb{\mu}_{k k}$ 的格点链路由对 $( {\bf n} , {\pmb \mu}_{k k} )$ 表示，或者等价地由 $( {\bf n} + {\pmb{\mu}}_{k} , - {\pmb{\mu}}_{k} )$ 表示。为后续方便，若 $(-1)^{\mathbf{n}} = (-1)^{\sum_{k} n_{k}}$ 为偶数（奇数），则称该格点为偶（奇）格点。

第12章 · 非平衡过程

Mon, 01 Jan 0001 00:00:00 +0000

非平衡过程#

Simone Montangero

非平衡过程无处不在；它们环绕着我们，生命之所以可能，正是因为原本平衡（死亡）状态中暂时的非平衡涨落。事实上，现实世界中的任何系统都与周围环境接触，并受不断变化的条件（温度、相互作用强度等）驱动，从而偏离其平衡态。此外，从信息处理到能量收集，任何有用的过程都基于这样一个事实：系统被驱离平衡态，进入另一个（可能是平衡的）状态。在量子层面上也是如此，正如我们将在本章中看到的，能够研究改变状态的系统，理解这种变化何时发生、如何高效驱动，以及预测这种转变的结果，具有极其重要的意义。如前所述，现在在很多一维多体量子系统场景中，利用前几章引入的张量网络方法，这已经成为可能。

特别是，典型场景是从某种平凡状态驱动到更复杂状态的系统。近期受到密集研究的许多不同场景，都可以看作是系统状态的变化——从简单、初始的给定状态变为更复杂但有意义的状态。这类过程的第一个例子是大多数实验装置的制备：通常系统处于某个平衡态，必须从中达到另一个更有趣的状态。该场景的一个相关实例是任何量子信息协议，尤其是量子计算：量子比特寄存器必须从平凡状态（例如 00000 ）驱动到编码问题解的状态。类似地，量子模拟无非是系统从初始状态演化到另一个不那么平凡的状态，例如从绝缘态到超导态。这个过程也是更广泛过程类别的一个实例，即跨越量子相变（绝热量子计算）。由于计算机科学中的大多数难题都可以重新表述为绝热计算形式[485]，并且绝热计算等价于基于线路的计算[486]，因此对它们的研究至关重要。最后，所有这些转变也可以在存在环境的情况下进行研究，并且特别地，已经证明可以工程化环境以实现有趣的状态[487–489]。

本章中，我们首先介绍绝热定理（adiabatic theorem），绝热计算正是基于该定理。然后，我们介绍Kibble-Zurek机制（Kibble-Zurek mechanism），这是一个强大的理论，可以在非常一般的假设下预测当绝热条件被轻微违反时引入的误差。我们介绍一些超越绝热方法的方法，并简要回顾关于非平衡开放量子系统的一些结果。最后，我们简要提及近期探索的其他方向，涉及高能物理、开放系统和复杂性等问题。

12.1 绝热量子计算#

本节中，我们介绍绝热量子计算（adiabatic quantum computation）或量子退火（quantum annealing）。我们首先介绍绝热定理，这是支持绝热量子计算方法的理论论据。然后，我们介绍可以应用绝热定理的最简单场景——Landau-Zener穿越（Landau-Zener crossing），最后概述该方法在研究量子物质和经典难题中的可能应用。

12.1.1 绝热定理#

绝热定理指出，如果含时哈密顿量 ( H(t) ) 变化得足够慢，并且系统被制备在初始哈密顿量的一个本征态 ( |\psi(0)\rangle = |E_i(0)\rangle )（例如基态）中，那么系统在整个演化过程中将保持在相应的含时本征态中，即 ( |\psi(t)\rangle = |E_i(t)\rangle )。绝热定理所依据的思想非常直观，与经典思想并无不同：如果系统处于其基态（例如，粒子在势能最小值处），缓慢改变条件（移动势能或使其变形）将不会激发它。

已有术语表（前面章节已引入，用指定译名，不要再附英文）：

Gaussian elimination → 高斯消去
Hermitian operator → 厄米算子
Hilbert space → 希尔伯特空间
Ising Hamiltonian → 伊辛哈密顿量
Krylov subspace → Krylov 子空间
LU decomposition → LU分解
Lanczos diagonalization algorithm → Lanczos 对角化算法
Lanczos method → Lanczos 方法
Random Matrix Theory → 随机矩阵理论
Tridiagonal Matrices → 三对角矩阵
back substitution → 回代
degeneracy → 简并
eigenstate → 本征态
eigenvalue → 本征值
eigenvalue problem → 本征值问题
eigenvector → 本征矢
inverse power method → 反幂法
linear operator → 线性算子
power method → 幂法
power methods → 幂方法
sparse matrix → 稀疏矩阵
tight binding models → 紧束缚模型
tridiagonal matrix → 三对角矩阵
upper triangular form → 上三角形式

遇到新术语（不在上表里），首次出现时附英文原文，如：绝热定理（adiabatic theorem）。翻译完成后，在译文最末尾用以下格式列出本章新增的术语（每行一个）：

第13章 · 张量网络机器学习

Mon, 01 Jan 0001 00:00:00 +0000

张量网络与机器学习#

Timo Felser

张量网络在经典计算机上模拟复杂量子系统取得了突破性成就，但其应用早已超越学科边界。事实上，这些数值工具已在多个领域得到应用，从应用数学中的复杂优化问题，到量子化学和材料科学中的数值分析。在这些激动人心的跨学科应用中，本章聚焦的领域是张量网络在机器学习中的运用。

在最近的突破性进展中，张量网络已成为监督式和无监督式机器学习任务中的强大工具，在 MNIST [222, 611] 等标准数据集上展现出与最先进神经网络相媲美的性能。值得注意的是，考虑到张量网络在机器学习中的应用相对年轻，这一成就更显难能可贵。基于张量网络的机器学习具有实时预测的独特优势，例如在欧洲核子研究中心（CERN）大型强子对撞机数据加速分析和分类中的应用 [227]。

在详细探讨张量网络如何执行机器学习任务之前，我们将首先简要总结机器学习的概念。随后，介绍利用张量网络作为分类器及其与量子多体物理的关联。最后，展示基于张量网络的机器学习应用的最新成果与比较。

13.1 机器学习简介#

在标准软件开发中，程序员用某种编程语言编写具体规则，程序在运行时遵循这些规则。因此，软件行为方式由所写编程规则和程序员代码的逻辑决定（只要没有意外错误）。而在机器学习中，计算机应从代表待解决问题（如图13.1所示）的数据中自行推导出决策规则。机器学习的核心概念是识别数据中的拟合模式，并据此对新数据进行预测。因此，我们使用学习方法或算法从现有数据中推导统计规律，这些规律可以表示为数值模型。利用学习到的模式，这些模型可以对新数据进行预测，从而构建基于算法的系统——一方面支持决策，另一方面可用于自主系统。

图13.1 机器学习与标准软件开发的比较：(上)在标准软件开发中，程序员编写程序执行的规则。(下)在机器学习中，计算机基于代表问题的给定数据，在学习过程中推导决策规则（即决策函数f(x)）。随后，推导出的决策规则（即学习到的模式）用于对新数据进行预测

图13.2 机器学习的训练过程类型示意图：监督学习（左）旨在从已知输入$x_{i} ~ \in ~ X$到已知输出$y_{i} ~ \in ~ Y$（标签）找到最佳映射，需要相应标注的数据。无监督学习（中）旨在找到已知输入$x_{i} ~ \in ~ X$的最佳分组，即定义标签Y。强化学习（右）旨在仅知道特定目标$y_{t a r g e t}$的情况下找到最佳动作，无需输入数据，而是拥有可执行动作和所处状态的映射图

数学上，我们的机器学习任务是逼近目标决策函数

$$ f : X \to Y , y = f ( x )\tag{13.1} $$

我们并不确切知道或过于复杂而无法精确计算。现在，为了训练我们的模型，即为 $f$ 找到一个良好的近似，根据数据集和具体的数据问题，我们有不同类型的训练过程（对比图13.2）：

监督学习（supervised learning）：在这种情况下，数据集中有若干数据样本 i，我们知道其输入 $x_{i} \in \ X$ 以及决策函数（decision function）$f ( x_{i} )$ 对应的输出 $y_{i} ~ \in ~ Y$，即标签。因此，目标是找到正确的模式——即正确的函数 f——使其能从给定样本产生相应的标签。具体而言，若标签是离散值，则此任务为分类；若标签空间是连续的，则为回归。我们将在第13.1.1节详细描述监督学习。

附录A · 物理学家硬件速览

Mon, 01 Jan 0001 00:00:00 +0000

物理学家眼中的硬件速览#

计算物理学在两个方面处于物理学的前沿：（1）从欧洲核子研究中心（CERN）的最大规模实验尝试到冷原子领域的单台桌面实验，专用软件和硬件的支持都是基础性的。在这两种情况下，如果没有软件控制所实现的自动化，这些实验大多不可能完成，而数据的后处理和分析通常需要数TB的存储容量和数千行代码；（2）用于模拟物理过程的软件复杂性已经变得极高，以至于数值实验现在在复杂性（需数年搭建、数千行代码）、资源（超级计算机、数月的计算时间）方面与真实实验不相上下，更不用说对现实的描述能力。因此，有必要了解应对这些迷人挑战所需的工具，以便在必要时能够修改实验装置的每一个微小细节，包括运行它所使用的软件和硬件。下面，我们介绍一些计算机体系结构的基本概念，任何计划进行数值实验（即使是小规模）的物理学家都应该了解这些概念，它们也可以作为更高级阅读的起点。

A.1 体系结构#

现代计算机基于冯·诺依曼体系结构（von Neumann architecture）建造，其示意图如图A.1所示，由以下各司其职的组件构成：

存储器，用于存储数据和程序指令。

中央处理器（CPU），分为控制单元（从存储器中获取指令/数据、解码指令并协调要执行的操作）和算术逻辑单元（ALU，专门负责数据处理）。

图A.1 冯·诺依曼计算机体系结构：控制单元（CU）、算术逻辑单元（ALU）、存储器、输入输出设备及其相互关系（粗线表示数据/指令流，虚线表示控制信号流）

输入输出（I/O）设备，即与外部存储器和用户的接口。

这种体系结构的主要创新——如今看来或许有些理所当然——在于它允许构建通用计算机，而先前的体系结构是为执行特定任务而构建的，即程序是硬连线的，而非存储的。相反，冯·诺依曼体系结构允许将计算机程序（它要执行的指令集）写入其存储器中，使其成为一种高度通用的机器，这一事实自其诞生以来基本保持不变即可证明。事实上，在过去的几十年里，所有计算机组件都经过了广泛的修订和改进，但除了DEC在六十年代末制造的PDP-11中首次引入的一项创新外，无需重新思考这种基本计算机体系结构。这项创新就是系统总线（system bus），这是一种专用硬件，用于在组件之间沿着一条由它们共享的唯一路径传输数据：总线的唯一性简化了对其他组件同时请求的可能冲突的存储器访问的仲裁。

A.2 数据与格式#

众所周知，现代计算机中的数据使用二进制编码以比特（bit）形式存储。这意味着存在一组物理实体（系统的存储器），每个实体只有两种可能的不同状态（称为0和1）。如今看似自然的选择并非唯一可能：替换这一定义会产生非常有趣的后果：量子比特由两个量子态0和1定义，当今所有的量子技术都源于此[8]。回到经典比特，例如，数字42可以写成

(101010)

这应解读为 (1 \times 2^{5} + 0 \times 2^{4} + 1 \times 2^{3} + 0 \times 2^{2} + 1 \times 2^{1} + 0 \times 2^{0})。在专业术语中，8比特组成一个字节（byte），2个字节组成一个“字”（word），4个字节组成一个“长字”（long word），8个字节组成一个“长整数”（long integer）。定义了正数之后，基本运算可以像通常那样构建。这里我们简要展示两个字节的加法：

$$ \begin{array} {r l} {2} & {{} 0000001} \\ {+ 3} & {{} 0000011} \\ {= 5} & {{} 00000101 ,} \end{array}\tag{A.2} $$

其中每一位的求和以模二方式进行，产生的进位（如果有）则传递给左侧的一位。

附录B · 物理学家软件速览

Mon, 01 Jan 0001 00:00:00 +0000

物理学家的软件概要#

计算物理学的目标是攻克其他方法无法处理的问题，补充实验和理论研究，建立对其结果的信任，并探索超出其范围或分析特别困难的参数区域。对于计算量子物理学来说尤其如此，在该领域中，分析工具的应用面临着巨大挑战，例如在多体系统中。特别是当目标是进行顶尖学术研究时，方法和工具不仅仅是现有技术的简单应用：相反，它们被推到了极限，在需求和目标变化非常迅速的快速演变的场景中。确实，与开发软件的商业应用领域不同，关于软件应在何种情况下、使用何种资源执行何种功能的规范（软件需求规格说明）不能——也不可能——一劳永逸地精确定义，而是随着软件的使用加深对所应对问题的理解而不断演变。因此，在规划开发科学软件时，应该意识到，无论多么努力，最终都必须满足三个要求，即：

R1 随着情况演变和相应需求的变化而修改软件；

R2 处理大量数据；¹

R3 使用大规模和/或低效算法解决难题。

鉴于上述三个需求 R1、R2 和 R3 如此普遍且无处不在，专业计算物理学家应当学会如何应对它们，就像学会求解积分或掌握其研究领域中的特定技术一样。事实上，上述三个需求要求采用过去几十年发展起来的某些策略，特别是：

S1 软件工程：编写良好且灵活的软件，易于调试和扩展；

S2 脚本化：尽可能将工作自动化，因为前处理和后处理所需的工作量将与生成数据本身相当；

S3 优化与高性能计算：尽可能高效，并准备好在必要时使用“蛮力”。

本章引导读者了解上述策略，这些策略应以最高效的方式用于攻克科学计算问题。要应对上述看似巨大的挑战，一个良好的出发点是以下优先级列表，任何编写科学软件的人都应尽可能遵循这些优先级 [120, 121]。这些优先级普遍适用于任何科学软件（其中大多数也适用于任何软件），然而，为清晰起见，下文将针对量子物理领域进行专门阐述。按优先级顺序排列，并附有明确的优先级动机：

正确性——要有用；
数值稳定性——要可信；
精确离散化——要描述自然；
灵活性——要可用；
效率——要做得漂亮！

在本章剩余部分，我们将向读者介绍每个方面最重要的内容，这些内容在编写优秀的科学软件时应牢记于心。

B.1 正确性#

优秀的科学软件的基本要求显然应该是正确的，即它应按照所用编程语言、版本及编译器的要求，以正确的语法执行正确的指令序列。然而，即使是技术娴熟、经验丰富的程序员，编写出没有任何错误的几行代码的概率也基本为零。因此，必须制定并采取行动和策略来纠正这些不可避免的错误。第一个支持来自编译器，这是一个将源代码转换为低级代码的程序。通常，编译器能够识别语法错误，并且不断改进以涵盖更多可能的错误场景。然而，即使编译器运行无误并生成编译后的代码（即可执行程序），该程序仍可能因多种不同原因而崩溃，例如内存分配问题（程序试图写入未分配的内存位置）、“差一错误”（Off-by-one，例如递归索引从零开始而不是从一开始，或反之）。发现并纠正这些错误及其他错误就是“调试的艺术”，需要时间和经验。不过，可以采取一些好的实践来加速这一过程，下面简要介绍：

– 使用打印（print）语句检查变量名，同时结合编译器选项，该选项允许选择用于调试的代码行（例如，ifort 编译器的 d 选项，以及在调试测试行的开头使用 d）：

1 d PRINT * , " x 的值是 " , x

这种组合是一种快速减少调试时间的方法，因为为此目的编写的代码行不会被删除，而是保留在那里，以便在出现另一个错误时重复使用。

– 对于更复杂的检查，当需要编写多行代码和/或可在程序其他部分复用这些代码时，可以定义专用的子程序（SUBROUTINE）或函数（FUNCTION），并带有一个启用全局变量以及扩展标志和输出。此类代码最简单的示例可能采用以下形式：

FUNCTION 检查点
2 IF (DEBUG)
3 PRINT * , " x 的值是 " , x
ENDIF
5 END FUNCTION

– 最后，在代码复杂度达到一定水平以上时，强烈建议使用专业调试器，例如 GNU 调试器 GDB，甚至可以使用图形用户界面（DDD）[637,638] 辅助。