这项由德国独立研究者与海德堡大学附属医院放射科及介入放射科联合开展的研究，发表于2026年第43届国际机器学习大会（ICML 2026，韩国首尔），收录于PMLR第306卷。感兴趣的读者可通过arXiv预印本编号arXiv:2606.15760查询完整论文。
深度学习正在以一种令人目眩的速度改变世界，从帮你修照片到生成逼真视频，从识别癌细胞到预测天气。但在这一片繁荣之下，隐藏着一个让理论学家们夜不能寐的难题：我们知道这些神经网络"有效"，却说不清楚它们究竟为什么有效，更无法严格计算出要用多少数据才能让它们学得"足够好"。
核心矛盾在于，数学家们虽然推导出了一系列精妙的理论公式——告诉我们数据的"几何形状"如何决定学习难度——但这些公式里藏着几个关键数字，在现实数据中根本量不出来。这就好比你得了一张藏宝图，地图上写着"向北走X步，向东走Y步"，但X和Y的具体数值却被蜡封住了，无从得知。
正是为了揭开这层蜡封，研究团队搭建了一套他们称之为"流形显微镜"的研究框架，让人们第一次能够在受控环境下，精确测量数据的几何属性，并将理论预言与实验观测直接对照。这个框架的意义不仅限于验证某一条公式，而是为整个机器学习理论研究提供了一个可重复、可扩展的实验平台。
一、数据为什么会有"形状"
要理解这项研究，得先接受一个听起来有点奇特的观点：高维数据往往不是乱糟糟地散落在空间里，而是聚集在一张弯曲的"薄片"上。
以拍摄同一只鸭子雕像为例。你可以围着它转圈，从各种角度拍照。每张照片是一个由数千个像素组成的高维数据点，但所有这些照片之间的变化，其实只由一个参数控制：拍摄角度。这就意味着，尽管每张照片作为数据点生活在一个巨大的高维空间里，但所有照片共同组成的集合，本质上只是一条弯曲的曲线，就像一根绕成圆圈的细线悬在空中。数学家把这根"细线"称为流形，而"只由一个参数控制变化"则意味着它的内在维度是一维的。
把这个例子推广一下：如果你同时调整拍摄角度和缩放比例，变化就由两个参数控制，所有照片组成的集合就是二维流形，像一张弯曲的薄纸片。如果再加上物体的旋转，就是三维流形，以此类推。流形的"形状"——它弯曲得多剧烈、它与自身有多接近相交、它的面积有多大——正是决定机器学习难度的关键几何属性。
这些属性有三个最重要的代表：曲率（流形弯曲的程度，就像甜甜圈的表面弯曲方式与平坦桌面完全不同）、触达半径（英文叫"reach"，简单说就是流形与自身"最危险的接近距离"，触达半径越小，意味着流形越容易自我缠绕，学习就越困难）、以及体积（流形展开后的总面积，反映数据覆盖的范围有多广）。
理论学家已经证明，这三个量深刻地影响着"需要多少样本才能让模型学好"这一问题的答案。麻烦在于，对于真实的图像数据集，这三个量几乎从未被精确测量过。
二、两头热、中间空的困境
现有的研究工具，走的是两个极端。
一端是纯数学构造的流形，比如球面或者甜甜圈形状的环面。这些形状的曲率、触达半径和体积都有精确的公式可以计算，验证理论非常方便。但它们实在太简单、太光滑，和真实的图像数据相去甚远，就像用完美圆球来研究土豆的滚动规律，总感觉差了点什么。
另一端是真实世界的图像数据集，比如ImageNet里的百万张照片。这些数据无比丰富、无比真实，但它们的几何属性完全无从精确得知——没有公式，只能用各种估算方法，误差往往大到难以作为科学依据。
这种"两头热、中间空"的格局，导致理论公式里的关键常数永远无法被验证，机器学习的理论与实践之间的鸿沟始终无法弥合。
研究团队的回答是：我们能不能造出一类数据，它既有真实图像数据的外观和复杂度，又能够精确计算出几何属性？答案是肯定的，而实现这一目标的关键，是密集的、规则的网格采样。
三、流形显微镜是怎么工作的
考虑这样一个场景：你手里有一个橡皮泥捏成的小正方形，你想知道它表面弯曲的程度。最直接的办法是在表面上密密麻麻地戳满小针，通过相邻针脚的高度变化来估算坡度，再通过坡度的变化来估算曲率。针脚越密，估算越准。
研究团队对图像数据做的事情，本质上就是这个思路。他们选取了两个经典数据集作为原材料：一个叫dSprites，里面是正方形、椭圆、心形等简单图形在各种变换（旋转、缩放、平移）下的图像；另一个叫COIL-20，里面是20种日常物品在不同角度下的照片。
研究团队对这两个数据集进行了扩展和改造。他们让每种变换参数都取非常多的离散值（比如旋转角度从0到360度，每隔一小步取一个值），把所有参数组合产生的图像全部生成出来，排列成一个规则的网格。dSprites经过改造后涵盖了旋转、缩放、水平平移、垂直平移四个维度，共产生近二十万张图像；COIL-20则在原有转台角度的基础上，额外加入了面内旋转和缩放两个维度，共产生九万余张图像。
有了这个密集的规则网格，就可以用微积分中"有限差分"的技术来逼近各种导数。所谓有限差分，就是把连续变化的微小差异用离散相邻点之间的差来近似。相邻两张图像之间的差，就是图像随参数变化的"速度"；这个速度的变化，就是"加速度"，也就是曲率相关的量。网格越密，差分计算越接近真实导数，估算误差越小。
具体来说，体积的计算依赖于一阶导数（图像随参数变化有多快），对平滑度要求是三阶；曲率的计算需要深入到三阶导数，对平滑度要求是五阶；触达半径的计算则基于切线空间的估算，利用一阶导数组合实现。理论分析表明，这套有限差分估算体系的误差与网格间距的平方成正比——网格密度加倍，误差缩小到原来的四分之一。这是一个相当优良的收敛性质。
研究团队还将这套方法与另一个公开的曲率估算方法（来自斯里萨兰等人2021年的工作）进行了对比。对照实验在球面、超曲面、双曲面、环面等有精确理论值的流形上进行，覆盖了从两千到两万个样本点的不同规模。结果显示，有限差分方法在各个规模和各种流形上的误差都显著低于对照方法。尤其值得一提的是，对照方法对一个关键超参数高度敏感，研究团队为了公平比较，甚至逐点手动选择了最优超参数，即便如此，有限差分方法依然胜出。
四、理论预言与现实数据的正面交锋
有了精确的几何测量工具，研究团队就可以做一件此前几乎无法做到的事：把经典理论公式的预言，与真实实验的观测结果直接摆在一起比较。
他们选取了两条最具代表性的理论结果。第一条来自热诺维斯等人2012年的工作，这是流形估计领域的奠基性成果之一，证明了用n个带噪声样本拟合一个d维流形时，最好的估算方法所能达到的误差上界和下界，分别与n的某个负幂次成正比，而这个幂次由内在维度d决定——维度越高，收敛越慢。第二条来自费弗曼等人2018年的工作，这一结果专注于从含噪声的数据中"拼凑"出一个候选流形，在低噪声情形下给出的误差上界，其幂次仅为1/d，比热诺维斯的2/(2+d)更陡峭，也就是说随着样本增加，误差下降得更快。
为了进行比较，研究团队采用了两种流形拟合方法。第一种叫流形移动最小二乘（MMLS），这是一种纯几何方法：对于每个待估算的点，在其附近找一群邻居，用加权最小二乘拟合一个局部平面（类似于用尺子在曲面上压出一个切平面），然后把待估算的点投影到这个平面上。研究团队使用的是其中最简单的线性版本，即只拟合切平面而不做更高阶的多项式修正。第二种是β-VAE，一种经典的深度生成模型，由编码器将图像压缩到低维潜在空间，再由解码器重建图像，重建后的图像落在一个学到的流形上。
实验设计覆盖了多个维度的比较：一是在dSprites上从一维到四维变化内在维度，使用MMLS；二是在四维dSprites上对比MMLS和β-VAE；三是跨数据集比较，包括球面、环面、COIL-20和dSprites，统一使用MMLS。
评估指标是从真实流形到拟合流形的单向豪斯多夫距离，即对于真实流形上的每一个点，找到拟合流形上离它最近的点，然后取所有点中距离最大的那个值。这个数字反映了拟合有多"松"，哪里出现了最大的偏差。
从实验结果来看，贯穿所有数据集和模型的一个共同观察是：费弗曼等人的误差曲线斜率，与实际观测到的误差曲线斜率更为接近。这与理论预期相符——使用局部线性拟合的MMLS，其误差的理论预期幂次恰好是1/d，而非热诺维斯的2/(2+d)。换句话说，用尺子压切平面这种简单方法，其效果的理论刻画，费弗曼版本比热诺维斯版本更贴近实际。
β-VAE的表现则明显不同。它的误差曲线比两个理论公式都要平坦，意味着随着训练样本增加，误差下降得相当缓慢，甚至比线性局部拟合还要慢。这说明β-VAE在这类受控流形上并不表现为高阶局部拟合方法，当样本充足时，它的几何拟合能力反而落后于更简单的MMLS。这一发现不是负面评价，而是一种有价值的信息：它暗示β-VAE的训练目标和架构设计，并不以几何意义上的精确流形拟合为优先，而是在编码语义信息和保持生成质量之间做了不同的权衡。
值得注意的是，无论是热诺维斯的常数还是费弗曼的常数，研究团队都没有试图从数据中直接计算出来，而是通过对数-对数坐标下的线性回归来拟合经验误差曲线，再根据曲线形状反向确定使理论边界"恰好包住"经验数据的最小常数。这种做法完全绕开了直接计算常数的困难，也让比较的焦点回归到理论公式真正有意义的部分：误差随样本量增加而下降的速率。
五、神经网络如何一层一层地"捏造"流形
研究的第二项应用，把目光投向了β-VAE内部——它是怎样一步步把输入图像的流形变形成潜在空间里的流形，又怎样把潜在空间的流形还原为输出图像的流形？
每处理一层，数据点对应的流形就发生一次变形。研究团队利用流形显微镜，在β-VAE的每一层输出处，分别计算流形的体积、曲率（包括正曲率部分和负曲率部分分别统计）、触达半径以及不同类别的流形之间的平均距离，追踪这六个量如何随深度变化。
在dSprites上，正方形、椭圆、心形三类形状各形成一条独立的曲线，从输入层经过编码器各层直至潜在空间均值μ，再经过解码器各层回到输出层。在COIL-20上，20个物体各形成一条曲线，图中同时展示了20条曲线的均值和一倍标准差范围。
从编码器侧来看，曲率随层数加深而系统性地增加，而触达半径则随之减小。这意味着什么？曲率增大代表流形变得越来越弯曲，越来越褶皱；触达半径减小则意味着流形与自身越来越接近，几乎快要"碰到自己"。用更形象的说法：输入图像对应的流形，就像一张展开的平整纸张；而经过编码器层层"揉捏"之后，这张纸被折叠得越来越复杂，接近于揉成一团的状态。
另一方面，不同类别流形之间的平均距离，随层数加深而逐渐增大。这说明随着语义信息的提炼，网络将不同物体的表征推得越来越远，越来越容易区分。这是语义理解加强的直接几何体现。
解码器侧的变化则相对对称但不完全镜像：体积在解码过程中显著膨胀，曲率和触达半径则部分恢复，但并不会完全回到输入层的水平，这说明从潜在空间到图像空间的映射并非简单的逆变换，而是引入了自身的几何扭曲。
这些层级几何测量，是此前几乎无法在真实数据上获得的。它们为未来研究神经网络内部的"几何压缩与展开"机制，提供了一种具体可操作的实验方法。
六、这套工具的边界在哪里
研究团队对自己方法的局限性保持清醒。这套流形显微镜目前只能处理内在维度在四到五维以内的流形。维度一旦升高，网格需要的采样点数量就会以指数速度爆炸：如果每个维度取16个采样值，四维就是16的四次方约十六万个点，五维则超过一百万。这是计算资源的硬约束，也是当前框架的主要瓶颈。
对于拓扑结构比较复杂的流形，当前框架要求每个连通分量的形状是若干圆周方向与若干线段方向的笛卡儿积。这覆盖了许多常见的合成数据集，但对于更复杂的真实场景，需要将流形分割成多个局部区块（即"图册"），分别应用框架再拼合结果。
还有一个颇为微妙的问题涉及图像光栅化。当变换参数网格非常密集时，相邻两张图像之间的差异，可能更多来自像素网格的离散化误差（术语叫"光栅化效应"），而非真实的几何变化。有限差分方法会把这些细小的像素级噪声放大，尤其在计算曲率这种需要多次差分的量时，高频噪声可能主导结果。
研究团队对此提出了两种缓解方案：一是对估算出的度量张量（描述流形内在几何的矩阵）做高斯平滑，压制高频噪声；二是在增加参数采样密度的同时，同步提高图像分辨率，确保图像本身能够承载更精细的变换信息。他们通过比较不同采样密度下的估算结果，确认在论文使用的密度下，体积的估算已相当稳定，曲率的估算存在一定的密度依赖性但趋势一致，触达半径的估算对少数类别有较大波动。
这些局限性不掩盖框架的价值，但也清楚地划定了它的适用范围：这是一套为低维受控流形设计的精密测量工具，而不是面向任意现实数据的通用分析方法。
七、这扇窗为未来打开了什么
归根结底，这项研究做的事情可以用一句话概括：在一个精心设计的"玻璃屋"里，让理论和实践第一次能够透过同一扇窗户互相打量。
玻璃屋里的流形，既有真实图像的外观，又有可精确测量的几何属性。理论公式可以在这里被检验：它的斜率对不对，它的趋势对不对？机器学习算法可以在这里被评估：它的几何拟合能力到底有多强，它在不同层次如何扭曲数据的形状？几何估算方法可以在这里被校准：在已知真实答案的情况下，估算误差有多大，在哪种情形下会失效？
对于未来的研究者而言，这套框架打开的方向相当多元。一个直接的应用是评估各种几何估算方法的质量，因为现在有了可以验证的"地面真相"。另一个方向是研究判别性模型——分类器而非生成模型——如何沿着数据流形学习决策边界。还可以通过系统地调整流形的几何属性（改变曲率、触达半径、体积），来研究这些几何特征如何影响模型的泛化性能，从而为设计"对几何友好"的学习算法提供实验依据。
扩展数据集本身也是一个自然的延伸方向，比如加入遮挡、噪声、多模态（文字、音频），或者更丰富的变换类型，让玻璃屋逐渐接近真实世界的复杂度，同时保留几何可测量性这一核心优势。
说到底，这项研究最重要的贡献不是某一个具体的实验结论，而是它搭建的这套基础设施本身。就像一台好的显微镜不只是为了观察某一种细菌，而是为所有需要精细观察的研究者提供了一种通用工具，流形显微镜的价值也在于它的普适性和可复现性。研究团队已经将完整代码公开，这意味着其他研究者可以直接在这个平台上开展自己的实验，而不必从零开始搭建测量体系。
对于普通读者而言，这项研究的意义或许不在于它直接改变了某款产品或某项技术，而在于它悄悄地为机器学习理论的"地基加固"工程贡献了一块重要的砖。当下一代更准确的理论在这个测试平台上得到验证时，那些由理论保证性能的机器学习系统，才有可能真正做到"言之有据"。
Q&A
Q1：流形显微镜框架和普通的机器学习数据集有什么区别？
A：普通数据集（如真实照片）的几何属性无从精确测量，而流形显微镜框架通过对图像变换参数做密集规则网格采样，使数据既具有图像的真实外观，又能用有限差分方法精确计算曲率、触达半径和体积等几何量。这是框架最核心的设计思路。
Q2：触达半径（reach）在机器学习里代表什么意思？
A：触达半径衡量的是一条弯曲流形与自身"最近的距离"——触达半径越小，流形越容易自我缠绕甚至相交，学习时越难区分不同区域的样本。理论上触达半径越大，从有限样本拟合流形所需的样本量越少，学习难度越低。
Q3：β-VAE的误差曲线为什么比简单的MMLS方法下降得慢？
A：β-VAE的训练目标不是单纯最小化几何重建误差，而是同时平衡图像重建质量和潜在空间的正则化，这导致它并不优先追求精确的几何流形拟合。而MMLS只做局部切平面投影，专注于几何逼近本身，在受控流形上的误差收敛速度反而更符合理论预期。