Maxwell_Leiの小窝

前言本文将探讨在日常机器学习应用过程中可能出现的数据泄露问题。这个问题在业界通常被称为 “目标泄露”（Target Leakage） 或 “数据窥探”（Data Snooping）。这一问题在相关机器学习教程中鲜有专门讨论，甚至许多从事交叉学科研究的初学人员也未必了解。掌握这一点后，读者将能够更容易地识别出部分论文中存在的错误，或那些对相关细节缺乏严谨说明的情况。 2023 年的一项研究发现，数据泄露是“基于机器学习 的科学中普遍存在的失败模式”，影响了 17 个学科的至少 294 篇学术出版物，并导致了潜在的可重复性危机。 我个人认为目前这个情况是保守了（苦笑 什么是数据泄露数据泄露的核心定义是在模型训练过程中使用了在预测时不应获得的信息 。这种”额外信息”可能来自未来数据、测试集、目标变量本身或全局统计量。这是一种程序性错误，模型通过获取未来或特权信息来有效地“作弊” 。这种现象一般是微妙且间接的，很多机器学习使用者有可能会忽略的存在。 从信息论角度看，数据泄露创造了一种”时空穿越”效应——模型在训练时获得了本不应在预测时点存在的知识。这导致模型的学习目标发生偏离：它不再学 ...

前言前面的内容讲述了，机器学习为地质学家寻找矿产资源开辟了新的契机与范式，并成功克服了传统地学统计模型（如证据权重法）的部分局限。然而，我们也必须正视——机器学习依然存在一些难以彻底消除的不足。这些不足促使部分研究者在成矿预测领域中积极探索，并尝试引入其他方法加以改进。 这也就是我们这部分内容要讲述的深度学习——卷积神经网络 (Convolutional Neural Network, CNN) 的故事。当然在开始讲述我们的主要内容之前，需要先说明一下传统的机器学习的“枷锁”。 机器学习的“烦恼”以支持向量机 (Support Vector Machines)、随机森林 (Random Forests, RF) 和逻辑回归 (Logistic Regression) 为代表的经典机器学习模型，在过去十年中为定量化找矿预测做出了巨大贡献 。然而，这些模型的共同点在于，它们无法直接“消化”原始的地质图件。它们需要的是结构化的、量化的输入，即一系列被称为“证据图层”或“特征图”的专题地图。特征工程，就是地质学家将自己的专业知识和成矿理论，手动转化为这些机器可读的证据图层的过程 。 这 ...

前言随着地球科学进入大数据时代，传统的矿产勘查方法正面临着一场深刻的变革。从传统的统计学模型到现代的机器学习模型，成矿预测正经历着范式的转变。现代勘探工作流需要整合来源多样、结构复杂的海量数据集，包括地质填图、地球物理、地球化学以及高分辨率遥感影像 （当然还有钻孔数据等其他数据）。在这一背景下，机器学习是将这些海量数据转化为精准成矿预测图（Mineral Prospectivity Mapping, MPM）的核心引擎。 当然，从数据角度来看，地质大数据可以分为结构化数据，半结构换数据和非结构化数据。数据相关的内容我会在后续专门开一个系列讲述。这并不是这篇文章的重点。欢迎持续关注 “码上地球——数学地球科学” 获取后续内容。 在众多算法中，随机森林（Random Forest, RF）与支持向量机（Support Vector Machine, SVM）已成为该领域应用最广泛、最核心的两大“主力军” 。它们凭借强大的非线性关系建模能力，在地学数据分析中扮演着举足轻重的角色（论文中随处可见😂）。 本文旨在简单阐述其工作原理，讨论在成矿预测这一特定场景下，哪种算法更能应对 ...

前言矿产勘查的本质上就是是一场在巨大的不确定性中寻求确定性的过程。从早期探矿依赖个人经验和直觉的“相矿”，到后来基于地质理论的知识驱动模型。在漫长的发展中，证据权重法（Weights of Evidence, WofE）的出现开创性地引入了数据驱动的理念，为在地理信息系统（GIS）环境下系统性地整合多源地学信息、进行定量化的成矿预测提供了第一个强大而客观的框架。 尽管证据权重法具有不可磨灭的历史地位，但其赖以成立的数学基石——“条件独立性假设”——与复杂且相互关联的真实成矿地质系统存在着根本性的矛盾。随着现代地球科学进入“大数据”时代，高维度、多源地学数据的爆发式增长使得这一核心假设的局限性日益凸显，甚至达到了其理论框架的断裂点。这一深刻的矛盾，催生并论证了一场势在必行的范式革命：向机器学习的转型。 前排说明：本文旨在探讨地学大数据的发展如何推动成矿预测的进步，而并非深入展开具体算法、数学原理、操作方法，或其在地质大数据中的详细应用。若您对相关算法的使用方法及其在地质大数据中的实践感兴趣，欢迎持续关注 “码上地球——数学地球科学” 获取后续内容。 现实对证据权重法的重拳在 ...

前言承接上文，证据权重法 (WofE) 自问世以来，虽为成矿预测带来了革命性的进步，但其与生俱来的理论缺陷在复杂的实际应用中成为了无法回避的“阿喀琉斯之踵”。正是为了弥补这些裂痕，无数科研工作者前赴后继，开启了一段漫长而富有挑战的“打补丁”征程。 证据权重法的“阿喀琉斯之踵”首先，我们需要先了解为什么要进一步改进证据权重法，或者需要先了解证据权重法的固体有缺陷。主要包括以下几个方面： 致命缺陷：难以满足的“条件独立”假设证据权重法 (WofE) 模型最核心、也最备受诟病的理论基石是：所有证据层（如地质构造、地球化学异常、地球物理特征等）之间必须相互条件独立。 然而，在真实的地质系统中，成矿过程是一个复杂的、多因素相互耦合的系统，各种地质现象之间往往存在着紧密的内在联系和因果关系。例如，断裂构造常常是热液活动的通道，因此会伴生明显的蚀变带和地球化学异常。这些证据因子在空间上高度相关，并非彼此独立。 违背该假设会带来一系列严重后果： 系统性的向上偏倚（Upward Bias）：这是最具破坏性的后果。当证据层相关时，模型会对同一信息的不同表现形式进行“重复计算”，导致对潜在成矿区的 ...

前言在大数据成矿预测的古今发展过程中，已经诞生了多种方法，整体上可归纳为三大类：知识驱动型、数据驱动型以及融合驱动型。 本系列文章将首先从数据驱动型方法入手展开介绍，其他类型的方法将会在后续推文中进行讨论，敬请关注微信公众号“码上地球——数学地球科学”以获取最新内容。 本文聚焦于数据驱动型的地学统计与空间分析方法，包括但不限于： 证据权重法（Weights of Evidence） 信息量法（Information Value Method） 多准则决策分析（Multi-Criteria Decision Analysis） 空间点模式分析（Spatial Point Pattern Analysis） 我们将依次介绍每种方法的原理、适用场景与案例，旨在通过回顾历史发展的脉络，帮助读者更好地理解这些方法，从而为未来成矿预测技术的创新与应用提供借鉴。 证据权重法如果你的研究方向是地质大数据，那么其中一个重要的应用领域就是矿产远景制图（Mineral Prospectivity Mapping, MPM）。这一方法在文献中也常被称为矿产远景区预测图或矿产远景评价图。无论名称如何，本质上 ...

前言这部分内容本质上是和线性回归相关的，主要是解释什么是岭回归和 Lasso回归，也一定程度和机器学习的一小部分内容相关（概念上）。在阅读这篇文章之前，请确保你对线性回归和多重共线性有一定的了解基础。 请注意，本文并不涉及岭回归的代码实现和数学推导 岭回归什么是岭回归 岭回归（Ridge Regression），是一种专门用于处理多重共线性（特征之间高度相关）问题的线性回归改进算法，显然它是一个回归模型。在多重共线性的情况下，数据矩阵可能不是满秩的，这意味着矩阵不可逆，因此不能直接使用普通最小二乘法（Ordinary Least Squares，OLS）来估计模型参数。岭回归通过在损失函数中添加一个正则化项（惩罚项）来解决这个问题。 岭回归也称为Tikhonov正则化（Tikhonov Regularization），这是因为一位名叫安德烈·吉洪诺夫 (Andrey Tikhonov) 的苏联数学家为“不适定问题” (ill-posed problems)”提出了通用且强大的解决方法。他的方法核心就是：在原始的目标函数上，增加一个惩罚项（也就是正则化项），来约束解的平滑性，从 ...

前言这部分涉及的内容需要有一定的卷积神经网络基础支持，包括但是不限于了解：卷积核，池化，归一化等基础概念，当然还有一些内容我会及时补充说明。 本文主要讲述经验性质的如何设计卷积神经网络？，这个问题一定对于初次接触卷积神经网络的学者们有不少的困惑。 卷积神经网络的结构一个用于图像分类的卷积神经网络 (CNN)，其结构通常包含两大核心部分。 前半部分是**特征提取器 (Feature Extractor)**。它主要由一系列卷积层和池化层堆叠而成。卷积层负责识别图像中的局部模式（如边缘、纹理），而池化层则对特征进行降采样，以减少计算量并增强特征的平移不变性。在更复杂的网络中，通常还会引入批量归一化 (Batch Normalization)、通道混洗 (Channel Shuffle) 等技术来优化训练过程和提升性能。 后半部分是**分类器 (Classifier)**。它通常由一个或多个全连接层构成，负责接收并整合前半部分提取出的高级抽象特征，并最终输出每个类别的预测概率。 因此，用于分类的 CNN 本质上可以视为一个特征提取器与分类器的组合体。从这个角度理解，我们也可以灵活地选用其 ...

前言在看深度学习成矿预测以及地球化学数据分析的文献的时候很多引言部分的内容会提到一些老的技术，正所谓：知其然知其所以然。所以我把关于一些老技术的基础铺垫的内容作为：研究生基础指南部分进行记录。 这部分讲述的是因子分析（Factor Analysis），这部分将会说明如下几点内容： 什么是因子分析？ 因子分析的原理 因子分析和主成分分析（PCA）的区别 注：请确保你已经先掌握了主成分分析（PCA）方法 什么是因子分析？因子分析（Factor Analysis，简称FA） 是一种统计方法，主要用于降维 和探索变量之间的潜在结构 。它通过识别一组可观测变量背后可能存在的、不可直接观测的潜在变量（latent variables）或因子（factors） ，来解释这些变量之间的相关性。 其基本思路是：试图找出少数几个公共因子 ，这些因子能够解释原始变量之间的相关关系。 因子分析的原理听起来了和主成分分析（PCA）很像不是吗？关于和主成分分析的区别将在本文的最后说明。现在我们来关注一下他的过程。因子分析的一般模型可以表示为：$X=ΛF+ε$ ，其中： X：p个可观测变量组成的 ...

前言科研绘图是所有研究入门的第一课之一，好的绘图会让你的论文更吸引眼球，尽管绘图方面生物信息方向的的绘图很酷炫，快成了美术专业大比拼了。我常常调侃道：作为“研究型人才”，活生生让论文给变成了一个艺术家（😂）。 本文将会缩短你的试错时间，快速让你有目标的去学习和选择科研绘图软件。这将会是科研入门的众多文章中的一个方面，内容很多，本文主要涉及软件推荐。 必要基础首先需要明确一个点，我们最终的目的是科研绘图，也就是说满足科研要求。所以绘图之前需要先了解如下内容： 格式要求科研绘图最终输出的格式可以包括：PNG，JPG，Tif等格式，具体格式要求根据期刊的不同而不同，为了保险起见，请以Tif 格式为唯一输出格式标准。 注：Tif 和 Tiff 指的是同一个格式，之所以你能看见两种文件后缀，是因为早期 MS-DOS（Windows 系统的爷爷）使用的是文件命名规则是：[8.3 filename]，所以也就遗传下来了，不过随着近代的发展，已经不限制文件后缀的长度了，所以你会看到两种文件后缀，不过他们本质还是一种文件。 其他标准在了解基础的输出格式后，我们还需要确定一个标准：PPI。当然你 ...