归档

2026 年 03 月

优化器｜Optimizer

2026-03-03

AI #NLP #Deep Learning #Machine Learning

第一节：绪论——优化算法在神经网络训练中的核心地位在深度学习的范畴内，模型训练的本质是一个在大规模参数空间内寻找最优解的非凸优化问题。优化器（Optimizer）作为连接模型架构与数据特征的桥梁，其核心任务是通过计算损失函数 L 对模型参数 θ 的梯度，利用特定的更新规则使目标函数最小化。

Dropout

2026-03-01

AI #NLP #Machine Learning #Deep Learning

一、引言：深度神经网络中的过拟合风险与正则化策略在深度学习领域，模型的泛化能力（Generalization Ability）是衡量算法优劣的核心指标。随着网络深度的增加和参数量（Capacity）的指数级增长，深度神经网络展现出了极强的函数拟合能力。然而，这种强大的表达能力往往是一把双刃剑：当

2026-02-24

Papers Reading #Reading

1. 介绍（Introduction）在医疗科技飞速发展的今天，数字病理学正迎来它的“高光时刻”。通过深度学习模型（Deep Learning），计算机能够以惊人的速度在成千上万张病理切片中捕捉到前列腺癌等疾病的蛛丝马迹。在理想的实验室环境下，这些算法的准确率往往能超过 98%，表现得像一位经验老

2026-02-01

Papers Reading #Reading

1. 介绍（Introduction） 1. 病理学的数字化转型在过去的数年里，病理学领域正经历着一场深刻的变革

2026-01-20

Papers Reading #Reading

这篇论文的摘要其实是在讨论一个非常人性化的技术挑战：AI 该如何面对那些“公说公有理，婆说婆有理”的模糊图像。作者指出，在很多现实任务中（尤其是像 CT 影像这样的医疗场景），图像本身是存在歧义的。一张片子放在那里，即便是几位资深的专业医生来划定病灶范围，他们给出的答案往往也不完全一样。如果传统的

依存句法分析｜Dependency Parsing

2026-01-10

AI #NLP #Data Mining #Deep Learning #Machine Learning

第一节：句式结构的两种视野在自然语言处理中，理解一个句子不仅仅是识别每个词的意思，更重要的是理解这些词是如何组合在一起表达完整语义的。目前主流的句法分析主要有两种视角：成分句法分析和依存句法分析。 1. 成分句法分析 (Constituency Parsing) 成分句法分析又被称为短语结构语法（

2026-01-08

AI #NLP #Data Mining #Deep Learning

第一节：计算图定义在深度学习中，软件并不是直接处理一长串复杂的数学公式，而是将神经网络的方程式表示为一张“图”。这种表达方式不仅让复杂的运算变得直观，更是自动求导技术的基础。 1. 什么是计算图？计算图（Computation Graph）是数学表达式的一种图形化表示。在这种结构中：源节点（S

2026-01-05

AI #NLP #Data Mining #Deep Learning

第一节：从并行逻辑回归到神经网络 1. 神经网络的本质很多人初学神经网络时会觉得它是一个复杂的“黑箱”，但从数学视角来看，神经网络并不是某种全新的魔法。本质上，一个神经网络可以看作是同时运行的多个逻辑回归。当我们审视一个简单的单层结构时，它执行的操作与逻辑回归高度相似：对输入特征进行加权求和，然

2026-01-03

AI #NLP #Data Mining

第一节：NLP 分类任务的本质挑战在自然语言处理（NLP）的演进过程中，我们始终在解决一个核心矛盾：语言的离散符号本性与语义的连续复杂性之间的冲突。从离散符号到分布式表示早期的 NLP 依赖于独热编码（One-hot encoding），这种方式将单词视为孤立的符号，无法捕捉词与词之间的相似性

2026-01-02

AI #NLP #Data Mining

第一节：机器如何“理解”语义？在深度学习统治自然语言处理（NLP）之前，计算机看待单词的方式非常简单：每一个词都被视为一个孤立的符号。通常我们使用 One-hot 编码，即给每个词一个极长的向量，其中只有一个位置是 1，其余全是 0。但这种方法有一个致命的缺陷：它无法表达词与词之间的关系。在 O