Kolmogorov-Arnold Networks

Kolmogorov-Arnold Networks (KAN)

What KAN I Say ? MLP OUT !

Kolmogorov-Arnold Networks(KAN)

[TOC]

KAN 源码中的核心组件:

核心代码 主要内容
KAN.py 主要的文件,包含定义 KAN 模型的主要类和函数,定义了 KAN 模型,它由多个 KANLayerSymbolic_KANLayer 组成,包含前向传播、模式设置、符号激活函数的固定和建议、模型训练、剪枝以及可视化等功能。
KANLayer.py 定义 KAN 模型中使用的自定义层,包括模型的核心组件,如特殊的激活函数或其他处理层,是构成 KAN 的基础。
LBFGS.py 包含使用 KAN 训练的 L-BFGS 优化器的实现,用于在训练过程中对 KAN 的参数进行优化。
Symbolic_KANLayer.py 实现了一种特殊的 KAN 层,用于处理符号计算或增强模型解释性,用符号函数(如正弦)来代替传统的数值激活函数。以便深入分析和解释。
spline.py 包含实现样条函数的代码,提供一系列函数,用于处理 B 样条曲线。包括:计算 B 样条基函数、从系数生成样条曲线,以及从样条曲线估计系数等。