Kolmogorov-Arnold Networks (KAN)
What
KAN
I Say ?MLP
OUT !
Kolmogorov-Arnold Networks(KAN)
[TOC]
KAN
源码中的核心组件:
核心代码 | 主要内容 |
---|---|
KAN.py |
主要的文件,包含定义 KAN 模型的主要类和函数,定义了 KAN 模型,它由多个 KANLayer 和 Symbolic_KANLayer 组成,包含前向传播、模式设置、符号激活函数的固定和建议、模型训练、剪枝以及可视化等功能。 |
KANLayer.py |
定义 KAN 模型中使用的自定义层,包括模型的核心组件,如特殊的激活函数或其他处理层,是构成 KAN 的基础。 |
LBFGS.py |
包含使用 KAN 训练的 L-BFGS 优化器的实现,用于在训练过程中对 KAN 的参数进行优化。 |
Symbolic_KANLayer.py |
实现了一种特殊的 KAN 层,用于处理符号计算或增强模型解释性,用符号函数(如正弦)来代替传统的数值激活函数。以便深入分析和解释。 |
spline.py |
包含实现样条函数的代码,提供一系列函数,用于处理 B 样条曲线。包括:计算 B 样条基函数、从系数生成样条曲线,以及从样条曲线估计系数等。 |