日前,齐鲁证券金融研究院博士生王文武在其导师林路教授指导下,合作撰写的论文“DerivativeEstimation Based on Difference Sequence via Locally Weighted Least Squares Regression”被机器学习和统计学习领域的国际顶级期刊Journalof Machine Learning Research 正式接收发表。
非参导数估计从未引起足够的重视:因为在采用局部多项式回归估计均值函数的过程中,导数通常作为“副产品”被估计出。但是,文章发现均值函数以及其各阶导数之间的收敛速度是不同的,当均值函数达到最优速度时,其各阶导数均未达到最优收敛速度。
这篇文章提出了一种新的非参导数估计的方法。第一步,应用泰勒展开技巧到一列构造的对称差分序列中,得到一列近似的线性回归表达,其所求导数项正好是常数项;第二步,提出了局部加权最小二乘回归的方法来估计导数。这样的策略具有两大优点:第一,被估计的导数项放到了主项位置,解决了局部多项式回归中均值估计和导数估计不同时达到最优收敛速度的问题;第二,通过增加泰勒展开阶数,来减少波峰和波谷中的估计偏差问题。大量的模拟验证了理论的正确性。