Python 普通最小二乘法(OLS)进行多项式拟合的方法_Python

Python 普通最小二乘法(OLS)进行多项式拟合的方法

2021-05-09 00:52薛定谔的DBA Python

今天小编就为大家分享一篇Python 普通最小二乘法(OLS)进行多项式拟合的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

多元函数拟合。如电视机和收音机价格多销售额的影响，此时自变量有两个。

python 解法：

				?

									import numpy as np

									import pandas as pd

									#import statsmodels.api as sm #方法一

									import statsmodels.formula.api as smf #方法二

									import matplotlib.pyplot as plt

									from mpl_toolkits.mplot3d import axes3d

									df = pd.read_csv('http://www-bcf.usc.edu/~gareth/isl/advertising.csv', index_col=0)

									x = df[['tv', 'radio']]

									y = df['sales']

									#est = sm.ols(y, sm.add_constant(x)).fit() #方法一

									est = smf.ols(formula='sales ~ tv + radio', data=df).fit() #方法二

									y_pred = est.predict(x)

									df['sales_pred'] = y_pred

									print(df)

									print(est.summary()) #回归结果

									print(est.params) #系数

									fig = plt.figure()

									ax = fig.add_subplot(111, projection='3d') #ax = axes3d(fig)

									ax.scatter(x['tv'], x['radio'], y, c='b', marker='o')

									ax.scatter(x['tv'], x['radio'], y_pred, c='r', marker='+')

									ax.set_xlabel('x label')

									ax.set_ylabel('y label')

									ax.set_zlabel('z label')

									plt.show()

Python 普通最小二乘法(OLS)进行多项式拟合的方法

拟合的各项评估结果和参数都打印出来了，其中结果函数为：

f(sales) = β0 + β1*[tv] + β2*[radio]

f(sales) = 2.9211 + 0.0458 * [tv] + 0.188 * [radio]

Python 普通最小二乘法(OLS)进行多项式拟合的方法

图中，sales 方向上，蓝色点为原 sales 实际值，红色点为拟合函数计算出来的值。其实误差并不大，部分数据如下。

Python 普通最小二乘法(OLS)进行多项式拟合的方法

同样可拟合一元函数;

				?

									import numpy as np

									import pandas as pd

									import statsmodels.formula.api as smf

									import matplotlib.pyplot as plt

									from mpl_toolkits.mplot3d import axes3d

									df = pd.read_csv('http://www-bcf.usc.edu/~gareth/isl/advertising.csv', index_col=0)

									x = df['tv']

									y = df['sales']

									est = smf.ols(formula='sales ~ tv ', data=df).fit()

									y_pred = est.predict(x)

									print(est.summary())

									fig = plt.figure()

									ax = fig.add_subplot(111)

									ax.scatter(x, y, c='b')

									ax.plot(x, y_pred, c='r')

									plt.show()

Python 普通最小二乘法(OLS)进行多项式拟合的方法

ridge regression:（岭回归交叉验证）

岭回归(ridge regression, tikhonov regularization)是一种专用于共线性数据分析的有偏估计回归方法，实质上是一种改良的最小二乘估计法，通过放弃最小二乘法的无偏性，以损失部分信息、降低精度为代价获得回归系数更为符合实际、更可靠的回归方法，对病态数据的拟合要强于最小二乘法。通常岭回归方程的r平方值会稍低于普通回归分析，但回归系数的显著性往往明显高于普通回归，在存在共线性问题和病态数据偏多的研究中有较大的实用价值。

				?

									import numpy as np

									import pandas as pd

									import matplotlib.pyplot as plt

									from sklearn import linear_model

									from mpl_toolkits.mplot3d import axes3d

									df = pd.read_csv('http://www-bcf.usc.edu/~gareth/isl/advertising.csv', index_col=0)

									x = np.asarray(df[['tv', 'radio']])

									y = np.asarray(df['sales'])

									clf = linear_model.ridgecv(alphas=[i+1 for i in np.arange(200.0)]).fit(x, y)

									y_pred = clf.predict(x)

									df['sales_pred'] = y_pred

									print(df)

									print("alpha=%s, 常数=%.2f, 系数=%s" % (clf.alpha_ ,clf.intercept_,clf.coef_))

									fig = plt.figure()

									ax = fig.add_subplot(111, projection='3d')

									ax.scatter(df['tv'], df['radio'], y, c='b', marker='o')

									ax.scatter(df['tv'], df['radio'], y_pred, c='r', marker='+')

									ax.set_xlabel('tv')

									ax.set_ylabel('radio')

									ax.set_zlabel('sales')

									plt.show()