最近在看机器学习的 LogisticRegressor，BayesianLogisticRegressor算法，里面得到一阶导数矩阵g和二阶导数Hessian矩阵H的时候，用到了这个模块进行求解运算，记录一下。
numpy.linalg模块包含线性代数的函数。使用这个模块，可以计算逆矩阵、求特征值、解线性方程组以及求解行列式等。
|
1
|
import numpy as np |
|
1
2
3
4
5
6
7
|
# 1. 计算逆矩阵# 创建矩阵A = np.mat("0 1 2;1 0 3;4 -3 8")print (A)#[[ 0 1 2]# [ 1 0 3]# [ 4 -3 8]] |
|
1
2
3
4
5
6
|
# 使用inv函数计算逆矩阵inv = np.linalg.inv(A)print (inv)#[[-4.5 7. -1.5]# [-2. 4. -1. ]# [ 1.5 -2. 0.5]] |
|
1
2
3
4
5
|
# 检查原矩阵和求得的逆矩阵相乘的结果为单位矩阵print (A * inv)#[[ 1. 0. 0.]# [ 0. 1. 0.]# [ 0. 0. 1.]] |
注：矩阵必须是方阵且可逆，否则会抛出LinAlgError异常。
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
# 2. 求解线性方程组# numpy.linalg中的函数solve可以求解形如 Ax = b 的线性方程组，其中 A 为矩阵，b 为一维或二维的数组，x 是未知变量 #创建矩阵和数组B = np.mat("1 -2 1;0 2 -8;-4 5 9")b = np.array([0,8,-9]) # 调用solve函数求解线性方程x = np.linalg.solve(B,b)print (x)#[ 29. 16. 3.] # 使用dot函数检查求得的解是否正确print (np.dot(B , x))# [[ 0. 8. -9.]] |
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
|
# 3. 特征值和特征向量# 特征值（eigenvalue）即方程 Ax = ax 的根，是一个标量。 #其中，A 是一个二维矩阵，x 是一个一维向量。特征向量（eigenvector）是关于特征值的向量# numpy.linalg模块中，eigvals函数可以计算矩阵的特征值，而eig函数可以返回一个包含特征值和对应的特征向量的元组 # 创建一个矩阵C = np.mat("3 -2;1 0") # 调用eigvals函数求解特征值c0 = np.linalg.eigvals(C)print (c0)# [ 2. 1.] # 使用eig函数求解特征值和特征向量 #(该函数将返回一个元组，按列排放着特征值和对应的特征向量，其中第一列为特征值，第二列为特征向量)c1,c2 = np.linalg.eig(C)print (c1)# [ 2. 1.] print (c2)#[[ 0.89442719 0.70710678]# [ 0.4472136 0.70710678]] # 使用dot函数验证求得的解是否正确for i in range(len(c1)):print ("left:",np.dot(C,c2[:,i]))print ("right:",c1[i] * c2[:,i])#left: [[ 1.78885438]# [ 0.89442719]]#right: [[ 1.78885438]# [ 0.89442719]]#left: [[ 0.70710678]# [ 0.70710678]]#right: [[ 0.70710678]# [ 0.70710678]] |
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
|
# 4.奇异值分解# SVD（Singular Value Decomposition，奇异值分解）是一种因子分解运算，将一个矩阵分解为3个矩阵的乘积# numpy.linalg模块中的svd函数可以对矩阵进行奇异值分解。该函数返回3个矩阵——U、Sigma和V，其中U和V是正交矩阵，Sigma包含输入矩阵的奇异值。 import numpy as np # 分解矩阵D = np.mat("4 11 14;8 7 -2")# 使用svd函数分解矩阵U,Sigma,V = np.linalg.svd(D,full_matrices=False)print ("U:",U)#U: [[-0.9486833 -0.31622777]# [-0.31622777 0.9486833 ]]print ("Sigma:",Sigma)#Sigma: [ 18.97366596 9.48683298]print ("V",V)#V [[-0.33333333 -0.66666667 -0.66666667]# [ 0.66666667 0.33333333 -0.66666667]]# 结果包含等式中左右两端的两个正交矩阵U和V，以及中间的奇异值矩阵Sigma # 使用diag函数生成完整的奇异值矩阵。将分解出的3个矩阵相乘print (U * np.diag(Sigma) * V)#[[ 4. 11. 14.]# [ 8. 7. -2.]] |
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
|
# 5. 广义逆矩阵# 使用numpy.linalg模块中的pinv函数进行求解,# 注：inv函数只接受方阵作为输入矩阵，而pinv函数则没有这个限制 import numpy as np # 创建一个矩阵E = np.mat("4 11 14;8 7 -2")# 使用pinv函数计算广义逆矩阵pseudoinv = np.linalg.pinv(E)print (pseudoinv)#[[-0.00555556 0.07222222]# [ 0.02222222 0.04444444]# [ 0.05555556 -0.05555556]] # 将原矩阵和得到的广义逆矩阵相乘print (E * pseudoinv)#[[ 1.00000000e+00 -5.55111512e-16]# [ 0.00000000e+00 1.00000000e+00]] |
|
1
2
3
4
5
6
7
8
9
10
|
# 6. 行列式# numpy.linalg模块中的det函数可以计算矩阵的行列式 import numpy as np # 计算矩阵的行列式F = np.mat("3 4;5 6")# 使用det函数计算行列式print (np.linalg.det(F))# -2.0 |
学完这些之后，再用其中的numpy.linalg.solve()函数对（H，g）线性方程组进行求解。
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
|
def _fit(self, X, t, max_iter=100): #输入样本 ， 0,1标签 ，最大迭代步数 self._check_binary(t) w = np.zeros(np.size(X, 1)) #初始化权重矩阵 X行 for _ in range(max_iter): w_prev = np.copy(w) #保存原先的权重信息 用来更新权重 y = self._sigmoid(X @ w) #sigmoid 特征向量@权重矩阵 输出y grad = X.T @ (y - t) #一阶导数 hessian = (X.T * y * (1 - y)) @ X #二阶导数 Hessian矩阵 try: w -= np.linalg.solve(hessian, grad) print(w) except np.linalg.LinAlgError: break if np.allclose(w, w_prev): #收敛到一定的精度 break self.w = w# [-0.17924772 1.02982033 0.54459921]# [-0.25994586 1.76892341 0.90294418]# [-0.35180664 2.60346027 1.25122256]# [-0.468509 3.54309929 1.60131553]# [-0.58591528 4.43787542 1.93496706]# [-0.65896159 4.97839095 2.14764763]# [-0.67659725 5.10615457 2.20048333]# [-0.67736191 5.11159274 2.20281247]# [-0.67736325 5.11160214 2.20281657] |
PS:更多示例
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
|
# 线性代数# numpy.linalg模块包含线性代数的函数。使用这个模块，可以计算逆矩阵、求特征值、解线性方程组以及求解行列式等。import numpy as np# 1. 计算逆矩阵# 创建矩阵A = np.mat("0 1 2;1 0 3;4 -3 8")print (A)#[[ 0 1 2]# [ 1 0 3]# [ 4 -3 8]]# 使用inv函数计算逆矩阵inv = np.linalg.inv(A)print (inv)#[[-4.5 7. -1.5]# [-2. 4. -1. ]# [ 1.5 -2. 0.5]]# 检查原矩阵和求得的逆矩阵相乘的结果为单位矩阵print (A * inv)#[[ 1. 0. 0.]# [ 0. 1. 0.]# [ 0. 0. 1.]]# 注：矩阵必须是方阵且可逆，否则会抛出LinAlgError异常。# 2. 求解线性方程组# numpy.linalg中的函数solve可以求解形如 Ax = b 的线性方程组，其中 A 为矩阵，b 为一维或二维的数组，x 是未知变量import numpy as np#创建矩阵和数组B = np.mat("1 -2 1;0 2 -8;-4 5 9")b = np.array([0,8,-9])# 调用solve函数求解线性方程x = np.linalg.solve(B,b)print (x)#[ 29. 16. 3.]# 使用dot函数检查求得的解是否正确print (np.dot(B , x))# [[ 0. 8. -9.]]# 3. 特征值和特征向量# 特征值（eigenvalue）即方程 Ax = ax 的根，是一个标量。其中，A 是一个二维矩阵，x 是一个一维向量。特征向量（eigenvector）是关于特征值的向量# numpy.linalg模块中，eigvals函数可以计算矩阵的特征值，而eig函数可以返回一个包含特征值和对应的特征向量的元组 import numpy as np# 创建一个矩阵C = np.mat("3 -2;1 0")# 调用eigvals函数求解特征值c0 = np.linalg.eigvals(C)print (c0)# [ 2. 1.]# 使用eig函数求解特征值和特征向量 (该函数将返回一个元组，按列排放着特征值和对应的特征向量，其中第一列为特征值，第二列为特征向量)c1,c2 = np.linalg.eig(C)print (c1)# [ 2. 1.] print (c2)#[[ 0.89442719 0.70710678]# [ 0.4472136 0.70710678]] # 使用dot函数验证求得的解是否正确for i in range(len(c1)): print ("left:",np.dot(C,c2[:,i])) print ("right:",c1[i] * c2[:,i])#left: [[ 1.78885438]# [ 0.89442719]]#right: [[ 1.78885438]# [ 0.89442719]]#left: [[ 0.70710678]# [ 0.70710678]]#right: [[ 0.70710678]# [ 0.70710678]] # 4.奇异值分解# SVD（Singular Value Decomposition，奇异值分解）是一种因子分解运算，将一个矩阵分解为3个矩阵的乘积# numpy.linalg模块中的svd函数可以对矩阵进行奇异值分解。该函数返回3个矩阵——U、Sigma和V，其中U和V是正交矩阵，Sigma包含输入矩阵的奇异值。import numpy as np# 分解矩阵D = np.mat("4 11 14;8 7 -2")# 使用svd函数分解矩阵U,Sigma,V = np.linalg.svd(D,full_matrices=False)print ("U:",U)#U: [[-0.9486833 -0.31622777]# [-0.31622777 0.9486833 ]]print ("Sigma:",Sigma)#Sigma: [ 18.97366596 9.48683298]print ("V",V)#V [[-0.33333333 -0.66666667 -0.66666667]# [ 0.66666667 0.33333333 -0.66666667]]# 结果包含等式中左右两端的两个正交矩阵U和V，以及中间的奇异值矩阵Sigma# 使用diag函数生成完整的奇异值矩阵。将分解出的3个矩阵相乘print (U * np.diag(Sigma) * V)#[[ 4. 11. 14.]# [ 8. 7. -2.]]# 5. 广义逆矩阵# 使用numpy.linalg模块中的pinv函数进行求解,# 注：inv函数只接受方阵作为输入矩阵，而pinv函数则没有这个限制import numpy as np# 创建一个矩阵E = np.mat("4 11 14;8 7 -2")# 使用pinv函数计算广义逆矩阵pseudoinv = np.linalg.pinv(E)print (pseudoinv)#[[-0.00555556 0.07222222]# [ 0.02222222 0.04444444]# [ 0.05555556 -0.05555556]]# 将原矩阵和得到的广义逆矩阵相乘print (E * pseudoinv)#[[ 1.00000000e+00 -5.55111512e-16]# [ 0.00000000e+00 1.00000000e+00]]# 6. 行列式# numpy.linalg模块中的det函数可以计算矩阵的行列式import numpy as np# 计算矩阵的行列式F = np.mat("3 4;5 6")# 使用det函数计算行列式print (np.linalg.det(F))# -2.0 |
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持服务器之家。
原文链接：https://blog.csdn.net/weixin_40679412/article/details/82949079
