(рд░реЗрдЦреАрдп рдмреАрдЬрдЧрдгрд┐рдд рдХреА рдореВрд▓ рдмрд╛рддреЗрдВ: рдореИрдЯреНрд░рд┐рдХреНрд╕, рд╡реЗрдХреНрдЯрд░ рдФрд░ рдЯреЗрдиреНрд╕рд░)
ЁЯФ╖ 2.1 рдкрд░рд┐рдЪрдп (Introduction)
Deep Learning рдореЙрдбрд▓, рд╡рд┐рд╢реЗрд╖ рд░реВрдк рд╕реЗ Neural Networks, рдореБрдЦреНрдп рд░реВрдк рд╕реЗ рд╕рдВрдЦреНрдпрд╛рдУрдВ (numbers) рдХреЗ рд╕рд╛рде рдХрд╛рдо рдХрд░рддреЗ рд╣реИрдВред рдЗрди рд╕рдВрдЦреНрдпрд╛рдУрдВ рдХреЛ рд╕рдВрдЧрдард┐рдд рдФрд░ рдкреНрд░реЛрд╕реЗрд╕ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рд╣рдо Linear Algebra рдХреА рддрдХрдиреАрдХреЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реИрдВред
ЁЯзо 2.2 рд╡реЗрдХреНрдЯрд░ (Vectors)
тЮд рдкрд░рд┐рднрд╛рд╖рд╛:
рд╡реЗрдХреНрдЯрд░ рдПрдХ рдРрд╕реА рд╕реВрдЪреА рд╣реИ рдЬрд┐рд╕рдореЗрдВ рд╕рдВрдЦреНрдпрд╛рдПрдБ рдПрдХ рд╡рд┐рд╢реЗрд╖ рдХреНрд░рдо рдореЗрдВ рд╣реЛрддреА рд╣реИрдВред рдпрд╣ 1D array рд╣реЛрддрд╛ рд╣реИред
рдЙрджрд╛рд╣рд░рдг:

тЬЕ рдЙрдкрдпреЛрдЧ:
- Neural Network рдХреЗ inputs рдФрд░ weights рдХреЛ рд╡реЗрдХреНрдЯрд░ рдореЗрдВ рд╕рдВрдЧреНрд░рд╣рд┐рдд рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред
- рд╡реЗрдХреНрдЯрд░ dot product рдФрд░ angle measurement рдореЗрдВ рдкреНрд░рдпреЛрдЧ рд╣реЛрддреЗ рд╣реИрдВред
ЁЯЫая╕П рд╡реЗрдХреНрдЯрд░ рдСрдкрд░реЗрд╢рди:
| рдХреНрд░рд┐рдпрд╛ | рдЙрджрд╛рд╣рд░рдг |
|---|---|
| рдЬреЛрдбрд╝ | [1,2]+[3,4]=[4,6] |
| рд╕реНрдХреЗрд▓рд░ рдЧреБрдгрд╛ | 3├Ч[1,2]=[3,6] |
| рдбреЙрдЯ рдкреНрд░реЛрдбрдХреНрдЯ | [1,2]тЛЕ[3,4]=1├Ч3+2├Ч4=11 |
ЁЯЯж 2.3 рдореИрдЯреНрд░рд┐рдХреНрд╕ (Matrix)
тЮд рдкрд░рд┐рднрд╛рд╖рд╛:
Matrix рдПрдХ 2D array рд╣реЛрддрд╛ рд╣реИ рдЬрд┐рд╕рдореЗрдВ rows рдФрд░ columns рд╣реЛрддреЗ рд╣реИрдВред рдпрд╣ рд╡реЗрдХреНрдЯрд░ рдХрд╛ рд╡рд┐рд╕реНрддрд╛рд░ рд╣реИред
рдЙрджрд╛рд╣рд░рдг:

тЬЕ рдЙрдкрдпреЛрдЧ:
- Neural Networks рдореЗрдВ inputs, weights, рдФрд░ activations рдХреЛ Matrix рдХреЗ рд░реВрдк рдореЗрдВ рд░рдЦрд╛ рдЬрд╛рддрд╛ рд╣реИред
- Matrix multiplication рджреНрд╡рд╛рд░рд╛ layers рдХреЗ рдмреАрдЪ data forward рд╣реЛрддрд╛ рд╣реИред
ЁЯЫая╕П Matrix Operations:
| рдХреНрд░рд┐рдпрд╛ | рд╡рд┐рд╡рд░рдг |
|---|---|
| Transpose | рдкрдВрдХреНрддрд┐ рдХреЛ рд╕реНрддрдВрдн рдореЗрдВ рдмрджрд▓рдирд╛ |
| Multiplication | m├Чn├Чn├Чp = m├Чp |
| Identity Matrix | I, рдЬрд╣рд╛рдВ AтЛЕI=A |
| Inverse (AтБ╗┬╣) | рдХреЗрд╡рд▓ рдХреБрдЫ matrices рдХреЗ рд▓рд┐рдП рд╕рдВрднрд╡ |
ЁЯзК 2.4 рдЯреЗрдиреНрд╕рд░ (Tensors)
тЮд рдкрд░рд┐рднрд╛рд╖рд╛:
Tensors рд╡реЗрдХреНрдЯрд░ рдФрд░ рдореИрдЯреНрд░рд┐рдХреНрд╕ рдХрд╛ рд╕рд╛рдорд╛рдиреНрдпреАрдХреГрдд рд░реВрдк рд╣реИред
- рд╡реЗрдХреНрдЯрд░ = 1D рдЯреЗрдиреНрд╕рд░
- рдореИрдЯреНрд░рд┐рдХреНрд╕ = 2D рдЯреЗрдиреНрд╕рд░
- 3D+ arrays = Higher Order Tensors
рдЙрджрд╛рд╣рд░рдг:
import torch
x = torch.rand(2, 3, 4) # 3D Tensor (2├Ч3├Ч4)
тЬЕ рдЙрдкрдпреЛрдЧ:
- Deep Learning frameworks (рдЬреИрд╕реЗ PyTorch, TensorFlow) рдХрд╛ рдореБрдЦреНрдп рдбреЗрдЯрд╛ structure рдЯреЗрдиреНрд╕рд░ рд╣реИред
- Multidimensional рдбреЗрдЯрд╛ рдХреЛ efficiently store рдФрд░ process рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдПред
ЁЯФД 2.5 Vector, Matrix, Tensor рддреБрд▓рдирд╛ рддрд╛рд▓рд┐рдХрд╛:
| рдЧреБрдг | рд╡реЗрдХреНрдЯрд░ | рдореИрдЯреНрд░рд┐рдХреНрд╕ | рдЯреЗрдиреНрд╕рд░ |
|---|---|---|---|
| рдЖрдпрд╛рдо (Dimensions) | 1D | 2D | ND (3D, 4D…) |
| рд░реВрдк | [x,y,z] | [[a,b],[c,d]] | [[[]]] |
| рдЙрдкрдпреЛрдЧ | Input, Output | Layer Weights | Images, Sequences |
ЁЯФз 2.6 Deep Learning рдореЗрдВ Linear Algebra рдХрд╛ рдкреНрд░рдпреЛрдЧ
| рдХреНрд╖реЗрддреНрд░ | Linear Algebra рдЙрдкрдпреЛрдЧ |
|---|---|
| Input Data | Vectors / Tensors |
| Layer Weights | Matrix Multiplication |
| Feature Extraction | Dot Product |
| Backpropagation | Gradient Computation using Matrix derivatives |
| Images | Tensors of size (Channels ├Ч Height ├Ч Width) |
ЁЯза рдЙрджрд╛рд╣рд░рдг:
PyTorch Code Example (Matrix multiplication):
import torch
A = torch.tensor([[1., 2.], [3., 4.]])
B = torch.tensor([[2., 0.], [1., 2.]])
result = torch.matmul(A, B)
print("Matrix A ├Ч B =\n", result)
Output:
Matrix A ├Ч B =
tensor([[ 4., 4.],
[10., 8.]])
ЁЯУЪ рдЕрднреНрдпрд╛рд╕ рдкреНрд░рд╢реНрди (Quiz)
тЭУQ1. рд╡реЗрдХреНрдЯрд░ рдФрд░ рдореИрдЯреНрд░рд┐рдХреНрд╕ рдореЗрдВ рдХреНрдпрд╛ рдЕрдВрддрд░ рд╣реИ?
тЬЕ рд╡реЗрдХреНрдЯрд░ 1D array рд╣реИ, рдЬрдмрдХрд┐ рдореИрдЯреНрд░рд┐рдХреНрд╕ 2D array рд╣реИред
тЭУQ2. Dot Product рдХрд╛ рдЙрдкрдпреЛрдЧ Neural Network рдореЗрдВ рдХрд╣рд╛рдБ рд╣реЛрддрд╛ рд╣реИ?
тЬЕ Input рдФрд░ Weights рдХреЗ рдмреАрдЪ рдХреЗ рд╕рдВрдмрдВрдз рдХреА рдЧрдгрдирд╛ рдХреЗ рд▓рд┐рдП
тЭУQ3. рдЯреЗрдиреНрд╕рд░ рдХреНрдпрд╛ рд╣реЛрддрд╛ рд╣реИ?
тЬЕ рдПрдХ ND array рдЬреЛ рд╡реЗрдХреНрдЯрд░ рдФрд░ рдореИрдЯреНрд░рд┐рдХреНрд╕ рджреЛрдиреЛрдВ рдХреЛ generalize рдХрд░рддрд╛ рд╣реИред
тЭУQ4. PyTorch рдпрд╛ TensorFlow рдХрд┐рд╕ рдбреЗрдЯрд╛ structure рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реИрдВ?
тЬЕ Tensor
тЬЕ рдирд┐рд╖реНрдХрд░реНрд╖ (Conclusion)
Linear Algebra Deep Learning рдХреА рдЧрдгрд┐рддреАрдп рд░реАрдврд╝ рд╣реИред
- Vectors input/output рдХреЛ рджрд░реНрд╢рд╛рддреЗ рд╣реИрдВ
- Matrices weights рдФрд░ connections рдХреЛ рд╕рдВрднрд╛рд▓рддреЗ рд╣реИрдВ
- Tensors complex data (рдЬреИрд╕реЗ images, sequences) рдХреЛ efficiently represent рдХрд░рддреЗ рд╣реИрдВ
рдЗрд╕ рдЕрдзреНрдпрд╛рдп рдХреА рд╕рдордЭ рдЖрдЧреЗ рдХреЗ рдореЙрдбрд▓реНрд╕, training рдФрд░ optimization рдХреЛ рдЧрд╣рд░рд╛рдИ рд╕реЗ рд╕рдордЭрдиреЗ рдореЗрдВ рдорджрдж рдХрд░реЗрдЧреАред