Linear Regression


ЁЯФ╖ рдкрд░рд┐рдЪрдп:

Linear Regression рд╕рдмрд╕реЗ рд╕рд░рд▓ рдФрд░ рдкреНрд░рдЪрд▓рд┐рдд Supervised Learning algorithm рд╣реИред
рдЗрд╕рдХрд╛ рдЙрджреНрджреЗрд╢реНрдп рд╣реИ тАФ рдХрд┐рд╕реА continuous value рдХреЛ predict рдХрд░рдирд╛, рдЬреИрд╕реЗ:

  • рдШрд░ рдХреА рдХреАрдордд
  • рд╕реНрдЯреВрдбреЗрдВрдЯ рдХреЗ рдорд╛рд░реНрдХреНрд╕
  • рдХрд░реНрдордЪрд╛рд░реА рдХрд╛ рд╡реЗрддрди

ЁЯФ╢ рдлреЙрд░реНрдореВрд▓рд╛:

ЁЯОп Prediction Function:

рдЬрд╣рд╛рдБ:

  • x= рдЗрдирдкреБрдЯ
  • w = рд╡рдЬрд╝рди (weight)
  • b = рдмрд╛рдпрд╕ (bias)
  • y^ = рдЕрдиреБрдорд╛рдирд┐рдд рдЖрдЙрдЯрдкреБрдЯ (predicted output)

ЁЯФз рдЙрдкрдпреЛрдЧ:

рдХреНрд╖реЗрддреНрд░рдЙрджрд╛рд╣рд░рдг
рд░рд┐рдпрд▓ рдПрд╕реНрдЯреЗрдЯрдШрд░ рдХреА рдХреАрдордд рдХрд╛ рдкреВрд░реНрд╡рд╛рдиреБрдорд╛рди
рдПрдЬреБрдХреЗрд╢рдирдорд╛рд░реНрдХреНрд╕ рдХрд╛ рдЕрдиреБрдорд╛рди
рд╣реЗрд▓реНрдерд░реЛрдЧ рдХреА рдЧрдВрднреАрд░рддрд╛ рд╕реНрдХреЛрд░

ЁЯФв Cost Function (Loss):

Mean Squared Error (MSE):


ЁЯФм Linear Regression in PyTorch

import torch
import torch.nn as nn
import matplotlib.pyplot as plt

# Dummy dataset
X = torch.tensor([[1.0], [2.0], [3.0], [4.0]], dtype=torch.float32)
y = torch.tensor([[2.0], [4.0], [6.0], [8.0]], dtype=torch.float32)

# Linear Regression Model
model = nn.Linear(1, 1)

# Loss and Optimizer
criterion = nn.MSELoss()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)

# Training loop
epochs = 1000
for epoch in range(epochs):
y_pred = model(X)
loss = criterion(y_pred, y)
optimizer.zero_grad()
loss.backward()
optimizer.step()

if epoch % 100 == 0:
print(f'Epoch {epoch}, Loss: {loss.item():.4f}')

# Prediction
with torch.no_grad():
test = torch.tensor([[5.0]])
pred = model(test)
print("Prediction for 5.0:", pred.item())

# Visualize
predicted = model(X).detach()
plt.scatter(X, y, label='Original')
plt.plot(X, predicted, label='Fitted line', color='red')
plt.legend()
plt.show()

ЁЯУК Summary Table:

ElementDescription
Model TypeRegression
InputContinuous/Real number
OutputContinuous value
Loss FunctionMean Squared Error (MSE)
OptimizerSGD, Adam
Library UsedPyTorch

ЁЯУЭ Practice Questions:

  1. Linear Regression рдХрд╛ рдЙрджреНрджреЗрд╢реНрдп рдХреНрдпрд╛ рд╣реЛрддрд╛ рд╣реИ?
  2. Model рдХрд╛ рдлреЙрд░реНрдореВрд▓рд╛ y^=wтЛЕx+b рдХрд╛ рдорддрд▓рдм рд╕рдордЭрд╛рдЗрдПред
  3. MSE (Mean Squared Error) рдХреЛ рдХреНрдпреЛрдВ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реИрдВ?
  4. PyTorch рдореЗрдВ nn.Linear() рдХреНрдпрд╛ рдХрд░рддрд╛ рд╣реИ?
  5. Optimizer рдХрд╛ рдХрд╛рд░реНрдп рдХреНрдпрд╛ рд╣реЛрддрд╛ рд╣реИ?