Perceptron and Multi-layer Perceptron (MLP)

(परसेप्ट्रॉन और मल्टी-लेयर परसेप्ट्रॉन)

---

🔷 1. Perceptron: Single-layer Neural Unit

➤ परिभाषा:

Perceptron एक single-layer feedforward neural network है जो binary classification करने में सक्षम होता है।

🧮 गणितीय रूप:

---

📌 विशेषताएँ:

गुण	विवरण
Structure	एक ही layer (input से output)
Use	Linear binary classification
Limitation	Non-linear problems (जैसे XOR) solve नहीं कर सकता

---

🔁 Simple Diagram:

---

🔶 2. MLP: Multi-layer Perceptron

➤ परिभाषा:

MLP एक feedforward artificial neural network है जिसमें एक या अधिक hidden layers होते हैं।

🏗️ संरचना:

Input → Hidden Layer(s) → Output
(हर layer में neurons होते हैं, और हर neuron activation function apply करता है)

---

📌 विशेषताएँ:

गुण	विवरण
Structure	2+ layers (input, hidden, output)
Use	Complex, non-linear problems
Training	Backpropagation + Gradient Descent
Activation	ReLU, sigmoid, tanh, softmax

---

🔁 MLP Diagram (Structure):

---

💻 PyTorch में एक सरल MLP कोड:

import torch.nn as nn

class MLP(nn.Module):
    def __init__(self):
        super(MLP, self).__init__()
        self.net = nn.Sequential(
            nn.Linear(3, 5),   # Input layer → Hidden
            nn.ReLU(),
            nn.Linear(5, 1),   # Hidden → Output
            nn.Sigmoid()
        )

    def forward(self, x):
        return self.net(x)

---

🔄 तुलना तालिका: Perceptron vs MLP

विशेषता	Perceptron	MLP
Layers	Single	Multiple (hidden included)
Activation	Step/Sigmoid	ReLU, Sigmoid, Tanh, Softmax
Data Handling	केवल linearly separable	Complex, non-linear data
Learning	Simple weight update	Backpropagation algorithm

---

🎯 Learning Summary:

• Perceptron एक सबसे सरल Neural Network है।
• MLP में Hidden layers होने से यह complex pattern सीख सकता है।
• Deep Learning में MLP सबसे बुनियादी और आधारभूत संरचना है।

---

📝 अभ्यास प्रश्न (Practice Questions):

1. Perceptron का गणितीय फ़ॉर्मूला क्या है?
2. Perceptron और MLP में मुख्य अंतर क्या है?
3. MLP में activation functions क्यों ज़रूरी होते हैं?
4. Perceptron XOR problem क्यों solve नहीं कर सकता?
5. एक सरल MLP में कितनी layers होती हैं?