Comprehensive study guide covering deep learning concepts, neural networks, CNNs, RNNs, and applications for UPSSSC Mains.UPSSSC लोअर मेन्स के लिए डीप लर्निंग अवधारणाओं, न्यूरल नेटवर्क, CNN, RNN और अनुप्रयोगों को कवर करने वाली मार्गदर्शिका।
Comprehensive Concept Mindmap: Deep Learning Neural Architectures & Optimizationविस्तृत संकल्पना माइंडमैप: डीप लर्निंग (DL) न्यूरल नेटवर्क, अनुकूलन एवं अनुप्रयोग
Exhaustive Thematic Flow • 6 Pillars • Biological to Artificial Neurons • Activations (ReLU/Sigmoid) • Backprop & Adam Optimizer • CNNs (Convolution/Pooling) • RNN & LSTM • Trinetra 2.0समग्र विषयवार संकल्पना प्रवाह • 6 प्रमुख स्तंभ • जैविक से कृत्रिम न्यूरॉन • एक्टिवेशन फंक्शन्स • बैकप्रोपगेशन व एडम ऑप्टिमाइज़र • CNN (कनवोल्यूशन/पूलिंग) • RNN व LSTM • त्रिनेत्र 2.0 उप्र
Biological Analogy & Perceptron Mechanicsजैविक समानता एवं परसेप्ट्रॉन कार्यप्रणाली
Biological to Artificial Analogy: Human brain has ~86 billion neurons. Dendrites receive incoming electrical signals (Inputs $x_i$). Synaptic strength corresponds to connection Weights ($w_i$). Soma (cell body) sums weighted inputs with Bias ($\sum w_i x_i + b$). Axon fires signal through activation function if threshold exceeded (Output).जैविक एवं कृत्रिम न्यूरॉन समानता: मानव मस्तिष्क में ~86 अरब न्यूरॉन। डेंड्राइट: इनपुट ($x_i$)। सिनैप्स: कनेक्शन भार/वेट्स ($w_i$)। सोमा: वेटेड सम व बायस ($\sum w_i x_i + b$)। एक्सॉन: एक्टिवेशन फलन द्वारा प्रेषित आउटपुट।
Perceptron & The XOR Limitation (1969): Frank Rosenblatt (1958) created the Perceptron (single-layer binary linear classifier). In 1969, Marvin Minsky & Seymour Papert proved mathematically that a single-layer perceptron CANNOT solve linearly inseparable problems like the XOR gate, triggering the 1st AI Winter. Multi-Layer Perceptrons (MLP with hidden layers) solved this.परसेप्ट्रॉन एवं XOR समस्या: फ्रैंक रोसेनब्लैट (1958) ने सिंगल-लेयर परसेप्ट्रॉन बनाया। 1969 में मिंस्की व पेपरट ने सिद्ध किया कि सिंगल लेयर परसेप्ट्रॉन XOR गेट (गैर-रैखिक समस्या) को हल नहीं कर सकता। बाद में मल्टी-लेयर परसेप्ट्रॉन (MLP) ने हिडन लेयर्स जोड़कर इसे हल किया।
UPSSSC Top Note: Frank Rosenblatt invented the Perceptron in 1958; single-layer perceptrons cannot solve the XOR logic gate; MLPs solve XOR using hidden layers!UPSSSC मुख्य बिंदु: 1958 में फ्रैंक रोसेनब्लैट ने परसेप्ट्रॉन बनाया; सिंगल-लेयर परसेप्ट्रॉन XOR गेट को हल नहीं कर सकता; MLP हिडन लेयर्स द्वारा इसे हल करता है!
2. Activation Functions2. एक्टिवेशन फंक्शन्स एवं गणितीय आधार
Sigmoid (Range 0 to 1)Tanh (Range -1 to 1, Zero-Centered)ReLU (Max(0, z), Most Popular)Leaky ReLU (Max(0.01z, z))Softmax (Multiclass Probability)Vanishing Gradient Problem
Function Characteristics & Rangesफलन की विशेषताएं एवं आउटपुट सीमाएं
Why Non-Linearity Matters: Without activation functions, any deep network collapses into a simple linear regression regardless of depth. Activation functions introduce non-linearity, enabling deep networks to learn complex arbitrary patterns (Universal Approximation Theorem).गैर-रैखिकता (Non-Linearity) का महत्व: बिना एक्टिवेशन फलन के, कितने भी गहरे नेटवर्क हों, वे केवल एक साधारण रेखीय समीकरण बन जाते हैं। एक्टिवेशन फलन ही नेटवर्क को जटिल आकृतियां सीखने की शक्ति देते हैं।
ReLU (Rectified Linear Unit): Defined as $f(z) = \max(0, z)$. Range $[0, \infty)$. Computationally ultra-fast; derivative is 1 for $z > 0$, effectively solving the Vanishing Gradient problem that plagues Sigmoid and Tanh in deep hidden layers.ReLU (रेक्टिफाइड लीनियर यूनिट): सूत्र: $f(z) = \max(0, z)$। आउटपुट सीमा: 0 से अनंत। हिडन लेयर्स में सबसे लोकप्रिय; वैनिशिंग ग्रेडिएंट समस्या को समाप्त करता है क्योंकि $z > 0$ पर इसका ढलान 1 रहता है।
Softmax Function: Applied at final output layer for multi-class classification. Converts raw output numbers (logits) into a normalized probability distribution where all probabilities sum strictly to 1.सॉफ्टमैक्स (Softmax): मल्टी-क्लास वर्गीकरण की अंतिम परत पर प्रयुक्त। सभी वर्गों के स्कोर को प्रायिकता वितरण में बदलता है, जिनका कुल योग सदैव 1 (100%) होता है।
UPSSSC Top Note: Sigmoid outputs between 0 and 1; Tanh outputs between -1 and 1; ReLU outputs Max(0, z) and is the most popular hidden layer activation!UPSSSC मुख्य बिंदु: सिग्मॉइड का आउटपुट 0 से 1; Tanh का -1 से 1; तथा ReLU का मान Max(0, z) होता है और यह हिडन लेयर्स में सर्वाधिक प्रयुक्त होता है!
3. Training & Backpropagation3. नेटवर्क प्रशिक्षण, बैकप्रोपगेशन एवं ऑप्टिमाइज़र
Chain Rule • Gradient Descent • Adam
Training Steps & Optimizersप्रशिक्षण चरण एवं ऑप्टिमाइज़र्स
Backpropagation Mechanics & Adam Optimizerबैकप्रोपगेशन कार्यप्रणाली एवं एडम ऑप्टिमाइज़र
Backpropagation (Rumelhart, Hinton & Williams, 1986): Heart of deep learning training. Uses Calculus Chain Rule to propagate errors backward from output layer through hidden layers, calculating partial derivative of loss with respect to every weight ($ rac{\partial L}{\partial w}$) to update weights: $w_{new} = w_{old} - lpha rac{\partial L}{\partial w}$.बैकप्रोपगेशन (हिंटन आदि, 1986): डीप लर्निंग प्रशिक्षण का केंद्र। कैलकुलस के चेन रूल (Chain Rule) द्वारा त्रुटि को आउटपुट से पीछे की ओर भेजता है और प्रत्येक वेट के प्रति ढलान (Gradient) ज्ञात कर वेट्स अपडेट करता है।
Adam Optimizer (Adaptive Moment Estimation, 2014): Combines advantages of Momentum (accelerating through flat regions using moving average of gradients) and RMSProp (adapting learning rates using moving average of squared gradients). Current industry gold standard.एडम ऑप्टिमाइज़र (Adam): मोमेंटम और RMSProp दोनों की खूबियों को जोड़कर प्रत्येक पैरामीटर हेतु अनुकूलित लर्निंग रेट निर्धारित करता है; आधुनिक डीप लर्निंग का सबसे लोकप्रिय ऑप्टिमाइज़र।
Dropout Regularization (2014): Randomly deactivates (drops out) a fraction $p$ (e.g. 20-50%) of neurons during each training step, preventing co-adaptation and effectively fighting overfitting.ड्रॉपआउट (Dropout): प्रशिक्षण के दौरान यादृच्छिक रूप से 20-50% न्यूरॉन्स को अस्थायी रूप से बंद कर देता है, जिससे ओवरफिटिंग पर प्रभावी रोक लगती है।
UPSSSC Top Note: Backpropagation uses the Calculus Chain Rule to update network weights; Adam is an adaptive learning rate optimizer; Dropout prevents overfitting!UPSSSC मुख्य बिंदु: बैकप्रोपगेशन चेन रूल द्वारा वेट्स को अपडेट करता है; एडम (Adam) अडेप्टिव लर्निंग रेट ऑप्टिमाइज़र है; ड्रॉपआउट ओवरफिटिंग रोकता है!
Layer Mechanics & Visual Feature Extractionपरतों की कार्यप्रणाली एवं छवि फीचर निष्कर्षण
Convolution Layer: Applies small learnable matrix filters (e.g. $3 imes 3$ kernels) that slide across the image using element-wise dot multiplication to extract spatial features like edges, textures, corners, and object parts.कनवोल्यूशन परत: छोटे फिल्टर्स ($3 imes 3$ कर्नेल) को छवि पर घुमाकर किनारों (Edges), बनावट (Textures) व आकृतियों जैसे दृश्य फीचर्स का निष्कर्षण करती है।
Pooling Layer (Max Pooling): Downsamples feature maps by taking maximum value within local window (e.g. $2 imes 2$ window with stride 2); reduces spatial dimensions by 75%, cuts computational parameters, and provides translation invariance.पूलिंग परत (मैक्स पूलिंग): फीचर मैप के आकार को छोटा (डाउनसैंपल) करती है; $2 imes 2$ विंडो में से अधिकतम मान चुनती है; गणना का बोझ घटाती है।
AlexNet (2012): Landmark deep CNN designed by Alex Krizhevsky, Ilya Sutskever, and Geoffrey Hinton; won ImageNet Challenge 2012 by reducing error rate from 26% to 15.3% using GPUs, ReLU, and Dropout; ignited modern Deep Learning revolution!एलेक्सनेट (AlexNet - 2012): हिंटन व सुत्स्केवर की टीम द्वारा निर्मित; ImageNet प्रतियोगिता में GPU, ReLU व ड्रॉपआउट का उपयोग कर ऐतिहासिक विजय हासिल की; आधुनिक डीप लर्निंग क्रांति का जनक!
UPSSSC Top Note: CNN is the premier architecture for image and video processing; Max Pooling reduces spatial size; AlexNet (2012) sparked the modern DL explosion!UPSSSC मुख्य बिंदु: इमेज व वीडियो प्रोसेसिंग हेतु CNN प्रमुख आर्किटेक्चर है; मैक्स पूलिंग आकार छोटा करती है; एलेक्सनेट (2012) से आधुनिक डीप लर्निंग की शुरुआत हुई!
Sequential Architectures & Gatesसीक्वेंशियल संरचनाएं एवं गेट्स
RNN (Recurrent Neural Network)Hidden State (Memory Across Time)Vanishing Gradient (Long Sequences Fail)LSTM (Hochreiter & Schmidhuber 1997)Forget Gate (Discards Irrelevant Info)Input Gate (Stores New Candidate Info)Output Gate (Controls Emitted State)Cell State (Long-Term Memory Highway)
Sequential Architecture & LSTM 3-Gate Mechanismसीक्वेंशियल संरचना एवं LSTM के 3 गेट्स
Recurrent Neural Networks (RNN): Designed for sequential and time-series data (speech, text, sensor streams). Passes internal Hidden State from one time-step to next. However, standard RNNs suffer from vanishing and exploding gradients, making them unable to retain long-term dependencies.आवर्ती न्यूरल नेटवर्क (RNN): अनुक्रमिक डेटा (टेक्स्ट, भाषण, समय श्रृंखला) हेतु डिजाइन किया गया नेटवर्क; पिछले समय का 'हिडन स्टेट' आगे भेजता है; किंतु लंबे अनुक्रमों में वैनिशिंग ग्रेडिएंट के कारण भूल जाता है।
LSTM (Long Short-Term Memory, 1997): Invented by Sepp Hochreiter & Jürgen Schmidhuber. Solves the vanishing gradient problem using a constant error carousel (Cell State) regulated by 3 Sigmoid Gates: Forget Gate (what old info to erase), Input Gate (what new info to store), and Output Gate (what info to output).LSTM (लॉन्ग शॉर्ट-टर्म मेमोरी, 1997): होचराइटर व श्मिटहुबर द्वारा आविष्कृत। सेल स्टेट (दीर्घकालिक मेमोरी) तथा 3 गेट्स द्वारा पुरानी यादों को सुरक्षित रखता है: फॉरगेट गेट (व्यर्थ डेटा हटाना), इनपुट गेट (नया डेटा जोड़ना), व आउटपुट गेट (परिणाम निकालना)।
UPSSSC Top Note: LSTM was invented in 1997 by Hochreiter & Schmidhuber to solve RNN vanishing gradients; it uses three gates: Forget Gate, Input Gate, and Output Gate!UPSSSC मुख्य बिंदु: RNN की वैनिशिंग ग्रेडिएंट समस्या मिटाने हेतु 1997 में LSTM बना; इसमें तीन गेट होते हैं: फॉरगेट गेट, इनपुट गेट एवं आउटपुट गेट!
6. Hardware, Frameworks & UP Apps6. हार्डवेयर, फ्रेमवर्क एवं उप्र में डीप लर्निंग अनुप्रयोग
PyTorch • Trinetra 2.0 • ITMS
Accelerators & UP Real-World Projectsहार्डवेयर त्वरक एवं उप्र में वास्तविक परियोजनाएं
Hardware Acceleration & UP State Implementationsहार्डवेयर त्वरण एवं उत्तर प्रदेश में क्रियान्वयन
Hardware Accelerators: GPUs (NVIDIA CUDA cores) execute thousands of parallel floating-point matrix multiplications simultaneously, training networks 50-100x faster than CPUs. Google TPUs (Tensor Processing Units) feature systolic array ASICs tailored specifically for matrix dot products.हार्डवेयर त्वरक: GPU (NVIDIA CUDA) समानांतर में हजारों मैट्रिक्स गुणन निष्पादित करते हैं; CPU से 50-100 गुना तेज। गूगल TPU विशेष रूप से न्यूरल नेटवर्क मैट्रिक्स गणना हेतु निर्मित ASIC चिप्स हैं।
Trinetra 2.0 (UP Police): Advanced deep CNN-based facial recognition platform deployed across Uttar Pradesh police stations, railway terminals, and Kumbh Mela to identify criminals and missing persons in real-time video streams.त्रिनेत्र 2.0 (उप्र पुलिस): गहरे CNN आधारित फेशियल रिकॉग्निशन तकनीक; उप्र के रेलवे स्टेशनों, थानों व महाकुंभ में भीड़ के लाइव कैमरों से अपराधियों व लापता व्यक्तियों की तत्काल पहचान।
ITMS (Integrated Traffic Management System): Deployed in Lucknow, Kanpur, Prayagraj, Varanasi, Ayodhya using deep learning computer vision for Automatic Number Plate Recognition (ANPR), red-light violations, and speed detection.स्मार्ट ट्रैफिक ITMS: लखनऊ, कानपुर, प्रयागराज, वाराणसी व अयोध्या में डीप लर्निंग ANPR कैमरों द्वारा स्वचालित नंबर प्लेट पहचान, चालान और ट्रैफिक नियंत्रण।
UPSSSC Top Note: NVIDIA GPUs accelerate DL training via CUDA; PyTorch and TensorFlow are leading DL frameworks; UP Police uses Trinetra 2.0 for facial recognition!UPSSSC मुख्य बिंदु: NVIDIA GPU में CUDA तकनीक डीप लर्निंग को गति देती है; PyTorch व TensorFlow मुख्य फ्रेमवर्क हैं; उप्र पुलिस 'त्रिनेत्र 2.0' का प्रयोग करती है!
1. Biological vs Artificial Neurons & The Perceptron1. जैविक बनाम कृत्रिम न्यूरॉन एवं परसेप्ट्रॉन की मूल अवधारणा
What is Deep Learning? • A specialized subset of Machine Learning based on Artificial Neural Networks (ANNs) with representation learning.
• Called "Deep" because it utilizes multiple hidden layers (typically tens or hundreds) between the input and output layers, allowing the network to automatically extract complex hierarchical features without manual feature engineering.
• Godfathers of Deep Learning:Geoffrey Hinton, Yann LeCun, and Yoshua Bengio (jointly awarded the prestigious Turing Award in 2018).डीप लर्निंग क्या है? • मशीन लर्निंग का एक विशिष्ट उपसमुच्चय जो आर्टिफिशियल न्यूरल नेटवर्क (ANN) पर आधारित है।
• इसे "डीप" (गहन) इसलिए कहा जाता है क्योंकि इसमें इनपुट और आउटपुट के बीच दो या दो से अधिक 'छिपी हुई परतें' (Hidden Layers) होती हैं। यह मानवीय हस्तक्षेप के बिना कच्चे डेटा से जटिल विशेषताओं को स्वतः निकाल लेता है।
• डीप लर्निंग के जनक (Godfathers):जेफ्री हिंटन, यान लेकुन और योशुआ बेंगियो (तीनों को संयुक्त रूप से 2018 का ट्यूरिंग पुरस्कार मिला)।
Biological vs Artificial Neuron Analogy: • Dendrites → Inputs ($x_1, x_2, \dots, x_n$): Receive incoming signals.
• Synapses → Weights ($w_1, w_2, \dots, w_n$): Strength or importance of connection.
• Soma (Cell Body) → Summation & Bias ($z = \sum w_i x_i + b$): Accumulates incoming inputs with bias.
• Axon → Output Activation ($a = f(z)$): Fires signal through an activation function to next neuron.जैविक बनाम कृत्रिम न्यूरॉन की तुलना: • डेंड्राइट्स (Dendrites) → इनपुट ($x_i$): आने वाले संकेतों को ग्रहण करना।
• सिनेप्स (Synapses) → भार (Weights - $w_i$): कनेक्शन की शक्ति या महत्व।
• सोमा (कोशिका पिंड) → योग एवं बायस ($\sum w_i x_i + b$): संकेतों का कुल योग।
• एक्सॉन (Axon) → आउटपुट ($f(z)$): सक्रियण फलन द्वारा अगले न्यूरॉन को संकेत भेजना।
The Perceptron (1958 - Frank Rosenblatt): • Invented at Cornell Aeronautical Laboratory; the simplest and earliest model of an artificial neural network.
• A binary linear classifier that computes a weighted sum of inputs and applies a step threshold function.
• Limitation: Minsky and Papert (1969) proved a single-layer perceptron cannot solve non-linearly separable problems such as the XOR problem, triggering the first "AI Winter" until Multi-Layer Perceptrons (MLP) emerged.परसेप्ट्रॉन (1958 - फ्रैंक रोसेनब्लाट): • कॉर्नेल एयरोनॉटिकल लैब में विकसित; कृत्रिम न्यूरल नेटवर्क का सबसे पहला और सरलतम मॉडल।
• यह एक बाइनरी क्लासिफायर था जो इनपुट के भारित योग पर स्टेप फंक्शन लगाता था।
• सीमा: मार्विन मिंस्की ने सिद्ध किया कि एकल परसेप्ट्रॉन XOR समस्या (गैर-रैखिक समस्या) को हल नहीं कर सकता, जिससे पहला "AI विंटर" आया।
2. Neural Network Architecture, Activation Functions & Training2. न्यूरल नेटवर्क वास्तुकला, सक्रियण फलन एवं प्रशिक्षण गणित
An Artificial Neural Network is trained via Forward Propagation (calculating predictions) and Backpropagation (updating weights using gradient descent).ANN का प्रशिक्षण दो चरणों में होता है: फॉरवर्ड प्रोपेगेशन (अनुमान निकालना) एवं बैकप्रोपेगेशन (त्रुटि घटाने हेतु भार को ठीक करना)।
Activation Functionसक्रियण फलन
Mathematical Formulaगणितीय सूत्र
Output Rangeआउटपुट परास
Primary Usage & Propertiesउपयोग एवं विशेषताएं
Sigmoid (Logistic)
$\sigma(z) = rac{1}{1 + e^{-z}}$
$(0, 1)$
Binary classification output layer; suffers from Vanishing Gradient problem.बाइनरी वर्गीकरण के आउटपुट लेयर में; वैनिशिंग ग्रेडिएंट की समस्या होती है।
ReLU (Rectified Linear Unit)
$f(z) = \max(0, z)$
$[0, \infty)$
Most widely used in hidden layers; computationally fast, prevents vanishing gradient for positive values.छिपी परतों (Hidden layers) में सर्वाधिक प्रयुक्त; गणना में तीव्र, वैनिशिंग ग्रेडिएंट से बचाव।
Tanh (Hyperbolic Tangent)
$ anh(z) = rac{e^z - e^{-z}}{e^z + e^{-z}}$
$(-1, 1)$
Zero-centered; preferred over Sigmoid in some recurrent networks.शून्य-केंद्रित (Zero-centered); कुछ रिकरेंट नेटवर्कों में सिग्मॉइड से बेहतर।
Softmax
$\sigma(z)_i = rac{e^{z_i}}{\sum e^{z_j}}$
$(0, 1)$, Sum $= 1$
Multi-class classification output layer; outputs normalized probability distribution.मल्टी-क्लास वर्गीकरण की आउटपुट लेयर; सभी वर्गों की प्रायिकताओं का योग 1 होता है।
Backpropagation & Gradient Descent: • Backpropagation: Popularized by Geoffrey Hinton, David Rumelhart, and Ronald Williams (1986). Uses the mathematical Chain Rule of calculus to propagate errors backwards from output layer to input layer.
• Gradient Descent: Optimization algorithm that iteratively updates network weights in the direction opposite to the gradient of the loss function ($ heta = heta - lpha
abla L$, where $lpha$ is the Learning Rate).बैकप्रोपेगेशन एवं ग्रेडिएंट डिसेंट: • बैकप्रोपेगेशन: 1986 में जेफ्री हिंटन आदि द्वारा लोकप्रिय बनाया गया। यह कलन के चेन रूल (Chain Rule) का उपयोग कर आउटपुट से इनपुट की ओर त्रुटि भेजता है।
• ग्रेडिएंट डिसेंट: ऑप्टिमाइजेशन एल्गोरिदम जो लॉस फलन की ढलान (Gradient) के विपरीत दिशा में भार को अपडेट करता है ($lpha$ = लर्निंग रेट)।
3. Major Deep Learning Architectures (CNN, RNN, Transformers, GAN)3. प्रमुख डीप लर्निंग वास्तुकला (CNN, RNN, ट्रांसफॉर्मर, GAN)
Uses Convolution kernels/filters and Pooling layers (MaxPool) to preserve spatial grid hierarchy of pixels.कॉन्वोल्यूशन फिल्टर और पूलिंग परतों का उपयोग कर पिक्सेल के स्थानिक पैटर्न को पहचानता है।
Image recognition, facial recognition, medical X-ray/MRI diagnosis, self-driving car vision, object detection
Processes sequential time-series data with internal feedback loops. LSTM solves vanishing gradient via Forget, Input, and Output gates.डेटा में समय-अनुक्रम (Sequential) याद रखता है। LSTM गेट्स (Forget, Input, Output) द्वारा दीर्घकालिक स्मृति रखता है।
Speech recognition, stock market prediction, language translation, time-series forecasting
Transformer
Transformer Architecture (Vaswani et al., Google Brain, 2017)
Eliminates recurrence; uses Self-Attention Mechanism to process entire sequences in parallel, capturing long-range contextual relationships.रिकरेंस हटाकर 'सेल्फ-अटेंशन' का उपयोग करता है। पूरे वाक्य को समानांतर रूप से प्रोसेस कर संदर्भ समझता है।
Large Language Models (GPT-4, Claude, Gemini, BERT, LLaMA), generative text, protein folding (AlphaFold)
Consists of two competing neural networks: Generator (creates fake data) and Discriminator (detects real vs fake) in a minimax game.दो नेटवर्क आपस में प्रतिस्पर्धा करते हैं: जेनेरेटर (नकली डेटा बनाता है) और डिस्क्रिमिनेटर (असली व नकली की पहचान करता है)।
Deepfake generation, photorealistic face synthesis, art generation, image super-resolution
4. Hardware Acceleration & Software Frameworks for Deep Learning4. डीप लर्निंग हेतु हार्डवेयर त्वरण एवं सॉफ्टवेयर फ्रेमवर्क
Why Traditional CPUs are Insufficient: • Deep learning models require billions of simultaneous matrix multiplications (linear algebra operations).
• CPUs have few powerful cores (4 to 64) optimized for sequential computing, whereas Deep Learning requires thousands of parallel cores.पारंपरिक CPU डीप लर्निंग के लिए अपर्याप्त क्यों हैं: • डीप लर्निंग में अरबों मैट्रिक्स गुणा (Matrix Multiplications) एक साथ करने पड़ते हैं।
• CPU में कम कोर (4 से 64) होते हैं जो क्रमिक गणना करते हैं, जबकि DL को हजारों समानांतर कोर की आवश्यकता होती है।
Hardware Accelerators: • GPU (Graphics Processing Unit): Specialized chips with thousands of small cores (Nvidia CUDA architecture, Tensor Cores). Companies like Nvidia (A100, H100, Blackwell) dominate AI training.
• TPU (Tensor Processing Unit): Custom Application-Specific Integrated Circuit (ASIC) designed specifically by Google for accelerating machine learning workloads with native tensor matrix math.
• NPU (Neural Processing Unit): On-device AI chips in modern smartphones (e.g., Apple Neural Engine, Qualcomm Hexagon).हार्डवेयर एक्सेलरेटर्स: • GPU (ग्राफिक्स प्रोसेसिंग यूनिट): हजारों समानांतर कोर से युक्त चिप्स (एनवीडिया CUDA, H100, A100)।
• TPU (टेन्सर प्रोसेसिंग यूनिट):गूगल द्वारा विशेष रूप से न्यूरल नेटवर्क ट्रेनिंग हेतु विकसित कस्टम ASIC चिप।
• NPU (न्यूरल प्रोसेसिंग यूनिट): आधुनिक स्मार्टफोन और लैपटॉप में ऑन-डिवाइस AI कार्यों हेतु चिप (उदा. एप्पल न्यूरल इंजन)।
Leading Software Frameworks: • TensorFlow: Developed by Google Brain; open-source library for high-performance numerical computation and deep neural networks.
• PyTorch: Developed by Meta AI (Facebook); widely favored by AI researchers for its dynamic computational graph.
• Keras: High-level neural network API written in Python, running on top of TensorFlow.प्रमुख सॉफ्टवेयर फ्रेमवर्क: • टेन्सरफ्लो (TensorFlow): गूगल ब्रेन द्वारा विकसित ओपन-सोर्स डीप लर्निंग लाइब्रेरी।
• पायटॉर्च (PyTorch): मेटा (फेसबुक) द्वारा विकसित, शोधकर्ताओं में सर्वाधिक लोकप्रिय।
• केरास (Keras): उच्च-स्तरीय न्यूरल नेटवर्क API जो टेन्सरफ्लो पर चलती है।
Turing Award winners recognized as 'Godfathers of Deep Learning''डीप लर्निंग के गॉडफादर' के रूप में सम्मानित ट्यूरिंग पुरस्कार विजेता
Geoffrey Hinton, Yann LeCun, and Yoshua Bengio (2018).जेफ्री हिंटन, यान लेकुन एवं योशुआ बेंगियो (2018)।
Practice all 30 questions. Each question has an instant answer reveal.सभी 30 प्रश्नों का अभ्यास करें। प्रत्येक प्रश्न में तत्काल उत्तर।
1
What is the primary basis of Deep Learning?
डीप लर्निंग का प्राथमिक आधार क्या है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
Deep Learning is based on multi-layered Artificial Neural Networks.
डीप लर्निंग बहु-स्तरीय कृत्रिम तंत्रिका नेटवर्क पर आधारित है।
2
Which layer is responsible for extracting features in Deep Learning?
डीप लर्निंग में विशेषताओं को निकालने के लिए कौन सी परत जिम्मेदार है?
Show Answerउत्तर देखें
✔ Correct: B
✔ सही उत्तर: B
Hidden layers perform feature extraction.
हिडन लेयर्स फीचर एक्सट्रैक्शन का कार्य करती हैं।
3
Which neural network is best suited for image processing?
छवि प्रसंस्करण के लिए कौन सा तंत्रिका नेटवर्क सबसे उपयुक्त है?
Show Answerउत्तर देखें
✔ Correct: B
✔ सही उत्तर: B
CNN (Convolutional Neural Networks) are used for image analysis.
CNN का उपयोग छवि विश्लेषण के लिए किया जाता है।
4
What is the purpose of 'Backpropagation'?
'बैकप्रोपैगेशन' का उद्देश्य क्या है?
Show Answerउत्तर देखें
✔ Correct: C
✔ सही उत्तर: C
Backpropagation adjusts weights to reduce error.
बैकप्रोपैगेशन त्रुटि को कम करने के लिए वेट को समायोजित करता है।
5
Deep Learning is a subset of:
डीप लर्निंग किसका एक उप-समुच्चय है?
Show Answerउत्तर देखें
✔ Correct: D
✔ सही उत्तर: D
It is a subset of both ML and AI.
यह ML और AI दोनों का एक हिस्सा है।
6
Which of these is not a deep learning framework?
इनमें से कौन सा डीप लर्निंग फ्रेमवर्क नहीं है?
Show Answerउत्तर देखें
✔ Correct: C
✔ सही उत्तर: C
Pandas is a data manipulation library.
पांडास एक डेटा हेरफेर लाइब्रेरी है।
7
RNNs are primarily used for:
RNNs का उपयोग मुख्य रूप से किसके लिए किया जाता है?
Show Answerउत्तर देखें
✔ Correct: B
✔ सही उत्तर: B
RNNs handle sequence data like time series or text.
RNNs समय श्रृंखला या पाठ जैसे अनुक्रम डेटा को संभालते हैं।
8
What is a neuron in ANN?
ANN में न्यूरॉन क्या है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
A neuron is a basic processing unit.
एक न्यूरॉन एक बुनियादी प्रसंस्करण इकाई है।
9
Deep learning requires:
डीप लर्निंग के लिए क्या आवश्यक है?
Show Answerउत्तर देखें
✔ Correct: B
✔ सही उत्तर: B
Deep learning excels with large datasets.
डीप लर्निंग बड़े डेटासेट के साथ उत्कृष्ट प्रदर्शन करती है।
10
The activation function in neurons:
न्यूरॉन्स में एक्टिवेशन फंक्शन का कार्य:
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
Activation functions introduce non-linearity.
एक्टिवेशन फंक्शन गैर-रैखिकता पेश करते हैं।
11
Which of these is a popular activation function?
इनमें से कौन सा एक लोकप्रिय एक्टिवेशन फंक्शन है?
Show Answerउत्तर देखें
✔ Correct: D
✔ सही उत्तर: D
All are common activation functions.
सभी सामान्य एक्टिवेशन फंक्शन हैं।
12
What is the 'Deep' in deep learning referring to?
डीप लर्निंग में 'डीप' का क्या अर्थ है?
Show Answerउत्तर देखें
✔ Correct: B
✔ सही उत्तर: B
Deep refers to the number of layers.
डीप का तात्पर्य परतों की संख्या से है।
13
Which algorithm is used for generative tasks?
जेनरेटिव कार्यों के लिए किस एल्गोरिदम का उपयोग किया जाता है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
Generative Adversarial Networks (GANs) are for generation.
GANs का उपयोग सृजन कार्यों के लिए किया जाता है।
14
What is Overfitting?
ओवरफिटिंग क्या है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
Overfitting happens when a model learns training data too well.
ओवरफिटिंग तब होती है जब कोई मॉडल प्रशिक्षण डेटा को बहुत अच्छी तरह से सीख लेता है।
15
What is Dropout in neural networks?
न्यूरल नेटवर्क में ड्रॉपआउट क्या है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
Dropout is a regularization technique.
ड्रॉपआउट एक नियमितीकरण तकनीक है।
16
What is the output layer in a classification problem?
वर्गीकरण समस्या में आउटपुट लेयर क्या है?
Show Answerउत्तर देखें
✔ Correct: C
✔ सही उत्तर: C
Output neurons depend on the number of classes.
आउटपुट न्यूरॉन्स वर्गों की संख्या पर निर्भर करते हैं।
17
Which hardware is preferred for DL?
DL के लिए कौन सा हार्डवेयर पसंद किया जाता है?
Show Answerउत्तर देखें
✔ Correct: B
✔ सही उत्तर: B
GPUs are preferred for parallel processing.
जीपीयू समानांतर प्रसंस्करण के लिए पसंद किए जाते हैं।
18
What is a tensor?
टेन्सर क्या है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
Tensors are multi-dimensional arrays.
टेन्सर बहु-आयामी सरणियाँ हैं।
19
Which is an example of DL application?
DL अनुप्रयोग का उदाहरण कौन सा है?
Show Answerउत्तर देखें
✔ Correct: D
✔ सही उत्तर: D
All are real-world applications.
सभी वास्तविक दुनिया के अनुप्रयोग हैं।
20
What is the role of weights?
वजन (weights) की क्या भूमिका है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
Weights determine the strength of connection.
वेट कनेक्शन की ताकत निर्धारित करते हैं।
21
What is Epoch?
इपोक (Epoch) क्या है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
An epoch is one full pass through data.
इपोक डेटा के माध्यम से एक पूर्ण पास है।
22
Which is a loss function?
इनमें से कौन सा लॉस फंक्शन है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
MSE (Mean Squared Error) is a loss function.
MSE एक लॉस फंक्शन है।
23
What is transfer learning?
ट्रांसफर लर्निंग क्या है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
Transfer learning reuses pre-trained models.
ट्रांसफर लर्निंग प्री-ट्रेंड मॉडल का पुन: उपयोग करती है।
24
What is Batch size?
बैच साइज क्या है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
Batch size is the number of samples in one iteration.
बैच साइज एक पुनरावृत्ति में नमूनों की संख्या है।
25
What is the function of a bias term?
बायस टर्म का कार्य क्या है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
Bias shifts the activation function.
बायस एक्टिवेशन फंक्शन को शिफ्ट करता है।
26
Is deep learning supervised or unsupervised?
क्या डीप लर्निंग सुपरवाइज्ड है या अनसुपरवाइज्ड?
Show Answerउत्तर देखें
✔ Correct: C
✔ सही उत्तर: C
DL can be both.
DL दोनों हो सकता है।
27
What is normalization?
नॉर्मलाइजेशन क्या है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
Normalization scales inputs to a standard range.
नॉर्मलाइजेशन इनपुट को मानक सीमा में स्केल करता है।
28
What is Vanishing Gradient?
वैनिशिंग ग्रेडिएंट क्या है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
Vanishing gradient slows training.
वैनिशिंग ग्रेडिएंट प्रशिक्षण को धीमा कर देता है।
29
Which is an optimization algorithm?
इनमें से कौन सा ऑप्टिमाइज़ेशन एल्गोरिदम है?
Show Answerउत्तर देखें
✔ Correct: D
✔ सही उत्तर: D
All are standard optimizers.
सभी मानक ऑप्टिमाइज़र हैं।
30
What is the goal of Deep Learning?
डीप लर्निंग का लक्ष्य क्या है?
Show Answerउत्तर देखें
✔ Correct: A
✔ सही उत्तर: A
The goal is high accuracy in tasks.
लक्ष्य कार्यों में उच्च सटीकता प्राप्त करना है।
Previous Year Questions from UP Government exams (UPSSSC, UP PCS, UP Lower PCS).यूपी सरकार परीक्षाओं के पिछले वर्ष के प्रश्न (UPSSSC, UP PCS, UP लोअर PCS)।