Neuron működése – neurális hálózatok matematikai alapjai

Egy mesterséges neuron működését leíró függvény az alábbi formában jelenik meg matematikailag, amely az inputok súlyozott összegét és egy aktivációs függvényt foglalja magában:

Mesterséges neuron függvénye:

1. Bemenet összegzése: A neuron több bemenetet kap, amelyeket az adott súlyokkal szoroz meg, és hozzáad egy eltolást (bias-t):

   
   $$z = \sum_{i=1}^n w_i \cdot x_i + b$$

   ahol:

   • 
     $x_i$

     : a neuron
     $i$

     -edik bemeneti értéke,

   • 
     $w_i$

     : a hozzá tartozó súly,

   • 
     $b$

     : az eltolási érték (bias),

   • 
     $n$

     : a bemenetek száma.

2. Aktivációs függvény alkalmazása: Az összegzett értékre egy aktivációs függvényt alkalmazunk, hogy a neuron kimeneti értékét meghatározzuk:

   
   $$a = f(z)$$

   ahol:

   • 
     $f$

     : az aktivációs függvény,

   • 
     $a$

     : a neuron kimenete.

Aktivációs függvények példái:

Az aktivációs függvények különböző típusai határozzák meg, hogy a neuron hogyan reagál a bemenetekre:

• Lineáris aktiváció:

  
  $$f(z) = z$$

  (Hasznos regressziós problémákhoz.)

• Sigmoid:

  
  $$f(z) = \frac{1}{1 + e^{-z}}$$

  (0 és 1 közötti kimenetet ad, gyakran használják bináris osztályozásnál.)

• ReLU (Rectified Linear Unit):

  
  $$f(z) = \max(0, z)$$

  (Egyszerű és hatékony, mély tanulásban népszerű.)

• Tanh:

  
  $$f(z) = \frac{e^z – e^{-z}}{e^z + e^{-z}}$$

  (Kimenet -1 és 1 között.)

• Softmax:

  
  $$f(z_i) = \frac{e^{z_i}}{\sum_{j=1}^n e^{z_j}}$$

  (Hasznos többosztályos osztályozásnál.)

Összefoglaló:

A neuron működése egy kétlépéses folyamat:

1. Súlyozott összegzés:
   $\sum w_i \cdot x_i + b$

   ,

2. Aktivációs függvény alkalmazása:
   $f(z)$

   .

Ez a modell inspirálódott a biológiai neuronoktól, de egyszerűsített és specifikusan optimalizált mesterséges intelligencia rendszerek számára.