Différences

Ci-dessous, les différences entre deux révisions de la page.

--- l_intelligence_du_semaphore [2019/04/29 17:19] – ↷ Liens modifiés en raison d'un déplacement. serge
+++ l_intelligence_du_semaphore [2019/05/09 06:22] – serge
@@ Ligne 40: / Ligne 40: @@
 ===== Des maths ! ====
 ====Relu Rectifier neural networks====
+{{ :2019_05:relu.jpg?400 |}}
   * **[[https://en.wikipedia.org/wiki/Rectifier_(neural_networks)|Rectifier (neural networks)]]**  sur Wikipedia en
 <code python>
@@ Ligne 70: / Ligne 71: @@
 </code>
 ====Sigmoïd====
+{{ :2019_05:sigmoid.png?400 |}}
   * **[[https://fr.wikipedia.org/wiki/Sigmo%C3%AFde_(math%C3%A9matiques)|Sigmoïde]]**  sur Wikipedia fr
 Elle représente la fonction de répartition de la loi logistique. Elle est souvent utilisée dans les réseaux de neurones parce qu'elle est dérivable, ce qui est une contrainte pour l'algorithme de [[https://fr.wikipedia.org/wiki/R%C3%A9tropropagation_du_gradient|rétropropagation]] de [[https://fr.wikipedia.org/wiki/Perceptron_multicouche#Perceptron_multicouche_%C3%A0_r%C3%A9tropropagation|Werbos]]. La forme de la dérivée de sa fonction inverse est extrêmement simple et facile à calculer, ce qui améliore les performances des algorithmes.