Ceci est une ancienne révision du document !
Table des matières
Intelligence du Pendule de Furuta
C'est quoi une Intelligence Artificielle ?
Une Intelligence Artificielle n'est jamais intelligente.
C'est un programme informatique qui comprend à un moment donné un Apprentissage Automatique.
Ressources
Principes
L'apprentissage se compose de cycles, un cycle comprend des steps.
Un step est:
- Le pendule envoie 4 items: (position, vitesse) du chariot, (position, vitesse) du pendule.
- Le serveur répond par une impulsion sur le moteur dans un sens ou dans l'autre. Cette impulsion sera proportionnelle (coefficient à trouver empiriquement !) à la valeur entre -1 et 1.
Le nombre de steps est limité, pour recommencer souvent, ce qui va faire converger l'apprentissage. Un cycle comprend souvent 2000 step Maxi. Un cycle est stoppé aussi si le chariot est trop loin du zéro, si le pendule tourne trop vite …
Un apprentissage comprend un nombre total de steps entre 100 000 et 1 000 000.
Reset pour un nouveau cycle
- Le serveur demande un reset au pendule
- Le pendule se place dans une position angulaire entre -180 et 180 degrés, avec une petite vitesse angulaire
- Le chariot est proche de zéro avec une petite vitesse linéaire
- Le client envoie ses '/reset' = positions/vitesses
- Un nouveau cycle commence
Calcul de la vitesse et de la position
Il est nécessaire de connaître vitesse et position du chariot et du pendule.
La fréquence des impulsions moteur pourrait être de 50 Hz, soit une période de 0.02 s
Pour un codeur de 1000 points sur un tour de chariot, sur un rayon de 100 mm, le déplacement du pendule est de 2*3.14*100/1000=0.628 mm par point.
Modélisation dans Blender:
Estimation de la vitesse du chariot: 2m en 3 secondes soit 0.6 m/s
Fréquence d'envoi des impulsions moteur = 30 Hz
Variation de vitesse demandée dans Blender: entre -0.025 m/s et +0.025 m/s (25 mm/s)
Pendant une période, la distance parcourue est maxi: 25*0.033 = 0.8 mm
Matériels pour le Dalek
Installation de l'intelligence artificielle
Nous utilisons Gym de OpenAI et Stable-Baselines3.
Stable-baselines3
Le code de Stable-baselines est le code de Baselines nettoyé, amélioré, documenté. Documentation de stable-baselines @ stable-baselines.readthedocs.io
Stable-baselines3 est la dernière version, il utilise tensorflow2 et Torch
- Documentation de stable-baselines3 @ stable-baselines3.readthedocs.io
Installation:
https://stable-baselines3.readthedocs.io/en/master/guide/install.html
Les modules python à installer: stable-baselines3[extra] et pyglet. Pyglet ne sert qu'a tester l'installation. L'installation de stable-baselines3 installe gym et installe tout ce qui est dans requirements.txt
# Installation et Mise à jour du module pip sudo apt install python3-pip python3 -m pip install --upgrade pip # Installation de venv sudo apt install python3-venv
Dans votre dossier “projets”, par exemple /home/machin/projets
git clone https://github.com/sergeLabo/furuta # Allez dans le dossier des sources cd ./furuta python3 -m venv mon_env source mon_env/bin/activate python3 -m pip install -r requirements.txt
Notre environement
Ressources: Création d'un Environment particulier dans Gym de OpenAI
Notre environnement: furuta sur github