Différences

Ci-dessous, les différences entre deux révisions de la page.

--- dialogpt [2020/04/25 14:48] – serge
+++ dialogpt [2021/09/03 05:39] (Version actuelle) – [Préalable] serge
@@ Ligne 1: / Ligne 1: @@
 ====== DialoGPT ======
 <WRAP center round box 60% centeralign>
-**{{tagpage>ia|Intelligence Artificielle}}**
+**{{tagpage>ia|Intelligence Artificielle}}**     **[[http://translate.google.com/translate?hl=&sl=auto&tl=en&u=https%3A%2F%2Fressources.labomedia.org%2Fdialogpt|English Version]]**
+</WRAP>
+<WRAP center round box 60% centeralign>
+**[[les_pages_intelligence_artificielle_en_details|Les Pages Intelligence Artificielle en détails]]**
 </WRAP>
-<WRAP center round box 60% centeralign >
+<WRAP center round box 80% centeralign >
-**Large-scale pretraining for dialogue**
+**Large-scale pretraining for dialogue**\\
+Encore un truc Microsoft qui ne passe pas un test de Turing en 3 questions.\\
+Seul point positif, il n'est pas raciste !\\
+Une carte graphique n'est pas nécessaire.
 </WRAP>
@@ Ligne 13: / Ligne 19: @@
 The model is trained on 147M multi-turn dialogue from **Reddit** discussion thread.
-=====Test sur Nvidia 1060 GTX=====
 =====Installation=====
-====Installation de Conda====
+====Préalable====
-  cd DialoGPT
+Il faut installer CUDA si l'argument --gpu=1 est utilisé avec interact.py ou main.py de l'irc:
-  conda env create -f LSP-linux.yml -n LSP
+  * [[yolo_darknet_sur_un_portable_optimus#installation_de_cuda_100_sur_xubuntu_1804|Installation de CUDA 10.0 sur Xubuntu 18.04]]
+Par contre PyTorch Pretrained BERT est nécessaire:
+[[https://github.com/google-research/bert|Google's pre-trained models]] The Big & Extending Repository of pretrained Transformers: PyTorch version of Google AI's BERT model with script to load Google's pre-trained models.
-To activate this environment, use
+  sudo pip3 install pytorch_pretrained_bert irc
-  conda activate LSP
-To deactivate an active environment, use
-  conda deactivate
-====Install de Docker sur Xubuntu 18.04====
-Install Docker on Ubuntu Using Default Repositories
-  * https://phoenixnap.com/kb/how-to-install-docker-on-ubuntu-18-04
+===Ubuntu 20.04===
+~ 900Mo
-  sudo apt-get remove docker docker-engine docker.io
+  python3 -m pip install pytorch_pretrained_bert irc --user
-  conda activate LSP
-  sudo apt install docker.io
-====NVIDIA Container Toolkit====
+Bien sûr, installer ces packages dans un [[virtualenv|venv]] est une bien meilleure solution.
-  * https://github.com/NVIDIA/nvidia-docker
+====DialoGPT2-Interact====
+  git clone https://github.com/microsoft/DialoGPT.git
-====Erreur de dépendance avec libcurl====
-  * https://askubuntu.com/questions/1029273/curl-is-not-working-on-ubuntu-18-04-lts
+Script python supplémentaire récupéré à [[https://github.com/andreamad8/DialoGPT2-Interact|github.com/andreamad8 interact.py]] à coller dans les sources de DialoGPT
-  apt remove -y libcurl4
+La première execution de cette commande télécharge les fichiers nécessaires (2 Go) du modèle medium
-  apt install -y libcurl4 curl
+  python3 interact.py --model_name_or_path ./models/medium --load_checkpoint ./models/medium/medium_ft.pkl --top_k 0
-====Erreur de GPG====
+Ensuite, les relances suivantes ouvrent des prompts qui permettent de dialoguer avec l'IA.
-W: Erreur de GPG : https://nvidia.github.io/libnvidia-container/ubuntu18.04/amd64  InRelease : Les signatures suivantes n'ont pas pu être vérifiées car la clé publique n'est pas disponible : NO_PUBKEY 6ED91CA3AC1160CD
+=====Chat Bot sur IRC=====
+====Sur la tour avec la carte graphique====
+  * Les sources des fichiers à ajouter (uniquement les *.py) dans le dossier DialoGPT: [[https://github.com/sergeLabo/dialogpt-irc|dialogpt-irc sur github.com/sergeLabo]]
-  * https://github.com/NVIDIA/nvidia-docker/issues/1081
-  curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
+Options possibles: (voir la fonction run_model())
+  * --top_k 0 (--top_k 1 ne va pas du tout)
+  * --max_history 5 # par défaut 2
+  * --gpu 1 # par défaut 0
+  * --max_seq_length 256 # par défaut 128
-====Test====
+Test avec:
-  sudo docker run nvidia/cuda:9.0-base nvidia-smi
+  python3 main.py --model_name_or_path ./models/medium --load_checkpoint ./models/medium/medium_ft.pkl --top_k 0 --max_history 5 --gpu 1 --max_seq_length 128
-<code>
-docker: Error response from daemon: OCI runtime create failed: container_linux.go:348: starting container process caused "exec: \"nvidia-smi\": executable file not found in $PATH": unknown.
-ERRO[0130] error waiting for container: context canceled
-</code>
-erreur aussi avec:
-  sudo apt install nvidia-container-runtime
-  sudo docker run nvidia/cuda:10.0-base nvidia-smi
-A essayer:
-  docker run --gpus all --ipc=host --rm -it -v $PWD:/workspace --network=host icaruszyz/large-scale-training:dialogpt bash
-mais sans le --gpus all que docker run refuse
+====Pour les clients====
+  * Pour vous connecter à l'IRC, allez à https://kiwiirc.com/nextclient/
+<code text>
+    server = "irc.libera.chat"
+    port = 6667
+    channel = "#lalabomedia"
+    nickname = "TheGeneral"
+    realname = "IA Computer at The Prisoner"
+</code>
+Comment envoyer un message au robot ? \\
+Le message doit avoir cette structure:
+  TheGeneral: puis votre message en anglais !
-{{tag>ia python3 sb}}
+{{tag> ia python sb }}