Outils pour utilisateurs

Outils du site


dialogpt

Différences

Ci-dessous, les différences entre deux révisions de la page.

Lien vers cette vue comparative

Les deux révisions précédentesRévision précédente
Prochaine révision
Révision précédente
Prochaine révisionLes deux révisions suivantes
dialogpt [2020/04/25 14:48] sergedialogpt [2020/05/24 10:25] – [Sur le serveur] serge
Ligne 1: Ligne 1:
 ====== DialoGPT ====== ====== DialoGPT ======
-<WRAP center round box 60% centeralign>+<WRAP center round box 80% centeralign>
 **{{tagpage>ia|Intelligence Artificielle}}** **{{tagpage>ia|Intelligence Artificielle}}**
 </WRAP> </WRAP>
  
-<WRAP center round box 60% centeralign > +<WRAP center round box 80% centeralign > 
-**Large-scale pretraining for dialogue**+**Large-scale pretraining for dialogue**\\ 
 +Encore un truc Microsoft qui ne passe pas un test de Turing en 3 questions.\\ 
 +Seul point positif, il n'est pas raciste !\\ 
 +Une carte graphique n'est pas nécessaire.
 </WRAP> </WRAP>
  
Ligne 14: Ligne 17:
 The model is trained on 147M multi-turn dialogue from **Reddit** discussion thread. The model is trained on 147M multi-turn dialogue from **Reddit** discussion thread.
  
-=====Test sur Nvidia 1060 GTX=====+=====Installation===== 
 +====Préalable==== 
 +Il faut installer CUDA si l'argument --gpu=1 est utilisé avec interact.py ou main.py de l'irc:  
 +  * [[yolo_darknet_sur_un_portable_optimus#installation_de_cuda_100_sur_xubuntu_1804|Installation de CUDA 10.0 sur Xubuntu 18.04]]
  
 +Par contre PyTorch Pretrained BERT est nécessaire:
 +[[https://github.com/google-research/bert|Google's pre-trained models]] The Big & Extending Repository of pretrained Transformers: PyTorch version of Google AI's BERT model with script to load Google's pre-trained models.
 +  sudo pip3 install pytorch_pretrained_bert irc
  
 +====DialoGPT2-Interact====
 +  git clone https://github.com/microsoft/DialoGPT.git
 +  
 +Script python supplémentaire récupéré à [[https://github.com/andreamad8/DialoGPT2-Interact|github.com/andreamad8 interact.py]] à coller dans les sources de DialoGPT
  
-=====Installation===== +La première execution de cette commande télécharge les fichiers nécessaires (2 Go) du modèle medium 
-====Installation de Conda==== +  python3.6 interact.py --model_name_or_path ./models/medium --load_checkpoint ./models/medium/medium_ft.pkl --top_k 0
-  cd DialoGPT  +
-  conda env create -f LSP-linux.yml -n LSP+
      
-To activate this environmentuse +Ensuiteles relances suivantes ouvrent des prompts qui permettent de dialoguer avec l'IA. 
-  conda activate LSP +=====Chat Bot sur IRC===== 
-To deactivate an active environment, use +====Sur le serveur==== 
-  conda deactivate +  * Les sources des fichiers à ajouter dans le dossier DialoGPT: [[https://github.com/sergeLabo/dialogpt-irc|dialogpt-irc sur github.com/sergeLabo]]
-====Install de Docker sur Xubuntu 18.04==== +
-Install Docker on Ubuntu Using Default Repositories+
  
-  * https://phoenixnap.com/kb/how-to-install-docker-on-ubuntu-18-04+  python3.6 main.py --model_name_or_path ./models/medium --load_checkpoint ./models/medium/medium_ft.pkl --top_k 0  
 +   
 +Autres options possibles: (voir la fonction run_model()) 
 +  * --top_k 1 
 +  * --max_history 5 # par défaut 2 
 +  * --gpu 1 # par défaut 0 
 +  * --max_seq_length 256 # par défaut 128
  
-  sudo apt-get remove docker docker-engine docker.io +Test avec: 
-  conda activate LSP +  python3.6 main.py --model_name_or_path ./models/medium --load_checkpoint ./models/medium/medium_ft.pkl --top_k 0 --max_history 5 --gpu 1 --max_seq_length 128
-  sudo apt install docker.io+
      
-====NVIDIA Container Toolkit==== +--top_k 1 ne va pas du tout
-  * https://github.com/NVIDIA/nvidia-docker+
  
-====Erreur de dépendance avec libcurl==== +===Sur mon PC sans GPU=== 
-  * https://askubuntu.com/questions/1029273/curl-is-not-working-on-ubuntu-18-04-lts+  cd /media/data/3D/dialo_sans_gpu 
 +  python3.7 main.py --model_name_or_path ./models/medium --load_checkpoint ./models/medium/medium_ft.pkl --top_k 0 
 +ou 
 +  python3.7 main.py --model_name_or_path ./models/medium --load_checkpoint ./models/medium/medium_ft.pkl --top_k 0 --max_history 5 --max_seq_length 128 
 +   
 +====Pour les clients==== 
 +  * Pour vous connecter à l'IRC, allez à https://kiwiirc.com/nextclient/
  
-  apt remove -y libcurl4 +Comment envoyer un message au robot ? \\ 
-  apt install -y libcurl4 curl+Le message doit avoir cette structure: 
 +  TheGeneral: puis votre message en anglais ! 
 +  
      
-====Erreur de GPG==== 
-W: Erreur de GPG : https://nvidia.github.io/libnvidia-container/ubuntu18.04/amd64  InRelease : Les signatures suivantes n'ont pas pu être vérifiées car la clé publique n'est pas disponible : NO_PUBKEY 6ED91CA3AC1160CD 
- 
-  * https://github.com/NVIDIA/nvidia-docker/issues/1081 
- 
-  curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - 
- 
-====Test==== 
-  sudo docker run nvidia/cuda:9.0-base nvidia-smi 
-<code> 
-docker: Error response from daemon: OCI runtime create failed: container_linux.go:348: starting container process caused "exec: \"nvidia-smi\": executable file not found in $PATH": unknown. 
-ERRO[0130] error waiting for container: context canceled  
-</code> 
- 
-erreur aussi avec: 
-  sudo apt install nvidia-container-runtime 
-  sudo docker run nvidia/cuda:10.0-base nvidia-smi 
-  
-A essayer: 
- 
-  docker run --gpus all --ipc=host --rm -it -v $PWD:/workspace --network=host icaruszyz/large-scale-training:dialogpt bash 
- 
-mais sans le --gpus all que docker run refuse 
  
  
-{{tag>ia python3 sb}}+{{tag>ia python3 sb page_de_qualité}}
dialogpt.txt · Dernière modification : 2021/09/03 05:39 de serge