Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Travis utilise install_zds.sh #5299

Merged
merged 69 commits into from Apr 20, 2019
Merged

Conversation

A-312
Copy link
Contributor

@A-312 A-312 commented Mar 10, 2019

Travis utilise le même script de install_zds (ref : #5188 (comment) et #5143 (comment))

Corrige : fix #5127 , fix: #5128 , fix #5265 , fix #5144

Note : #5144 : Gérer l'installation de jdk nous même est obligatoire pour avoir le même script d'installation avec travis.

Prêt à Q/A

@A-312
Copy link
Contributor Author

A-312 commented Mar 10, 2019

todo :

@coveralls
Copy link

coveralls commented Mar 10, 2019

Coverage Status

Coverage increased (+6.01%) to 80.296% when pulling 0e60225 on A-312:addjdk11withtravis into 5f68e0e on zestedesavoir:dev.

@A-312
Copy link
Contributor Author

A-312 commented Mar 10, 2019

Mon script fonctionne bien mais on a un problème extérieure avec les fixtures.

Le problème ne vient pas de ma PR car, il a été rencontré ici : https://zestedesavoir.com/forums/sujet/12174/installation-locale-du-zds/?page=1#p200207 avec l'ancien script d’installation

@A-312
Copy link
Contributor Author

A-312 commented Mar 11, 2019

J'ai activé zmd mais il génère trop de log

@artragis
Copy link
Member

J'ai activé zmd mais il génère trop de log

pour l'instant tant pis, on corrigera plus tard.

@A-312
Copy link
Contributor Author

A-312 commented Mar 11, 2019

pour l'instant tant pis, on corrigera plus tard.

le principal problème c'est ça (trop long pour s'afficher sur travis) :

image

@artragis
Copy link
Member

Ok, il faut donc augmenter le niveau de log du logger dans epub_utils

diff --git a/zds/tutorialv2/epub_utils.py b/zds/tutorialv2/epub_utils.py
index d28a62fe5..c1a53bc19 100644
--- a/zds/tutorialv2/epub_utils.py
+++ b/zds/tutorialv2/epub_utils.py
@@ -155,9 +155,10 @@ def build_ebook(published_content_entity, working_dir, final_file_path):
     build_content_opf(published_content_entity, chapters, images, ops_dir)
     build_container_xml(meta_inf_dir_path)
     build_nav_xhtml(ops_dir, published_content_entity, chapters)
-
+    zip_logger = logging.getLogger(__name__ + '.zip')
+    zip_logger.setLevel(logging.WARN)
     shutil.make_archive(str(final_file_path), format='zip', root_dir=str(Path(working_dir, 'ebook')),
-                        logger=logging.getLogger(__name__))
+                        logger=zip_logger)
     shutil.move(str(final_file_path) + '.zip', str(final_file_path))

@A-312
Copy link
Contributor Author

A-312 commented Mar 11, 2019

@artragis
Copy link
Member

bah disons que les logs que tu avais cité ne sont plus là. donc si, ça a marché.
là ce sont d'autres logs. Et c'est au niveau de la config de l'appli qu'il faut réduire la verbosité pour mettre "INFO" plutôt que DEBUG

@A-312
Copy link
Contributor Author

A-312 commented Mar 11, 2019

artragis : J'ai réduit le niveau des logs :)

Q/A :

debian 9.8 :

xzdec: success.

* Load virtualenv
* [+virtualenv] installing `virtualenv 16.2.0` with pip
./scripts/install_zds.sh: ligne 192: pip : commande introuvable
* [+virtualenv] creating virtualenv
Error: [Errno 30] Read-only file system: 'lib' -> '/home/a312/zds/zds-site/zdsenv/lib64'

* Load virtualenv
* activating venv `zdsenv`
./scripts/install_zds.sh: ligne 216: ./zdsenv/bin/activate: Aucun fichier ou dossier de ce type
!! No virtualenv, cannot continue
Makefile:7 : la recette pour la cible « install-linux-full » a échouée
make: *** [install-linux-full] Erreur 1

C'est pip3 et python3, sinon python retourne python2.7...

@artragis
Copy link
Member

https://travis-ci.org/zestedesavoir/zds-site/jobs/505458501#L2301 => "command coverage not found"

@A-312
Copy link
Contributor Author

A-312 commented Mar 14, 2019

Surement le "retry_pip" qui bloque, il faudrait essayer "pip"

@artragis
Copy link
Member

non ça semble plutôt être le fait qu'avant on utilisait pip install -r requirements-dev.txt. Il semble manquer un +prod lorsque tu fais ./scripts/install_zds.sh --answer-yes --detect-os-version --travis-output $zds_install_argument

D'ailleurs le nom install_back_with_prod est assez mal choisi c'est plutôt install_mysql_dev_env

@A-312
Copy link
Contributor Author

A-312 commented Mar 17, 2019

non ça semble plutôt être le fait qu'avant on utilisait pip install -r requirements-dev.txt. Il semble manquer un +prod lorsque tu fais ./scripts/install_zds.sh --answer-yes --detect-os-version --travis-output $zds_install_argument

D'ailleurs le nom install_back_with_prod est assez mal choisi c'est plutôt install_mysql_dev_env

Normalement il est compris dans : $zds_install_argument

https://github.com/zestedesavoir/zds-site/pull/5299/files#diff-872477f61524f7941c1ab3437f47e96dR31

@artragis
Copy link
Member

Normalement

pour vérifier, fais un echo avant alors

@A-312
Copy link
Contributor Author

A-312 commented Mar 22, 2019

j'ai rajouté un echo

@artragis
Copy link
Member

artragis commented Apr 1, 2019

Ca change rien, mais j'ai investigué : c'est déjà comme ça aujourd'hui. Remets le travis_retry et je mergerai.

@A-312
Copy link
Contributor Author

A-312 commented Apr 1, 2019

J'essaye deux choses avant, je pense savoir d'où vient le problème.

@A-312
Copy link
Contributor Author

A-312 commented Apr 1, 2019

Il faudra vérifier si source ./scripts/ci_turbo.sh est bien scopé quand c'est lié au front. Que l'export soit bien dans l'ensemble du script travis et pas seulement le fichier qui l'inclue.

@A-312
Copy link
Contributor Author

A-312 commented Apr 1, 2019

Le coverage se fait sur les 3 premiers tests, il faudrait peut etre le faire sur un seul. Il me semble inutile de le lancer 3 fois.

@A-312
Copy link
Contributor Author

A-312 commented Apr 15, 2019

@artragis On tente ma PR comme elle est ?

En amélioration, il y aurait :

  • Réfléchir si l'installation de texlive via install_zds est intéressante, on pourrait utiliser l'ancien script de travis.yml pour gagner du temps ;
  • Gérer le temps de chaque tache "folder_travis" en sh (pour qu'il s'affiche dans les logs à droite de la ligne) ;
  • Faire coverage une seule fois et non sur les 3 tests, l'enlever du premier test qui fait 18 min, diminuerait le temps nécessaire pour faire tourner travis. ----> edit : impossible apparement chaque test fait des choses différentes avec coverage.

Il faudrait vérifier si ma modification (passage d'apt-get à pip) avec python3-setuptools et libxml2-dev n'est pas problématique, sous debian j'ai eu un problème avec le package "wheel" je ne sais pas si c'est lié. :/ J'hésite à le remettre, il faudrait tester à nouveau, (je reçois bientôt ma nouvelle carte graphique). ---> edit : J'ai remis comme c'était avant, donc on installe les packages comme c'était avant cette pr.

@artragis
Copy link
Member

on va tenter comme ça, je te propose de faire un rebase pour être sûr que tout marche bien.

@A-312
Copy link
Contributor Author

A-312 commented Apr 15, 2019

Ok je fais ça demain. J'aurais ma nouvelle carte graphique, je pourrais donc lancer la VM ! :)

@artragis artragis added this to in review in Objectif v28.2 Apr 17, 2019
@A-312
Copy link
Contributor Author

A-312 commented Apr 19, 2019

C'est passé : https://travis-ci.org/zestedesavoir/zds-site/builds/522269334 / Je rebase

@A-312
Copy link
Contributor Author

A-312 commented Apr 19, 2019

@artragis prêt à merge (si le test passe).

@A-312 A-312 mentioned this pull request Apr 19, 2019
4 tasks
@artragis
Copy link
Member

Le temps de build a vachement augmenté alors qu'on avait réussi à le faire baisser à 10 minutes environ. Je pense pas que du coup ça soit acceptable.

@A-312
Copy link
Contributor Author

A-312 commented Apr 20, 2019

Je pensais que : 8191843 allait être suffisant mais le temps d'installation reste aussi long. :( à voir ce que donne mon dernier commit 28fcd34

@A-312
Copy link
Contributor Author

A-312 commented Apr 20, 2019

@artragis Voila, rapide comme un avion !

@artragis artragis merged commit c6014ac into zestedesavoir:dev Apr 20, 2019
Objectif v28.2 automation moved this from in review to Done Apr 20, 2019
@A-312 A-312 deleted the addjdk11withtravis branch April 12, 2020 08:12
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
No open projects
3 participants