:orphan: |rss_image| **page de blog - 1/3** :ref:`==> ` :ref:`Blog ` .. |rss_image| image:: feed-icon-16x16.png :target: ../_downloads/rss.xml :alt: RSS ---- .. index:: blog .. _ap-main-0: page de blog - 1/3 ++++++++++++++++++ .. blogpostagg:: :title: Lectures :date: 2022-02-28 :keywords: articles :categories: paper :rawfile: 2022/2022-02-28_lecture.rst `Large Batch Optimization for Deep Learning: Training BERT in 76 minutes `_ .. blogpostagg:: :title: Profiler :date: 2021-11-21 :keywords: profiler :categories: tools :rawfile: 2021/2021-11-21_profiler.rst Un profiler sert à mesurer le temps passé à n'importe quel endroit du programme. GPU et CPU peuvent fonctionner ensemble, moins il y a de temps, plus le programme est rapide. C'est ce que mesure ce type d'outils : ... .. blogpostagg:: :title: Quelques articles :date: 2021-06-14 :keywords: implémentation :categories: apprentissage :rawfile: 2021/2021-06-14_papers.rst * `Deep Learning course: lecture slides and lab notebooks `_ (Charles Ollion, Olivier Grisel), `Master Year 2 Data Science IP-Paris `_ * `LocoProp: Enhancing BackProp via Local Loss Optimization `_ * `Understanding Failures of Deep Networks via Robust Feature Extraction `_ * `Understanding Failures of Deep Networks via Robust Feature Extraction `_ .. blogpostagg:: :title: Quelques articles :date: 2021-06-14 :keywords: implémentation :categories: apprentissage :rawfile: 2021/2021-10-09_papers.rst * `Simulation-based Bayesian inference for multi-fingered robotic grasping `_ .. blogpostagg:: :title: Quelques articles :date: 2021-01-05 :keywords: implémentation :categories: optimisation :rawfile: 2021/2021-01-05_papers.rst Ce papier ouvre la voix à la reconnaissance du langage des signes en temps réel et aussi à n'importe quel forme de pilotage à partir de la position des mains, tous les sports, un logiciel pourra vous dire si votre geste de tennis est correct, et toutes les consoles de jeux n'auront plus besoin de manettes. ... .. blogpostagg:: :title: Quelques articles :date: 2020-10-02 :keywords: implémentation :categories: optimisation :rawfile: 2020/2020-10-02_papers.rst * `Compiling ONNX Neural Network Models Using MLIR `_ * `Scaling Distributed Training with Adaptive Summation `_ * `ZeRO: Memory Optimizations Toward Training Trillion Parameter Models `_ .. blogpostagg:: :title: Pose2seq :date: 2020-08-13 :keywords: pose2seq :categories: segmentation :rawfile: 2020/2020-08-13_pos2seq.rst Le modèle segmente plusieurs personnes sur la même image, pixel à pixel. Article : `Pose2Seg: Detection Free Human Instance Segmentation `_, code : `Pose2Seg `_. .. blogpostagg:: :title: Keras to Tensorflow :date: 2020-07-16 :keywords: keras,tensorflow :categories: code :rawfile: 2020/2020-07-16_graph.rst J'ai cherché ça longtemps : `Freezing a Keras model `_. La documentation de :epkg:`tensorflow` est pléthorique, tellement qu'on ne s'y retrouve plus. .. blogpostagg:: :title: Deep Learning, introduction :date: 2020-05-03 :keywords: tutorial,interprétabilité :categories: paper :rawfile: 2020/2020-05-03_paper.rst Un article d'introduction au deep learning : `Explainable Deep Learning: A Field Guide for the Uninitiated `_. .. blogpostagg:: :title: GELU et descente de gradient :date: 2020-01-20 :keywords: gelu,relu,elu :categories: activation :rawfile: 2020/2020-01-20_gelu.rst Un article intéressant sur un petit changement numérique dans la fonction d'activation : `Gaussian Error Linear Units (GELUS) `_. D'après l'article, cette nouvelle fonction d'activation est comparable à la fonction Relu voire meilleure sur certains problèmes. Cette fonction d'activation est stochastique dans le sens où parfois la fonction retourne *x* ou 0 selon qu'une variable normale *Y* est inférieur à *x*. Le réseau introduit lui-même un bruit lors de la prédiction, la couche suivante doit donc en tenir compte. ... ---- |rss_image| **page de blog - 1/3** :ref:`==> ` :ref:`2020-10 (1) ` :ref:`2021-01 (1) ` :ref:`2021-06 (2) ` :ref:`2021-11 (1) ` :ref:`2022-02 (1) `