![CNRS - Formation FIDLE](/img/default-banner.jpg)
- 88
- 532 974
CNRS - Formation FIDLE
France
Registrace 18. 01. 2021
FIDLE (Formation Introduction au Deep LEarning) est une formation en ligne, libre et gratuite, ouverte à toutes et à tous !
Elle est proposée et soutenue par les réseaux DEVLOG, RESINFO et SARI du CNRS
Pour en savoir plus, rendez-vous sur :
fidle.cnrs.fr
Elle est proposée et soutenue par les réseaux DEVLOG, RESINFO et SARI du CNRS
Pour en savoir plus, rendez-vous sur :
fidle.cnrs.fr
Perspectives pour la Science (vue de mai 2023) - Bertrand Cabot (IDRIS/CNRS)
Perspectives pour la Science (vue de mai 2023) - Bertrand Cabot (IDRIS/CNRS)
zhlédnutí: 876
Video
Alphafold2 et la prédiction de structures de protéines - Thibaut Véry (IDRIS/CNRS)
zhlédnutí 1,1KPřed 6 měsíci
Alphafold2 et la prédiction de structures de protéines - Thibaut Véry (IDRIS/CNRS)
L'Histoire de BLOOM - Lucille Saulnier & François Yvon
zhlédnutí 1,3KPřed 6 měsíci
L'Histoire de BLOOM - Lucille Saulnier & François Yvon
Illustration - Classification d'image (MNIST) avec un DNN
zhlédnutí 1,7KPřed 7 měsíci
Illustration - Classification d'image (MNIST) avec un DNN
Illustration - DNN Régression œnologique
zhlédnutí 1,8KPřed 7 měsíci
Illustration - DNN Régression œnologique
3. 80 ans d'histoire... et la victoire des neurones !
zhlédnutí 2,8KPřed 8 měsíci
3. 80 ans d'histoire... et la victoire des neurones !
1. Intelligence Artificielle, Machine Learning, Deep-Learning... De quoi parle t-on au juste ?
zhlédnutí 6KPřed 8 měsíci
1. Intelligence Artificielle, Machine Learning, Deep-Learning... De quoi parle t-on au juste ?
2. De la régression logistique au neurone artificiel...
zhlédnutí 2,9KPřed 8 měsíci
2. De la régression logistique au neurone artificiel...
Nouvelle saison FIDLE !! Jeudi 16 Novembre, 14h00
zhlédnutí 2KPřed 8 měsíci
Nouvelle saison FIDLE !! Jeudi 16 Novembre, 14h00
Seq. 05 / Evaluation et Données creuses
zhlédnutí 3,9KPřed rokem
Seq. 05 / Evaluation et Données creuses
Seq. 04 / Démystifier les maths (Live)
zhlédnutí 4,8KPřed rokem
Seq. 04 / Démystifier les maths (Live)
Installez votre environnement Fidle pour les TPs !
zhlédnutí 5KPřed 2 lety
Installez votre environnement Fidle pour les TPs !
Introduction au Deep Learning, nouvelle session !
zhlédnutí 10KPřed 2 lety
Introduction au Deep Learning, nouvelle session !
VAE3/ Mise en œuvre d'un VAE (dataset CelebA)
zhlédnutí 3,1KPřed 3 lety
VAE3/ Mise en œuvre d'un VAE (dataset CelebA)
RNN2/ Prédiction simple d'une trajectoire
zhlédnutí 7KPřed 3 lety
RNN2/ Prédiction simple d'une trajectoire
Avoir une formation de cette qualité et gratuite, c'est quand même dingue. Un grand merci pour votre travail.
Merci beaucoup !!
Merci beaucoup
Merci également à vous !
Pour cette partie maths, je recommanderai de commencer un peu plus simple notamment pour le gradient. Un truc qui permet de bien comprendre je trouve c'est un "computational graph" très simple, pour montrer comment le delta d'une variable d'entrée se "propage" dans les couches intermédiaires et finales, puis comment on peut "remonter" avec les dérivées. Andrew Ng a une très bonne explication dans sa spécialization "Deep Learning" sur Coursera (si besoin d'inspi) En dehors de ça FIDLE c'est toujours aussi génial ;)
Merci beaucoup pour ce retour et cette idée ! :-)
Très bien expliqué. Je suis allé lire cette Article, c'est très intéressant.
Merci beaucoup :-)
Bonjour, merci pour la clarté de vos explications. Une question SVP, au niveau des RNNs, est-ce que la sortie Y(t) va avoir tjrs pour taille, le nombre des neurones du recurrent layer. Merci d'avance.
Oui, chaque unité de la cellule générera une dimension dans la sortie. Si la cellule possède n unités, sa sortie sera de dimension n.
53:16 : Multimodal LLM
?? que voulez-vous dire ?
This channel is a gem, thank you.
Thank you very much, your thanks are our best reward!
C'était digérable, cher ATIM 😁
Nous sommes les diététiciens de l'IA !: ;-)
Merci beaucoup pour cette séquence... tout est très clair !👍
Merci beaucoup, votre retour nous fait plaisir !! Le sujet de cette séquence n'est pas le plus simple.... ;-)
Merci beaucoup
Merci à vous pour votre intérêt !!
Super ! Merci !
Merci à vous !
Ah génial.. 😁. c'est non seulement très clair, mais en plus j'ai compris ce qui clochait avec tous mes modèles CNNs. C'est dans la dernière couche "fully connected". Je travaille avec des spectrograms, des ondelettes (scalograms), ampllitude et phase... plusieurs couches. Et puis je me demandais comment on pouvait visualiser les erreurs ... c'est vraiment très clair. Merci beaucoup. Je vais regarder vos autres vidéos. Xoxo du Canada.
Merci pour votre retour !!! Nous sommes très heureux d'avoir pu vous aider :-)
Merci énormément pour cette, enfin je comprends les CNN
Super ! merci pour votre retour !!
Merciiiiii beaucoup
Merci également pour votre retour !!!
Une video avec SVM stp
SVM peut être une excellente solution, mais est un peu hors sujet ici, car cette formation est centrée sur le Deep Learning (ce qui fait dejà beaucoup beaucoup de contenu !!)
C'est vraiment top!
Merci beaucoup pour votre retour !
Cool! 👍
Thanks for the visit
super vidéo ! explications très claires :)
Merci beaucoup !
Merci pour cette présentation.
Merci à vous !
Un grand merci pour votre vidéo, j'ai compris beaucoup de choses grâce à vous. Bravo à toute l'équipe de Fidle ! J'ai écrit mon mémoire de Master qui traite en partie des modèles Transformers, je me suis beaucoup inspiré de vos schémas et de vos explications pour sa rédaction. Au plaisir de vous suivre, je vais partager votre chaine avec mon entourage.
Merci beaucoup pour votre retour ! Nous sommes très heureux d'avoir pu vous aider... et à très bientôt pour de nouveaux épisodes !
Cette vidéo est super bien expliquée. J’ai personnellement tout compris, aucune interrogation. Un immense merci pour ce travail et cette pédagogie. Vous êtes trop fort.
Merci !!! Nous sommes très heureux d'avoir pu vous aider !
Super, les gars! 👍 Même comme au finish, personne ne s'est présenté 🤣
Merci pour votre assiduité tout au long de ces lives !! Fidle est une grande famille ... ;-)
J'ai l'impression qu'il y'a un problème avec le nombre de neurones pour les couches denses sur votre schéma à 50:33 ? Ce n'est pas cohérent avec la taille des matrices Q et K que vous affichez après. Il me semble que les couches denses devraient avoir seulement deux neurones Sinon très bonne vidéo merci beaucoup !!!
Bonjour, j'aimerai partager une petite doc d'installation Docker pour les utilisateurs Mac Mx mais je ne trouve pas de point de contact sur le site fidle. Est ce que vous seriez intéressé par la création d'une image Docker pour archi arm64 ou bien que je vous partage le Dockerfile modifié que j'ai utilisé pour build l'image ? Je pense que ca pourrait en aider plus d'un. C'est pas top de devoir installer tout ca sur sa machine, une image docker est quand même bien plus simple. Merci
Oups... désolé pour cette réponse tardive.. la fin de saison à été un peu dense ;-) Merci beaucoup pour votre proposition !!! Vous pouvez nous écrire à l'adresse : contact <at> fidle.cnrs.fr
Superbe présentation simple et claire de notions complexes.
Merci
Merci !
Pour l'image les resnext ne sont plus aussi bon que les transformers? Il y a deux ou trois ans, un papier disait que les resnext faisaient aussi bien
Vous faites peut-être référence au papier "ResNet strikes back" de 2021 ? Pour la tâche limitée de classification / Imagenet c'était effectivement le cas, mais depuis des architectures type MetaFormer, ou mixé Conv / Attention font sensiblement mieux. Sinon pour la tâche plus généraliste d'extraction de features visuelles, ce sont les Transformers qui sont largement utilisés, entrainés avec des datasets beaucoup plus conséquents qu'Imagenet.
@@CNRS-FIDLE Merci de votre retour. Pardon, je parlais en fait du convnext pas du resnext. Je viens de retrouver le papier dont je parlais: "A ConvNet for the 2020s" de Z. Liu et al. Apparemment ils en ont fait une suite: "ConvNeXt V2: Co-designing and Scaling ConvNets with Masked Autoencoders" début 2023, que je n'ai pas encore lu.
Ah d'accord oui ConvNext fait effectivement un meilleur score sur Imagenet Top-1 par rapport aux résultats originaux de ViT avec des modèles équivalents en taille. Cependant vous pouvez voir sur paperwithcode que le haut du tableau est occupé par des modèles avec une base VisionTransformer.
Bonjour, comment est paramétré le 50% de data d'entrainement et 50% de data de test ? Pourquoi pas 70%/30% ou même 80%/20% ? Merci pour ces séquences précieuses.
Très bonne question, on peut tout à fait modifier ce ratio :-) 70-30 ou 80-20...
C'est très bien expliqué. Félicitations sur la partie entraînement.
Vidéo vraiment très bien expliquée. Félicitations à vous !
Merci pour la formation !
Merci pour cette présentation.
Merci pour cette vulgarisation. C'est clair et propre.
Cette série est toujours aussi géniale, bravo ! En ce moment on entend beaucoup parler d'une alternative aux réseaux transformers, une alternative qu'on appelle MAMBA, est-ce que vous envisageriez de faire un épisode bonus sur cette architecture ?
Bonjour, Pour le moment il n'est pas prévu de faire une présentation sur Mamba. On pourra faire ça l'année prochaine. Merci pour la proposition
Merci beaucoup ❤
Très bonne explication. Par contre tu dis trop "du coup"
Nous ne sommes que des humains ;-)
Svp est-ce que je peux avoir un exemple de programmation en python sur les MIMO massif et nous remercions des cours en ligne aux quels vous nous dispensez un grand merci à vous franchement
Merci beaucoup pour ce retour et cette suggestion ! Nous allons voir s'il est possible de proposer de tels exemples
Tout d'abord merci. Q1 : Qui a eu l'idée de bruiter une image puis de de la débruiter et ainsi pouvoir générer une image Q2 : Si j'ai bien compris mais je peux me tromper l'itération au coeur des reseaux de neurones par la descente de gradient permet de passer outre la fonction réciproque : f(-1) en exposant Q3: Quelles sont les autres applications du bruitage debruitage Merci
Le bruitage à pour objectif de générer des couples images bruitées / images non bruitées. L'idéal serait de pouvoir disposer de couples de données naturellement bruitées / non bruitées. L'objectif est de pouvoir débruiter des données et donc d'améliorer la qualité de ces données. (qui peuvent être des images, mais pas seulement...)
merci infiniment
Merci à vous également !
Est-ce que vous prévoyez une video bonus sur l'architecture MAMBA ?
Très bonne question... peut-être dans la prochaine saison... il y a beaucoup, beaucoup de choses intéressante que nous pourrions ajouter ! ...choisir n'est pas facile...;-)
Bonjour merci pour vos efforts , Il manque la seq 12 svp
La séquence 12 n'existe pas, elle avait été supprimée et remplacée par la JDLS !
ça ressemble beaucoup en RL au réseau de neurones qui apprend d'un système expert
Ici, l'idée est plutôt de guider l'apprentissage du réseau par de la physique, en complément des données...
Excellent, merci.
Merci beaucoup à vous également !
C'est genial, merci beaucoup.
Merci à vous !
Bonjour. Merci pour votre présentation. Ma question est relative à votre slide 91. J'imagine que comme dans le cas de la régression, la "loss function" est calculée à partir de l'ensemble des observations que contient le dataset (i.e. le nuage de points). Et l'algorithme de descente de gradient (la recherche d'un minimum local) est ensuite appliqué à la loss function résultante. En d'autres termes, sur la slide 91, X est un vecteur de vecteurs de dimension m (le nombre de features) x n (le nombre d'éléments par feature) et la loss function résulte du passage de l'ensemble des données dans le réseau. Dans votre représentation, on a l'impression que la descente de gradient est appliquée pour chaque i E [1, m]. J'imagine que c'est pour cette raison que l'apprentissage est très lourd d'un point de vue computationnel car à chaque itération, on effectue des calculs sur l'ensemble des données. Est-ce que cette interprétation est correcte ? Merci d'avance de votre retour.
Bonjour Eric, désolé de cette réponse tardive... L'apprentissage est bien effectué sur l'ensemble du dataset d'apprentissage (une partie des données étant conservée pour la validation). Par contre, on va traiter les données par lots (batch), chaque batch sera passé dans le modèle, conduira à une descente de gradient et à une rétropropagation (mise à jour des poids). Le passage de l'ensemble des batchs est appelé une époque et l'on effectuera plusieurs époques.
Bonjour!! Y'a un truc qui me dérange un peu. En fait les réseaux convolutionnels ont pour objectif premier d'extraire les caractéristiques des images. Cela dit, les couches denses ne sont normalement pas obligatoires (puisqu'elles font la classification). J'aimerais savoir comment voir les caractéristiques extraites à partir d'un CNN là et si possible appliquer un autre modèle (par exemple régression logistique) pour faire la classification
Désolé pour cette réponse tardive... ...et oui, un CNN va apprendre à extraire des caractéristiques des images, qui seront ensuite utilisées par une seconde partie de réseau, telle que des couches denses, qui pourront effectuer une prédiction (regression) ou une classification. Il est bien sûr possible de récupérer la valeur des plans convolutifs, mais leur interprétabilité n'est généralement pas évidente...
Très belle série de vidéos
Merci beaucoup pour votre intérêt et pour votre retour !
Grande qualité
Merci beaucoup !