Prise de notes cours 1

Archis Applications/Introduction au Machine Learning.md

@@ -0,0 +1,148 @@
+# Intro
+
+## Définition du machine learning
+
+Principalement à titre prédictif aujourd'hui. On utilise des données existantes pour prédire quelles seront les prochaines.
+
+Touche à 
+
+- Statistiques
+- Maths
+- Computer science
+- Big data
+- Intelligence artificielle
+
+Aujourd'hui, le ML c'est de l'informatique avec des outils venus des maths. 
+
+## Historique
+
+### Machine learning
+
+Alan Turing : début de l'informatique, enigma et surtout test de Turing (qui vise à évaluer une intelligence artificielle en déterminant si l'interlocuteur est une machine ou non).
+
+Dans les années 50, plusieurs découvertes plutôt cool t basiqeu : Percetron.
+
+Ensuite, le machine learning a changé : concept de rule-based approach : au leu de faire apprendre à une machine, on fait une succession de "if then".
+
+Années 2000 on voit l'arrivée du deep learning avec les résaux de neurones. 
+
+Réseau de neurones : fonctions très complexes qui s'appuient sur grosses bdd et qui vont donner des résultats pus précis que les humains
+
+### Intelligence articifielle
+
+D'abord approche connexionniste puis symbolique, et là on revient sur la première. 
+
+## Catégories
+
+3 parties :
+
+- Apprentissage supervisé (SL) :  
+  On a des images, on connaît leur label (genre ce qu'il y a dans img). On fait une fonction qui détermine ce qui est dans l'image et ressort un résultat. C'est assez coûteux et chronophage, genre il faut mettre un label sur les millions d'images.  
+  Pour des labels d'images ça va mais si on doit estimer la posture d'un humain, ça devient encore plus galère à déterminer sur des millions d'images.
+- Apprentissage non supervisé (UL) :  
+  Apprendre à générer des images, juste en regardant des images. On ne dit pas "c'est un chien", il se débrouille à comprendre seul ds concepts en analysant des images.  
+  La prédiction du futur est égalelement bien à la mode. Savoir à partir d'une vidéo quelles seront les 5 secondes suivantes implique une réflexion et connexion entre objets et environnement
+- Apprentissage par renforcement (RL) :  
+  on a systématiquement un agent, qui doit comprendre seul les concepts du jeu. au début il ne sait rien à part les actions qu'il peut faire et quand il a perdu. Exemple d'alphago : un jeu de go qui joue contre lui-même pour devenir de plus en plus fort. 
+
+## Lui
+
+Il travaille sur compréhension des vidéos, et interactions entre les objets dans cette vidéo. Notamment ce qu'ils se passe entre deux images (exemple des bébés, on se fabrique une histoire où les bébés changent d'attitude en fonction de qui a la télécommande)
+
+## Strong AI
+
+L'IA d'aujourd'hui est très spécifique : elle peut pas passer du Go au Ping-Pong. Un humain saura s'adapter à un nouveau jeu. La strong IA vise un champ plus large justement
+
+## Applications dans le monde réel
+
+On a par exemple les Tesla : marche très bien, notamment sur autoroute. Y a toujours des accidents, mais moins.
+
+Google translate : y a 20 an des linguistes codaient les enchaînements de termes, ce qui correspondait. Puis Google a appris à des machines à traduire des chaînes en utilisant les données qu'il possédait.
+
+Système de recommandations de Netflix
+
+Criteo : un peu bâtard, récupère les cookies et fait un profil utilisateur à filer au site qu'on visite pour savoir quoi nous vendre.
+
+### Dans l'industrie
+
+Chez GAFA & co, beaucoup d'investissements et de centres de recherche qui s'ouvrent.
+
+## Le cours
+
+On va utiliser Anaconda et notamment Miniconda car plus léger. l
+
+Librairies à la mode en data Science
+
+- SciPy
+- NumPy
+- IPython
+- pandas
+- matplotlib
+- scikit learn
+
+On aura pas de gros GPU, c'est un peu le nerf de la guerre : elle peuvent faire des calculs très rapides comparé aux CPU.
+
+# Apprentissage supervisé
+
+## Régression linéaire
+
+### Régression linéaire simple
+
+À partir de données fournies (x1, y1), on va les voir comme des caractéristiques t des targets : on veut prédire y en fonction de x. Exemple de la slide : on veut prédire une droite.
+
+Là c'est un simple produit scalaire.
+
+À patir de cet exemple simple qui vient des maths, on part ne informatique. En IT, l'objectif d'optimisation sera tjrs présent. On a un b et un w détemriné à partir de la droite. 
+
+$Droite = wx +b$
+
+On détermine une fonction de coût : écart de la valeur prédite par rapport à la vraie valeur. L but st de matcher le plus possible les valeurs réelles.  
+Coût pour un point :  $l(\hat y_1, y_1)$
+
+Coût total : $L(_{w, b, x_i, y_i}) = (w * x_i+b) - y_i)$
+
+En gros on attribue des valeurs w et b complètement aléatoires et on voit la valeur du coût. Ensuit la machine tâche de minimiser au max ce coût avec des valeurs différentes de w et b.
+
+#### Solution closed-form
+
+On fait des fucking matrices pour chaque point de 1 à n
+
+Avec ça, on peut réécrire notre fonction de coût en quelque chose de matriciel. (calcul dans optimization). Et on trouve les meilleurs cas grâce à ce calcul. Mais ça ne marche que dans ce cas précis, car le calcul de la matrice inverse est parfois trop chiadé pour être réalisable.
+
+Des fois du coup on cherche des solutions qui vont être "à peu près similaire" à ce résultat pour quand on a des matrice énorme.
+
+#### Régression linéaire avec descente de gradient
+
+La descente de gradient donne une courbe montrant la valeur du coût en fonction de la valeur du $\theta$ . La solution optimale est au creux de la courbe, quand on a une valeur minimale et qu'on peut pas aller plus bas. 
+
+On va voir ça aujourd'hui et prendre l’algorithme exact. 
+
+Voici les étapes : 
+
+1. on sait pas où est le minimum. on choisit un $\theta_0$ aléatoire
+2. On détermine un "learning rate", on reviendra dessus
+3. On choisit ensuite le nombre d'itérations (genre 1000), et pour chaque on met à jour les paramètres en cherchant à aller dans le sens de la pente.
+
+C'est là qu'intervient la dérivée, qui est le gradient, qui indique l'inverse de la pente. On va donc prendre le sens contraire : on soustraire la dérivée à la valeur actuelle de $\theta$
+
+Il y a la problématique de l'initialisation, si on tombe direct sur le le mini ou bien sur les courbe problématiques qui ont des parties horizontales. Une solution est de prendre plusieurs points d'initialisation. 
+
+Comment trouver w et b à partir de cet algo d'optimisation ? Et bien on dit que $J(\theta) = J(w,b)$. On initialise donc w et b et on calcule les gradients pour w et pour b.
+
+en gros, c'est le calcul de la dérivée qui permet de savoir le sens de la pente. REVOIR LES DÉRIVÉES. La dérivée est une limite de tangente quand un point de la fonction tend vers 0.
+
+
+
+Pour reprendre exemple classe, on se pose la question : quand température est x, combien je vais vendre de glacE. On veut rsourdre le problèm en paratn fu principe qu'on va vendre 
+
+wx + b glace où x est la température. Si x = 0 on va vendre b glace. b est appelé l'intercepte.
+$$
+\hat o = argmin\ J(\theta)
+$$
+Se comprend comme "le parmaètre $\theta$ qui minimise $J(\theta)$"
+
+le chapeau indique la prédiction. Pour trouver le coût, donc l'écart entre prédiction et réalité, moyen (de tous les points), on va chercher à déterminer $\hat w$ et $\hat b$ 
+
+On mate un graph avec trois méthodes : closed-form, gradient descend et stochastic gradient descent. On remarque que les 3 sont très proches.
+
+On voit esuite coment régler ça en 3 lignes