Hello,
 
Data science pour ma part aussi, un salaire fixe brut à 60k à Paris, sans autres avantages (si on compte pas les obligations légales) dans une PME ça vous parait comment ? Pour 3 ans d'XP je précise.
 
Au niveau du marché ça se situe comment ?

 
T'as quel background et quelles responsabilites ? Ca me parait etre +/- dans la norme vis a vis de mes camarades de promo

En France le nom du diplôme joue beaucoup sur la négociation salariale et la trajectoire de ta carrière

 
ça serait quoi du coup ton classement ?

 
Je parle pas de classement. Tu nous demande si 60k 3 ans d'xp DS c'est bien par rapport au marché ou pas. Tu conviendras que X-MVA c'est différent de formation continue avec des MOOC

Quand j'ai été embauché, le head of data science gagnait 9.5k + 20k de bonus performance et sûrement d'autres trucs. Au final il s'est fait virer et c'est moi qui ait fait tout le deep leurning FDA validated etc  
 
La nouvelle est à 200k de package, mon autre collègue doit être à 8k environ

Jme fais pas trop respecter en fait, on a sorti un papier dans Nature, y'a pas mon nom alors que j'ai fait 99% de l'IA sous-jacente
 
Bon apres j'ai pas non plus redige ni rien mais BON

Hello,
 
Data science pour ma part aussi, un salaire fixe brut à 60k à Paris, sans autres avantages (si on compte pas les obligations légales) dans une PME ça vous parait comment ? Pour 3 ans d'XP je précise.
 
Au niveau du marché ça se situe comment ?

Accord de principe du N+1 pour une augmentation debut annee pro

Combien?

Jsp j'espère 2k/mois comme en avril

(x - x_c)^2 + (y - y_c)^2 = r^2 l'équation d'un cercle de centre (x_c, y_c) et de rayon r.
Tu cherches les x_c, y_c et r pour minimiser une distance entre le cercle et ta veine bizarre et tu vires celles qui dépassent un certain seuil
Aka système D
 
Oui ce n'est pas un masque

C'était la première idée qui me passait par la tête.
Sinon "plus évolué" : on peut transformer une image (enfin son contour aka outline) en "time series" (un vecteur de réel).
https://izbicki.me/blog/converting- [...] ining.html
 
Du coup on peut ensuite utiliser plein d'algo de classification pour les time series
 
Si tu ne t'abonnes pas à ma chaîne tiktok, tu peux faire un don d'un pourcentage de ta future augmentation

Pour une veine V_i :
Trouve le cercle C_i qui "match" le mieux avec V_i
Soit d_i la distance entre C_i et V_i
Si d_i > seuil appris au pifomètre alors perdu "V_i pas veine"
Sinon gagné "V_i est veine"
Abonnez-vous à ma chaîne

C'était la première idée qui me passait par la tête.
Sinon "plus évolué" : on peut transformer une image (enfin son contour aka outline) en "time series" (un vecteur de réel).
https://izbicki.me/blog/converting- [...] ining.html
 
Du coup on peut ensuite utiliser plein d'algo de classification pour les time series
 
Si tu ne t'abonnes pas à ma chaîne tiktok, tu peux faire un don d'un pourcentage de ta future augmentation

Tjrs bloqué sur de la classification d'images

J'y arrive pas, y'a trop de classes et y'en a la seule différence c'est la position d'un curseur

Avis ?

Ben détecte le curseur wesh
 
C'est quoi ces images en deux parties, de l'échographie ?

Yes !

Jvois pas comment, sachant que j'ai pas d'annotations pour ça spécifiquement

 
Tu as moyen de mesurer la performance de tes encoders (en 2) ) ? J'ai essaye de classifier individuellement, cad utiliser seulement l'encodeur 2 et les signaux, j'arrivais a 95+% accuracy entre les differentes familles de signaux, jcrois "l'image du bas" est facile a differencier, le truc dur c'est l'image du haut, qui depends de la structure echographiee mais aussi de la position des curseurs etc
 
Est-ce que les features obtenue sont assez représentatives de tes données ? Comment tu peux savoir ca ?
 
Les modèles (deux encoders + 3 classifiers) sont-ils bien dimensionnés ? La aussi, comment tu peux savoir ca ? Y'a une heuristique acceptee pour la taille du reseau dependemment du nbr d'images / leurs tailles ?
 
T'as essayé plus gros ? Non, mais j'ai peur que plus gros le modele capture encore plus les noisy labels et fasse de la merde en prod
 
Les classifiers c'est quel type de modèle / architecture ?   Encodeur images du dessus = EfficientNetB4, Encodeur images du dessous = MobileNet, les deux branches concatenent leurs features qui sont fed a 1 couche linaire selon la famille du signal que je connais  
 
T'as essayé d'y mettre de l'attention, éventuellement cross-attention entre les différentes modalités à la perceiver ? Non, faudrait que je regarde ca  
 
Sinon autre idée (mais je pense pas possible) : t'as pas moyen de "simplifier les labels" en les regroupant en sous-catégories ? Ex les labels cancer de x regroupés juste en cancer.
Ca réduirait la complexité de la tâche dans un premier temps, et si t'as de bons résultats (top accuracy) avec ça tu peux te baser dessus pour re-complexifier le modèle / architecture après.
Mais ça nécessiterai de définir les catégories à la main Oui c'est ce qu'on fait pour notre autre classifier, pour celui la on a besoin de classes assez granulaires car fait de la segmentation etc dessus donc pas possible de juste les grouper en paquet
 
 

T'en ferais quoi de ces infos ? Genre t'ajoutes le masque du curseur comme données d'entrées avec 3 branches ?

C'est un problème compliqué en soi et les attentes sont élevés vu qu'on a des vraies données client (donc ça correspond pas au jeu d'entraînement + qualité merdique )

Difficile de répondre de façon super pertinente sans connaître les données et le problème en particulier.
Contrairement au post précédent, je doute que tester une architecture différente soit très prometteur.

Tes curseurs, c'est des annotations que les cliniciens ont mis à la main et qui se retrouvent dans ton image parce que c'est juste une capture d'écran de l'échographe, c'est ça ?
Je me demanderais d'abord si leur position est vraiment reliée par causalité ou juste par corrélation avec la classe que tu cherches a reconnaître. Malheureusement pour ça il faut souvent discuter avec les cliniciens, ou en tout cas avec tes clients.
Si c'est le cas, dans ce cas là tu peux envisager de rajouter une branche de sortie et prédire une heatmap de leur position. Ça pourrait encourager le réseau a utiliser cette info pour l'autre branche.
Sinon, je serais plutôt préoccupé par l'influence néfaste potentielle de ces curseurs (et par exemple un écroulement du réseau sur des images qui n'ont pas ces curseurs, ou si ceux ci changent de forme/taille) et j'aurai tendance à les effacer par inpainting avant de donner les images au réseau.
Malheureusement c'est assez chiant de travailler avec des données échographiques non brutes..

Dernier truc: ça m'est déjà arrivé de devoir attendre assez longtemps pour qu'un réseau apprenne à différencier deux classes très similaires. Même après que le réseau a l'air d'avoir convergé, tu devrais le laisser entraîner longtemps; peut-être qu'il y aura un déclic au bout d'un moment (ça semble bizarre mais je l'ai vu en pratique sur un de mes réseaux)

Dernier truc: ça m'est déjà arrivé de devoir attendre assez longtemps pour qu'un réseau apprenne à différencier deux classes très similaires. Même après que le réseau a l'air d'avoir convergé, tu devrais le laisser entraîner longtemps; peut-être qu'il y aura un déclic au bout d'un moment (ça semble bizarre mais je l'ai vu en pratique sur un de mes réseaux)

Pas sur d'avoir bien compris mais en gros t'as une structure echographiee ("l'image du haut", un rein au pif ) donc faut que le reseau identifie que c'est un rein, ensuite superpose t'as la position du curseur qui indique ou le signal pulse a ete envoye, dependemment de la ou le signal est envoye ca donne un graphe different ("l'image du bas", different tissus etc donc differente velocites selon la position du curseur), vu qu'on fait des mesures automatiques sur ces graphes faut qu'on sache exactement la classe

Si on efface les infos d'acquisition superposees par inpainting alors on aura des images quasi identiques et impossible (mm pour un humain expert) de differencier je pense

Tres interessant, merci du partage. T'as pas peur que le reseau overfit (surtout avec des noisy labels) ?

C'est clair qu'avec des labels noisy la tache est vraiment pas facile. Garbage in, garbage out  
Comme t'as peu de temps devant toi je réfléchissais à comment avoir d'éventuels boosts rapides, ou au moins debug et trouver des points d'amélioration (et prier pour le boost), sans toucher aux données.
 
Pour mesurer la qualité de features (debug), tu peux faire du t-SNE, et checker à la main que les features ont des positions cohérentes. L'objectif est de checker si rien cloche dans les encoders. Ouaip, je vois donc prendre des images representatives de chauqe classe, extraire les features, plot ces features avec t-SNE et regarder si ca forme des clusters coherents, je vois merci
 
Pour la taille des modèles, je connais pas de loi dime modèle / taille dataset, mais y'a quelques travaux qui traitent le sujet et peuvent donner des indications. Genre ça, il doit aussi y en voir côté CV aussi (désolé je donne des conseils depuis le début mais je bosse uniquement sur du NLP)
TLDR la question c'était plus est-ce que t'as test avec des variations plus petites et plus grandes pour voir si tu pouvais avoir un gain. (just stack more layers...) On est aussi contraints sur la taille / inference speed, sinon ca serait pas drole  
 
Justement tes classifiers, t'as essayé un peu plus gros ? Un layer linear me parait léger, mais je peux me tromper j'ai jamais fait quelque chose de similaire. C'est assez classique en CV, l'API Keras / Tensorflow c'est toujours pareil, backbone -> average pooling -> dense layer
Et comment t'entraine le tout ? Car 3 classifiers = 3 losses. Les encoders sont frozen pour l'entrainement des classifiers ? T'entraine les classifiers en parallèle (en additionnant les losses ou à tour de rôle) ou chacun leur tour totalement ? C'est un peu funky mais les deux branches vont produires 2 features apres features pooling, que je concatene, ensuite j'ai une layer custom qui va mask out les 2 layers dense qui sont pas concernes (multiplie par 0), ensuite j'additionne les resultats des 3 layers donc concretement y'a qu'1 seul output et 1 seule loss par image
 

 
Phénomène qu’on remarque aussi chez nous.  
D’où la nécessité d’avoir un bon jeu de validation, des métriques adaptées, et de quoi tracker le tout convenablement.  

 
 
Ah ok, je pensais a un autre type de curseur, je vois ce que tu veux dire maintenant.
Par contre j'ai toujours un peu de mal a comprendre pourquoi la position du curseur est la seule variable de différentiation entre tes deux classes, mais j'imagine c'est difficile de rentrer dans les détails sans dévoiler l'application entière Il y a plein de classes qui ne se ressemblent pas et qui sont faciles a differencier (differentes structures etc), pour certaines par contre le signal est tres proche (un expert pourrait pas vraiment repondre juste en regardant le signal), donc il faut regarder l'image du haut qui montre ou le curseur est focus donc c'est la seule feature qui vraiment les differencient. Si j'entraine un mobilenet seulement sur les signaux et seulement sur ces classes dures j'ai environ ~80% accuracy, donc mieux que random et ptet mieux qu'un humain mais pas assez pour se passer de l'image du haut
 
 
 
J'avais pas de Noisy labels dans mon cas, mais c'était plutôt de l'underfitting avant (même sur l'ensemble de training il avait du mal a différencier les deux classes)

C'est bien, le probleme originel c'etait (entre autre) que les images etaient trop downsamplees donc on perdait des infos visuelles et qu'on avait des misclassification en prod. Je clean les donnees d'entrainement (enleve les donnees pourries ou avec label errones), j'utilise de plus grande images et le modele fait pire que la baseline. On se sent expert deep learning

Ah ben donc peut être que la baseline mérite vraiment ses 200k alors

Hello l'élite, vous auriez des articles de référence sur l'apprentissage distribué ? Quelqu'un en a parlé sur le topic dédié aux images générées par IA et ça m'interroge... Après, si on a pu faire du calcul distribué via des projets comme BOINC pas de raison que ça ne soit pas applicable au ML (ou pas)

Ça dépend de pourquoi tu veux distribuer l'apprentissage : est ce que c'est pour des raisons de confidentialité (tu veux pas envoyer tes données d'apprentissage à un serveur central), ou juste pour des raisons de temps de calcul.
Si c'est le premier, le mot clé c'est federated learning et c'est pas mal poussé par les applications médicales en ce moment.

Hello,
Je travaille actuellement en finance (corporate) et je souhaite faire une reconversion en data science via une formation RNCP (et demander un congé de formation).  
J'ai regardé pas mal de formation et celle d'openclassroom a l'air assez complete . Vous savez si elle vos le coup?
 
==> https://openclassrooms.com/fr/paths/164-data-scientist

Merci pour ta réponse rapide et c'est pour la distribution du temps de calcul