[Topic Unique] Machine Learning & Data Science

Recherche :

Mot : Pseudo : Filtrer Aller à la page :
Page : 1 2 3 4 5 .. 106 107 108 .. 133 134 135 136 137 138 Page Suivante Page Précédente Bas de page
Auteur	Sujet : [Topic Unique] Machine Learning & Data Science

flyingchair

Reprise du message précédent :
Ouep. Mais notre filiale allait bien. Tellement bien qu’on nous a fusionné avec une filiale qui n’allait pas bien pour pouvoir fusionner aussi les bénéfices et faire tomber la participation à 0. En 2011 j’étais toujours pas à plaindre, c’est quelques années après que ça a commencé à mal tourner.

Et je le répète, quand on est pas carriériste, on réfléchit à la situation présente, et pas au(x) coup(s) d’après [:clooney41]

flyingchair

Et puis assez parlé de moi, le sujet c’était Now Compliant qui se faisait bolosser [:france_insoumise:4]

neo world

flyingchair a écrit :

10 ans [:moundir]

Au début elle payait pas si mal. Il y a 10 ans, à 29 ans j’avais un package à pas loin de 50 keur, avec 2 semaines de congés en plus qu’ailleurs, j’étais pas à plaindre. Et les perspectives d’évolution de salaire était pas mauvaises, c’était pas compliqué de monter à 70-80k de package dans le management, 100k dans l’expertise. Mais c’était avant le drame. [:xqwzts]

Puis c’est pas que la boite qui paie mal, c’est tout le secteur, donc pour pouvoir bouger il faut changer de secteur, et ça demande de se former. Ce que j’ai fait.

Mais je reconnais que j’aurais pu changer plus tôt. Si j’avais été carriériste.

Spoiler :

SOIS CARRIÉRISTE NC BORDEL FINIS PAS COMME MOI !
[:domo-kun]

Refait ton CV déjà . On va te trouver un job bien peinard avec un CV top moumoute

Profil supprimé

neo world a écrit :

Refait ton CV déjà . On va te trouver un job bien peinard avec un CV top moumoute

Si vous lui trouvez un job chuis chaud pour être le prochain client de HFR consulting group [:nowcompliant]

Mes exigences sont assez simples, jveux bosser le moins possible et avoir un boss gentil avec moi, idéalement j'aimerais qu'on me dise que je fais du bon travail plusieurs fois par jours [:nowcompliant]

Message édité par Profil supprimé le 04-12-2020 à 03:09:07

Profil supprimé

Petite question Data Science histoire de recentrer le débat [:assignee_risitas:3]

Classification d'images, 4 classes. 3 classes sont distinctes (chat - chien - crocodile) et la 4ème classe est un "dump" de tout ce dont on est pas sûrs, elle peut inclure des images "pourries" des 3 autres classes (du style zoomé sur un endroit du corps, donc on voit pas bien l'animal dans son ensemble). Mon avis est que c'est pourri comme méthodologie et que ça va juste rendre l'apprentissage plus compliqué voir impossible. Votre avis ?

flyingchair

C’est un cabinet de consulting pas le Génie d’Aladdin [:kyjja:5]

Rick_C137

La vraie question, c'est quoi ce produit qui a besoin de classifier entre un chat un chien et un crocodile ? Un système de sécurité pour protéger les chats et chients des attaques de crocodile à Paname ? [:mur-mur:2]

Perso je me ferais pas chier et je virerai toute la 4ème classe, au moins au début, quite à la reprendre après pour voir si ya moyen de l'utiliser afin d'améliorer les résultats.

Trefledepique_W

Je fais pas du tout d'image donc mon commentaire vaut pas grand chose, mais y a peut-être moyen de trier en amont via classification binaire les images identifiables des non identifiables? [:transparency]

Rontgen

Tu peux utiliser un reseau avec seulement 3 outputs, mais mettre juste des Sigmoids a la fin au lieu d'un Softmax
Comme ca, tu as une sorte de score independent pour chacune des 3 classes (et tout ce qui est pourri a 0 pour les 3 classes)
Au moment du test, il suffit de faire un seuil: si aucune des 3 classes n'a un score au dessus de 0.5, tu consideres que c'est une image pourrie

Johnny_Bobby

Less is more

Lecun pense que créer la 4e classe "pourrie" est bénéfique :jap:
https://arxiv.org/pdf/1511.03719.pdf

This paper shows that simply prescribing “none of the above”
labels to unlabeled data has a beneficial regularization effect
to supervised learning

Après, le papier est de 2015, peut-être que ça a changé depuis, ça bouge tellement vite dans le domaine

Profil supprimé

Rontgen a écrit :

J'aime bien cette idée, ça permet d'esquiver la 4ème classe qui est remplie d'images bizarres. Merci :jap:

giorno_gio75

C'est quoi vos méthodes pour les problèmes binaire déséquilibrés ? (0 = 99%, 1 = 1%) ?

J'ai SMOTE ou les méthodes traditionnelles over/under sampling mais je suis toujours curieux de trouver d'autres moyens, surtout des moyens ptet plus custom et intelligents.

TiDom

giorno_gio75 a écrit :

C'est pour faire quoi avec ton modèle après?
Dans ce genre de problème, avoir une bonne perf en AUC (ou AUCPR) n'est pas forcément le but premier. Par contre attribuer un score (probabilité d'appartenance à la classe minoritaire) à tes individus pour faire une action sur les top-scores peut s'avérer utile dans certaines applications, du type churn et autres...

Johnny_Bobby

Less is more

giorno_gio75 a écrit :

C'est quoi vos méthodes pour les problèmes binaire déséquilibrés ? (0 = 99%, 1 = 1%) ?

J'ai SMOTE ou les méthodes traditionnelles over/under sampling mais je suis toujours curieux de trouver d'autres moyens, surtout des moyens ptet plus custom et intelligents.

La plupart des modèles sur sklearn ont un argument class_weight, ce qui revient à pondérer tes observations.

Sur certains algos (NN, XGB, LGBM), tu peux choisir ta métrique à optimiser, il suffit alors d'entraîner en fonction de ton AUC/F1-score/whatever métrique insensible au déséquilibre.

Sinon, tu peux jouer sur les poids de ta matrice d'erreur, en surpondérant les faux négatifs pour inciter ton modèle à prédire des 1.

Et, autre solution, tu entraînes ton modèle, tu sors tes probas OOF, et tu regardes quel seuil d'acceptation est le plus optimal pour tes données

Edit: +1 avec le message précédent, oseb de l'AUC en soit, on veut du ROI (mais vu tes précédents messages, tu es déja au courant)

Message édité par Johnny_Bobby le 04-12-2020 à 17:31:39

giorno_gio75

TiDom a écrit :

J'aurais du spécifier des méthodes de préparation, les méthodes internes aux modèles du genre le critère d'erreur, etc... c'est pas cette phase là qui m'intéresse.

TiDom

giorno_gio75 a écrit :

J'aurais du spécifier des méthodes de préparation, les méthodes internes aux modèles du genre le critère d'erreur, etc... c'est pas cette phase là qui m'intéresse.

Je n'ai pas compris ta réponse

Ce que je voulais dire c'est que selon ce que tu veux faire avec ton modèle après, la façon de traiter des classes disproportionnées peut varier.

Mais oui Smote est générique et marche bien.

AutoML aussi

giorno_gio75

TiDom a écrit :

C'est une question ouverte, je cherche pas ici à satisfaire un but précis.

Si tu me dis que y'a différente façon de faire selon les buts, bah je veux bien savoir ces diférentes façons de faire selon le but

TiDom

Ah bah si c'est une question ouverte c'est aussi parce que c'est toujours un sujet ouvert en recherche et y a déjà pas al de méthodes: bref y a de la lecture :

Un survey récent en open access : https://journalofbigdata.springerop [...] 018-0151-6

Je n'ai pas encore lu celui là mais seulement celui d'un autre auteur (Herrera) qui est plus ancien et qu'il doit certainement cité

Message édité par TiDom le 04-12-2020 à 19:01:33

Rick_C137

Johnny_Bobby a écrit :

Citation :

We call it universum prescription by
the fact that the prescribed labels cannot be one of the supervised labels

problème assez différent de celui proposé, car visiblement dans son cas les cas "pourris" peuvent être une des autres classes.

Dans une optique de recherche, ca aurait du sens de regarder cette 4ème classe, mais là pour un produit je me ferai pas chier et chercherais plutôt à optimiser un truc solide et robust avec des données propres

Agmoh

¯\_(ツ)_/¯

Hello !

Je pose un drap ici
J'ai regardé quelques confs sur Youtube et j'aimerai mettre en oeuvre un outil de ML pour faire de la reconnaissance d'objets.
J'ai une grosse base de données d'objet, photos recto / verso, avec des caractéristiques associées et un prix (on parle de 400.000 objets)

Je cherche un moyen de passer une photo à un outil et d'avoir un rapprochement avec un objet deja dans la base.

J'entends beaucoup parler de TensorFlow, je vais prendre un cours sur Udemy (celui là https://www.udemy.com/course/comple [...] -mastery/) pour choper les bases, mais si vous avez des suggestions, n'hésitez pas

Merci !

ToucanBoucan

j'essaye de créer un custom layer avec Keras et c'est la merde. Un peu de contexte: je découpe mes images en patches et l'idée est d'entraîner un réseau dans le but de prédire 2 classes avec comme input un sac de patches (ou instances) au lieu d'utiliser chaque instance ou chaque image de départ (j'ai rien inventé c'est ce qui est appelé du multiple instance learning). Donc j'ai un premier network (MobileNetV2) qui output des features pour chaque instance (le TimeDistributed(mobilenet)(input_shape)). Suivi de mon layer customisé (NoisyAnd) [:aulas y rahmo:5] pour agréger les features des instances (j'essaye d'implémenter le layer NoisyAnd décrit ici page4 https://arxiv.org/pdf/1511.05286.pdf).
Sauf que voilà en sortie du NoisyAnd layer j'obtiens systèmatiquement les mêmes dimensions que mon tenseur d'entrée (ici [None,64,2]) [:simi37] alors que je devrais obtenir les dimensions de sorties spécifiées ([None, 1, 2])
Et quand je créé un tenseur x = tf.random.normal(shape=(64, 2)) et que je le passe dans mon layer j'obtiens bien <tf.Tensor 'noisy_and_87/truediv:0' shape=(1, 2) dtype=float32>

Y a un truc qui m'échappe mais je trouve pas quoi [:gwinruz] , je suspecte un lien avec la dimension du batch size et j'ai essayé de remplacer ma variable mean par mean = tf.reduce_mean(inputs, axis=[1,2]), mais même résultat... je bloque complétement là

Le code:

Spoiler :

from keras.models import Model
from keras.layers import TimeDistributed
from keras.layers import Input, Layer, Dense
from keras.applications import MobileNetV2
import tensorflow as tf

n_patches = 64
im_size = 224
n_channels = 3

class NoisyAnd(Layer):
def __init__(self, output_dim):
super(NoisyAND, self).__init__()
self.output_dim = output_dim

def build(self, input_shape):
self.b = self.add_weight(
shape=self.output_dim,
initializer="zeros",
trainable=True,
)

def call(self, inputs):
mean = tf.reduce_mean(inputs, 0)
y = (tf.math.sigmoid(10 * (mean - self.b)) - tf.math.sigmoid(-10 * self.b)) / (
tf.math.sigmoid(10 * (1 - self.b)) - tf.math.sigmoid(-10 * self.b))
return y

mobilenet = MobileNetV2(include_top=True, weights=None, pooling='avg',classes=2)
input_shape = Input(shape=(patch_size, im_size, im_size, n_channels))
features = TimeDistributed(mobilenet)(input_shape)

x1 = NoisyAnd((1,2))(features)
x2 = Dense(2, activation='softmax', name = 'classification')(x1)

model = Model(inputs=input_shape, outputs=[x1,x2])
model.summary()

Le model summary:

Spoiler :

Layer (type) Output Shape Param #
=================================================================
input_133 (InputLayer) (None, 64, 224, 224, 3) 0
_________________________________________________________________
time_distributed_64 (TimeDis (None, 64, 2) 2260546
_________________________________________________________________
noisy_and_83 (NoisyAND) (None, 64, 2) 2
_________________________________________________________________
classification (Dense) (None, 64, 2) 6
=================================================================
Total params: 2,260,554
Trainable params: 2,226,442
Non-trainable params: 34,112
_________________________________________________________________

Message édité par ToucanBoucan le 07-12-2020 à 17:52:06

LibreArbitre

La /root est longue

Agmoh a écrit :

Ce cours a l'air pas mal, j'ai bien envie de m'y inscrire

Un avis des pros du topic ?

---------------
Pharyo | Cinépite | Capvirage

Profil supprimé

J'ai été désigné expert mobile par le CEO, faut que je train un modèle et que je le déploie sur la tablette samsung qu'on utilise [:tigrou0007:4]

flyingchair

T’y connais quelque chose en mobile ? [:leve le pied jeannot:3]

Profil supprimé

ToucanBoucan a écrit :

hello je lurke depuis un petit bout de temps! Je pose un drap également et au risque de passer pour un débile j'en profite pour poser une question technique je tourne en rond depuis quelques jours et j'ai personne d'assez compétent dans le domaine autour de moi pour m'aider :sweat:

j'essaye de créer un custom layer avec Keras et c'est la merde. Un peu de contexte: je découpe mes images en patches et l'idée est d'entraîner un réseau dans le but de prédire 2 classes avec comme input un sac de patches (ou instances) au lieu d'utiliser chaque instance ou chaque image de départ (j'ai rien inventé c'est ce qui est appelé du multiple instance learning). Donc j'ai un premier network (MobileNetV2) qui output des features pour chaque instance (le TimeDistributed(mobilenet)(input_shape)). Suivi de mon layer customisé (NoisyAnd) [:aulas y rahmo:5] pour agréger les features des instances (j'essaye d'implémenter le layer NoisyAnd décrit ici page4 https://arxiv.org/pdf/1511.05286.pdf).
Sauf que voilà en sortie du NoisyAnd layer j'obtiens systèmatiquement les mêmes dimensions que mon tenseur d'entrée (ici [None,64,2]) [:simi37] alors que je devrais obtenir les dimensions de sorties spécifiées ([None, 1, 2])
Et quand je créé un tenseur x = tf.random.normal(shape=(64, 2)) et que je le passe dans mon layer j'obtiens bien <tf.Tensor 'noisy_and_87/truediv:0' shape=(1, 2) dtype=float32>

Y a un truc qui m'échappe mais je trouve pas quoi [:gwinruz] , je suspecte un lien avec la dimension du batch size et j'ai essayé de remplacer ma variable mean par mean = tf.reduce_mean(inputs, axis=[1,2]), mais même résultat... je bloque complétement là

Le code:

Spoiler :

from keras.models import Model
from keras.layers import TimeDistributed
from keras.layers import Input, Layer, Dense
from keras.applications import MobileNetV2
import tensorflow as tf

n_patches = 64
im_size = 224
n_channels = 3

class NoisyAnd(Layer):
def __init__(self, output_dim):
super(NoisyAND, self).__init__()
self.output_dim = output_dim

def build(self, input_shape):
self.b = self.add_weight(
shape=self.output_dim,
initializer="zeros",
trainable=True,
)

def call(self, inputs):
mean = tf.reduce_mean(inputs, 0)
y = (tf.math.sigmoid(10 * (mean - self.b)) - tf.math.sigmoid(-10 * self.b)) / (
tf.math.sigmoid(10 * (1 - self.b)) - tf.math.sigmoid(-10 * self.b))
return y

mobilenet = MobileNetV2(include_top=True, weights=None, pooling='avg',classes=2)
input_shape = Input(shape=(patch_size, im_size, im_size, n_channels))
features = TimeDistributed(mobilenet)(input_shape)

x1 = NoisyAnd((1,2))(features)
x2 = Dense(2, activation='softmax', name = 'classification')(x1)

model = Model(inputs=input_shape, outputs=[x1,x2])
model.summary()

Le model summary:

Spoiler :

Pas tout lu mais jpense c'est le timedistributed qui fait de la merde / mal utilisé, essaie sans et regarde si les shapes concordent [:tigrou0007:4]

Profil supprimé

flyingchair a écrit :

T’y connais quelque chose en mobile ? [:leve le pied jeannot:3]

Jamais fait de ma vie mais y'a un tuto tensorflow / tflite, ça devrait le faire [:tigrou0007:4]

-Meringue-

flyingchair a écrit :

T’y connais quelque chose en mobile ? [:leve le pied jeannot:3]

Il a un smartphone -> il est expert :sol:

flyingchair

La data science [:clooney16]

neo world

A mettre dans le CV /semi redface

Blague à part en fonction de la taille du modèle de départ et des contraintes de performance / endurance de la batterie ça peut être un vrai défi le passage au mobile :jap:

Profil supprimé

neo world a écrit :

Non il fait preuve d'initiative et d'adaptabilité en montant en charge rapidement sur les nouveaux besoins notamment via le portage des modèles existants sur des équipements embarqués nécessaires au métier

A mettre dans le CV /semi redface

Blague à part en fonction de la taille du modèle de départ et des contraintes de performance / endurance de la batterie ça peut être un vrai défi le passage au mobile :jap:

J'ai plutôt besoin d'entendre que c'est facile et que je vais m'en sortir là [:tigrou0007:4]

neo world

Bof ça va aller. J'espère que le SOC de la tablette est pas trop vieux par contre

Profil supprimé

neo world a écrit :

Bof ça va aller. J'espère que le SOC de la tablette est pas trop vieux par contre

Encore 15j à tenir pour ma période d'essai [:tigrou0007:4]

o_BlastaaMoof_o

Un excellent cas d'usage pour MATLAB [:sluggerdandy]

neo world

o_BlastaaMoof_o a écrit :

Un excellent cas d'usage pour MATLAB [:sluggerdandy]

Je l'avais pas vu venir [:kwak]

o_BlastaaMoof_o

neo world a écrit :

Je l'avais pas vu venir [:kwak]

Tu entraînes ton modèle avec l'outil de ton choix > export ONNX > import dans MATLAB > codegen de la fonction de prédiction.

Emballez, c'est pesé.

Profil supprimé

Avec TFlite ça a l'air facile, d'ailleurs l'inférence est environ 35% plus rapide avec le modèle tflite. Pourquoi c'est pas utilisé en prod ? [:tigrou0007:4]

neo world

o_BlastaaMoof_o a écrit :

Tu entraînes ton modèle avec l'outil de ton choix > export ONNX > import dans MATLAB > codegen de la fonction de prédiction.

Emballez, c'est pesé.

Et pourquoi pas utiliser les outils TF gratuits et natifs plutôt ?

Je respecte MATLAB mais au point d'en acheter une licence pour exporter du code sur mobile parce que c'est possible [:sophiste:1]

o_BlastaaMoof_o

neo world a écrit :

Et pourquoi pas utiliser les outils TF gratuits et natifs plutôt ?

Je respecte MATLAB mais au point d'en acheter une licence pour exporter du code sur mobile parce que c'est possible [:sophiste:1]

Parce que les bibliothèques dont tu as besoin n'existent pas toujours pour ta cible.

Tu peux aussi générer du code CUDA, ce qui te permet d'avoir de meilleures performances si la cible est compatible (NVIDIA Drive par exemple).

neo world

o_BlastaaMoof_o a écrit :

Parce que les bibliothèques dont tu as besoin n'existent pas toujours pour ta cible.

Tu peux aussi générer du code CUDA, ce qui te permet d'avoir de meilleures performances si la cible est compatible (NVIDIA Drive par exemple).

Peu probable pour une tablette Samsung tu en conviens

o_BlastaaMoof_o

neo world a écrit :

Peu probable pour une tablette Samsung tu en conviens

Le support de CUDA, oui clairement. Ça se destine à d'autres marchés, la voiture autonome en particulier.

Mais toujours est-il que TFLite a des limitations inhérentes à son interpréteur. Le fait de générer du code bas niveau te permet de t'affranchir de toutes ces limitations.

Il est probable que les performances soient meilleures également, mais ce serait à vérifier.

flyingchair

neo world a écrit :

Peu probable pour une tablette Samsung tu en conviens

Après son expertise mobile NowCompliant passera peut-être expert matos Cuda compliant [:emeric zemmour:1]

Message édité par flyingchair le 08-12-2020 à 12:08:30

Page : 1 2 3 4 5 .. 106 107 108 .. 133 134 135 136 137 138

Page Suivante

Page Précédente

Haut de page

FORUM HardWare.fr

Intelligence Artificielle

[Topic Unique] Machine Learning & Data Science

Sujets relatifs
[Topic unique] Veille IA - Actu, lectures, podcasts & documentaires	[Topic Unique] Claude by Anthropic
[Topic unique] IA générative de texte, ChatGPT, Copilot, Gemini & co
Plus de sujets relatifs à : [Topic Unique] Machine Learning & Data Science

Page générée en 0.069 secondes