Le tag "ethique"

Attaquer des modèles de machine learning : les autres menaces et les contre-mesures – PARTIE 3

Dans les articles précédents nous avons présenté la problématique de la vulnérabilité des modèles de machine learning et nous avons présenté la confidentialité différentielle et le membership inference attack. Comme ce type d’attaque n’est pas le seul, nous allons en détailler une autre : le secret revealer[1]. Elle procède par inversion du modèle cible (de...

Attaquer des modèles de machine learning : la confidentialité différentielle – PARTIE 2

Dans l’article précédent, nous avons montré ce que signifie attaquer un modèle, les différents types d’attaques et les concepts nécessaires. L’objectif de cet article est de se concentrer sur la confidentialité différentielle : une technique pour se protéger contre les membership inference attacks, au moins en théorie. Pour rappel, les membership inference attacks sont des attaques ayant...

Attaquer des modèles de machine learning : les grands types d’attaques – PARTIE 1

Peut-on faire révéler ses secrets à un modèle de machine learning ? Et si oui, comment se prémunir d’une telle attaque ? Les modèles de machine learning sont susceptibles d’utiliser des données privées et parfois sensibles, par exemple des informations précises sur des personnes (association nom/photo, habitudes et préférences, etc.). L’évolution des techniques et des...

L’Ethique dans le Big Data

Depuis les années 2014-2015, le secteur de l’intelligence artificielle est en plein essor. Beaucoup d’entreprises souhaitent rentabiliser les données qu’elles accumulent en explorant les possibilités apportées par le machine learning. Les opportunités de ces nouvelles technologies sont immenses et de nombreuses innovations voient le jour très régulièrement. Toutefois, l’utilisation de ces données n’est pas anodine,...

L’Ethique du Big Data

Lors de la XebiCon’19, Sandra Pietrowska et Raphaël Matusiak, Data Scientists chez Publicis Sapient Engineering ont présenté la conférence « L’Ethique du Big Data ». La grande majorité des entreprises se lancent avec beaucoup d’effervescence dans de nombreux projets d’innovation Big Data. En parallèle, nous observons de plus en plus de réticence de la part des utilisateurs...