Stage IA de confiance - Vérification formelle et domaines différentiels-Saclay- H/F

En tant que stagiaire au CEA, vous aurez l'opportunité de travailler au sein d'un environnement de recherche de renommée mondiale. Nos équipes sont composées d'experts passionnés et dédiés, offrant un cadre propice à l'apprentissage et à la collaboration. Vous aurez accès à des équipements de pointe et à des ressources de recherche de premier ordre pour mener à bien vos missions

Contexte

Avec les récents développements en matière d'IA, son utilisation est de plus en plus répandue et soulève de plus en plus de questions quant à sa robustesse, son respect de la vie privée ou autre. Un certain nombre de travaux ont émergés pour augmenter la confiance dans les IAs en se basant sur des méthodes formelles pour obtenir des garanties mathématiques de leur sûreté. Ces méthodes sont implémentées dans l'outil PyRAT développé au CEA.

Des travaux récents ont introduits de nouvelles propriétés de sûreté variables sur des réseaux de neurones notamment sur la robustesse globale, la monotonicité ou l'isomorphisme de réseaux. Ces propriétés nécessitent néanmoins des techniques particulières pour les gérer efficacement. L'une des techniques possible repose sur la vérification formelle différentielle qui permet par rapport aux techniques classiques de conserver une trace de la différence entre deux exécutions d'un réseau de neurone.

Qu’attendons-nous de vous ?

Le but du stage sera d'implémenter dans PyRAT différents domaines abstraits différentiels afin de pouvoir vérifier ces nouvelles propriétés de sûreté. Ces domaines différentiels seront implémentés sur la base des domaines existants dans PyRAT et PyRAT devra être adaptés pour fonctionner sur les propriétés de sûreté choisies. Des fonctionnalités telles que la recherche de contre exemple ou le branch and bound devront être également modifié pour ces propriétés.

Un benchmark comportant plusieurs propriétés de sûreté sur différents cas d'usage sera établi et les performances de PyRAT sur celui ci seront mesurées.

# Cea List

Profil du candidat

Profil

Vous préparez un diplôme de niveau M1 ouM2 dans le domaine de l'informatique ou des mathématiques.

Vous possédez des connaissances en développement Python, en mathématiques et en intelligence artificielle.

Rejoignez-nous, venez développer vos compétences et en acquérir de nouvelles !

Vous avez encore un doute ? Nous vous proposons :

• L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique,
• Un environnement unique dédié à des projets ambitieux au profit des grands enjeux sociétaux actuels,
• Une expérience à la pointe de l’innovation, comportant un fort potentiel de développement industriel,
• Des moyens expérimentaux exceptionnels et un encadrement de qualité,
• De réelles opportunités de carrière à l’issue de votre stage
• Un poste au cœur de la métropole grenobloise, facilement accessible via la mobilité douce favorisée par le CEA,
• Une participation aux transports en commun à hauteur de 85%,
• Un équilibre vie privée – vie professionnelle reconnu,
• Un restaurant d'entreprise,
• Une politique diversité et inclusion,

Conformément aux engagements pris par le CEA en faveur de l'intégration des personnes handicapées, cet emploi est ouvert à toutes et à tous. Le CEA propose des aménagements et/ou des possibilités d'organisation pour l'inclusion des travailleurs handicapés.

Localisation du poste Site

Saclay

Localisation du poste

France, Ile-de-France, Essonne (91)

Ville

Saclay

Critères candidat Langues

Anglais (Intermédiaire)

Diplôme préparé

Bac+4

• Master 1

Formation recommandée

Informatique mathématiques

Demandeur Disponibilité du poste

01/02/2027