← Все заказы

Ingénieur(e) IA en déploiement avancé// Forward Deployed Engineer, AI Trust and Reliability

Hopper

13 ч назад

Текст заказа

À PROPOS DU POSTE
Hopper propulse les voyages de certaines des plus grandes banques, compagnies aériennes et entreprises de voyage au monde. Nos agents d'IA agissent au nom de leurs clients : ils consultent les comptes, modifient et annulent des réservations, et traitent les paiements et les points de fidélité. En tant qu'ingénieur(e) déployé(e) en clientèle (Forward Deployed Engineer), Confiance et fiabilité de l'IA, vous veillez à ce que l'IA soit sûre, sécurisée et prête pour la production dans chaque déploiement chez un partenaire. Vous faites partie d'une petite équipe déployée auprès des partenaires et vous êtes la personne responsable des garde-fous, des tests adverses, de la préparation au lancement et des examens de sécurité avec les partenaires. Vous faites le pont entre les équipes de sécurité, de risque et de TI de nos partenaires et les équipes d'ingénierie et de sécurité de Hopper.
À QUOI RESSEMBLERAIT VOTRE QUOTIDIEN?
- Adapter les garde-fous aux politiques, à la réglementation, à la tolérance au risque et aux langues de chaque partenaire, en définissant ce que l'IA peut faire, ce qu'elle doit refuser et à quel moment elle transfère la conversation à un humain
- Concevoir des mesures de protection pour les données et les actions sensibles, notamment le masquage des données, la vérification de l'identité et le consentement du client avant toute modification d'une réservation ou d'un paiement
- Calibrer les garde-fous de façon à bloquer les risques réels sans nuire aux clients légitimes
- Soumettre chaque déploiement à des tests d'équipe rouge (red teaming) avant le lancement et après tout changement important, afin de détecter les contournements de sécurité (jailbreaks), les injections de requêtes (prompt injection), les fuites de données, les actions non autorisées et l'ingénierie sociale
- Créer et maintenir des suites de tests adverses automatisés qui s'exécutent en continu, dans chacune des langues utilisées par un partenaire
- Transformer les constats en correctifs avec l'équipe d'ingénierie, puis en tests de non-régression pour que les problèmes ne reviennent pas
- Diriger les questionnaires de sécurité, les examens d'architecture et les examens des risques liés à l'IA ou aux modèles pour les partenaires, et répondre aux constats de leurs tests d'intrusion
- Documenter la façon dont notre IA gère les données, les accès et les décisions, dans des termes acceptables pour un organisme de réglementation ou un auditeur
- Assumer la responsabilité de la liste de vérification de mise en service de chaque déploiement, qui couvre les tests fonctionnels, de non-régression, de sécurité et de charge, les critères d'approbation et les plans de retour arrière
- Étendre nos tests automatisés à l'ensemble des produits, afin que chaque changement de modèle, d'invite ou de configuration soit testé avant d'atteindre les clients
- Coordonner les tests d'acceptation par les utilisateurs avec les partenaires et régler les problèmes avant le lancement
- Diriger le volet sécurité et confidentialité de l'accès aux données des partenaires pour nos équipes déployées en clientèle, y compris les ententes de partage de données, les examens de sécurité des TI et l'accès sécurisé aux systèmes des partenaires, y compris ceux hébergés sur place
- Définir la manière dont les données des partenaires sont traitées, stockées, isolées et supprimées dans l'ensemble des déploiements et de l'entraînement des modèles, et s'assurer que ces règles sont respectées
- Surveiller la qualité, la fiabilité, les abus et les défaillances de sécurité des déploiements en production, et mettre en place des tableaux de bord et des alertes avec l'équipe d'ingénierie
- Diriger l'intervention lorsqu'un incident de sécurité survient, en communiquant clairement avec le partenaire tout au long du processus
- Collaborer étroitement avec les équipes de Recherche, de Produit et de sécurité, pour que les nouveaux modèles et les nouvelles fonctionnalités soient lancés avec la sécurité intégrée dès la conception
- Transformer chaque déploiement en garde-fous, tests et documentation réutilisables, pour que le prochain partenaire avance plus rapidement
LE OU LA CANDIDAT(E) IDÉAL(E)
- Possède au moins 5 ans d'expérience en ingénierie de la sécurité, en sécurité des applications, en sécurité de l'IA, en ingénierie de la qualité ou en fiabilité des sites (SRE), avec un travail concret visant à maintenir des systèmes de production sécurisés et fonctionnels
- A de l'expérience pratique des tests d'équipe rouge sur des applications ou des agents reposant sur des grands modèles de langage (LLM), notamment les contournements de sécurité, l'injection de requêtes, l'exfiltration de données et l'abus d'outils et de permissions, et s'en est servi pour corriger de vraies lacunes
- A conçu et calibré des garde-fous ou des mesures de sécurité pour un produit reposant sur un LLM, et peut démontrer comment ils ont arrêté un risque réel sans nuire à l'expérience client
- A représenté un fournisseur lors d'examens de sécurité d'entreprise, notamment des questionnaires, des examens d'architecture et la correction de failles révélées par des tests d'intrusion, et a obtenu l'approbation des équipes de sécurité des partenaires
- A pris en charge les tests et la qualité des versions d'un système de production, des suites de tests automatisés et des critères de validation des versions jusqu'aux tests de charge et au retour arrière, et a déjà retardé un lancement parce que le système n'était pas prêt
- Maîtrise Python et sait créer des outils et des banques d'essais automatisés qui rendent les tests adverses et de non-régression continus
- A de l'expérience en sécurisation ou en exploitation de systèmes pour des entreprises de voyage ou de services financiers, comme des compagnies aériennes, des hôtels, des agences de voyage en ligne, des banques ou des entreprises de paiement, et comprend les risques de fraude, de prise de contrôle de comptes et de paiement qui leur sont propres
- Sait expliquer clairement les risques aux ingénieurs, aux équipes de sécurité des partenaires et aux dirigeants non techniques, et n'hésite pas à s'opposer lorsqu'un déploiement n'est pas prêt
- Est disposé(e) à voyager pour les lancements et les examens
- Atout : travail en sécurité ou en gestion des risques dans des secteurs réglementés comme la banque, les paiements ou l'aviation, ou examens de gouvernance de l'IA et de risque de modèle dans une institution financière
- Atout: connaissance des cadres de référence en matière de sécurité et de risques liés à l'IA, comme le Top 10 de l'OWASP pour les applications LLM, SOC 2, ISO 27001, PCI DSS et le NIST AI RMF
- Atout: travail en protection des renseignements personnels et en gouvernance des données, comme les ententes de partage de données, l'accès sécurisé aux systèmes des clients, ou le RGPD et les régimes semblables (p. ex. la Loi 25 au Québec)
- Atout: expérience en observabilité et en gestion des incidents, par exemple avec Datadog, la garde et les analyses post-incident
- Atout: tests de sécurité multilingues, ou sécurité de l'IA vocale et conversationnelle
- Atout: expérience en ingénierie de la sécurité déployée auprès des clients ou en contact direct avec eux
AVANTAGES SOCIAUX
- Une entreprise en démarrage bien financée et éprouvée, avec de grandes ambitions, un salaire compétitif et les avantages d’un régime d’actions pré-IPO
- Hopper couvre 100 % des primes du régime d’assurance collective
- Hopper offre une couverture vie, invalidité de courte durée et invalidité de longue durée
- Un compte de dépenses santé qui couvre les frais médicaux et dentaires admissibles
- Tous les employés et leurs personnes à charge ont accès aux se

Похожие заказы