Fiche métier : Éthicien

Le rôle d'un éthicien est de s'assurer que l’intelligence artificielle est utilisée de manière responsable, juste et respectueuse des droits des personnes, en minimisant les risques potentiels pour la Société. Par exemple, il doit s'assurer que l'IA ne reproduise pas les stéréotypes, les inégalités ou les discriminations existantes.

Ainsi, un éthicien en intelligence artificielle évalue les implications éthiques de l'utilisation de l'intelligence artificielle (IA) dans divers domaines. Il réfléchit et sensibilise au quotidien les équipes de développeurs aux questions éthiques complexes liées à l'IA : transparence des algorithmes, prise de décision automatisée, confidentialité des données et biais algorithmiques.

L’éthicien a un rôle stratégique fort car il participe à la rédaction de lignes directrices et de réglementations pour encadrer l'utilisation de l'IA, et contribue à des débats publics sur les enjeux éthiques liés à cette technologie.

Les missions d’un éthicien sont variées et se déclinent suivant le lieu d’exercice :

• Évaluer les spécifications techniques, les données d'entraînement et les objectifs du système d’IA à des fins éthiques.

• Réfléchir aux mécanismes de prise de décision des algorithmes.

• Veiller à la transparence et à l'absence de biais des algorithmes.

• Mettre en avant des biais de fonctionnement et faire des préconisations techniques pour y remédier.

• Fournir des conseils et des recommandations pour guider les décisions.

• Protéger la confidentialité des données des utilisateurs.

• Prévenir la reproduction des inégalités et des discriminations.

• Travailler avec les chercheurs en IA, les décideurs politiques.

• Contribuer à la rédaction de lignes directrices et de réglementations.

• Participer aux débats publics sur les enjeux éthiques de l'IA.

Au-delà des compétences techniques en IA, l’éthicien doit montrer sa capacité à interroger, remettre en question et apporter de nouvelles pistes de réflexion en matière d’intelligence artificielle. Un sens critique aigu est attendu tout comme de la rigueur et une impartialité sans faille.

Pour déterminer des biais ou pratiques discriminantes, vous devez mettre en place des process rigoureux de récolte de données, de tri et d’analyse. Vous devez aussi être à l’écoute et bon communicant pour sensibiliser les équipes et les décideurs aux enjeux des pratiques éthiques en IA.

En tant qu’éthicien, vous devez apprécier de vous former en permanence et de faire une veille active sur toutes les recherches et évolutions en cours en intelligence artificielle et machine learning.

Toute entreprise gérant des données en masse peut faire appel à un éthicien. Dans les faits, seules les grandes entreprises (Amazon, Google, les banques, etc.) ont les moyens financiers pour créer un poste spécifique d’éthicien, la fonction étant souvent tenue par un ingénieur en IA de leur équipe.

Les entreprises informatiques ou cabinets de consulting axés sur la data et l’intelligence artificielle recrutent des éthiciens pour réaliser des missions auprès de leurs clients.

Enfin, des laboratoires de recherche en IA proposent également des postes d’éthiciens à des doctorants en intelligence artificielle et big data.

Le métier étant nouveau et en pleine croissance, il n’existe que peu de données salariales sur les métiers de l’éthique informatique. Un éthicien débutant peut prétendre à une rémunération autour de 35 000 euros bruts par an, soit un salaire mensuel brut de 2 900 euros.

Après un bac avec des enseignements de spécialité scientifique, vous vous dirigerez vers des études longues en informatique. Vous pouvez débuter par un bachelor Informatique (bac +3) puis poursuivre par un master universitaire en informatique, avec une spécialisation en intelligence artificielle.

Vous pouvez aussi miser sur une école d’ingénieurs en informatique avec une spécialisation en IA ou big data.

À noter : une formation complémentaire en droit et éthique est un atout pour être à l’aise sur l’approche légale et les enjeux de société.