L’IA dans la gestion de la sécurité de l’aviation : Partie 1 – Les fondations

Avant l’algorithme : ce qui doit être en place avant que l’IA puisse soutenir votre SGS

L’intelligence artificielle n’est plus un concept d’avenir. Elle est déjà là, elle est accessible, et elle est de plus en plus présente dans les conseils d’administration, les réunions de direction et les présentations de fournisseurs partout dans le secteur de l’aviation.

Qu’il s’agisse de la préparation de documents, de l’analyse de données, d’analyses prédictives ou de l’automatisation, l’IA est souvent présentée comme un moyen de rendre les systèmes de gestion de la sécurité (SGS) plus efficaces, plus intelligents et plus proactifs.

Et dans certains cas, elle peut l’être.

Mais avant que les organisations aéronautiques ne se demandent ce que l’IA peut faire pour leur SGS, une question plus fondamentale doit être posée :

Le SGS est-il réellement prêt?

Cet article est le premier d’une série d’Acclivix Insights consacrée aux risques, aux possibilités et aux responsabilités liés à l’utilisation de l’IA dans la gestion de la sécurité aéronautique. Plutôt que de commencer par les outils ou la technologie, nous commençons là où le leadership en sécurité devrait toujours commencer : par les fondations.

L’IA est un amplificateur, pas un substitut

L’IA ne crée pas une culture de sécurité.
L’IA n’est pas propriétaire du risque.
L’IA ne remplace ni le jugement, ni la responsabilité, ni le leadership.

Ce que l’IA fait très bien, c’est amplifier ce qui existe déjà.

Si vos données de sécurité sont fiables, si vos processus sont clairs et si votre leadership est engagé, l’IA peut aider à mettre en lumière des tendances et des signaux qui étaient auparavant difficiles à percevoir.

Mais si ces fondations sont faibles, l’IA ne les corrige pas - elle accélère la confusion, brouille les responsabilités et crée un faux sentiment de confiance.

Dans un secteur comme l’aviation, où la gestion de la sécurité est réglementée, vérifiable et axée sur la responsabilité, cette distinction est essentielle.

Avant l’IA, le SGS doit fonctionner de façon autonome

Un SGS fonctionnel et efficace doit être capable de se soutenir sans l’aide de l’IA.

Avant d’envisager une gestion de la sécurité appuyée par l’IA, les dirigeants devraient être convaincus que :

• Les dangers sont signalés de façon cohérente et fluide

• Les évaluations des risques sont à jour, comprises et utilisées

• Le profil de risque de sécurité éclaire réellement les décisions et les priorités

• Les mesures correctives sont suivies, clôturées et vérifiées

• Les processus d’assurance de la qualité évaluent l’efficacité, et pas seulement la conformité

• La direction s’engage activement avec les données de sécurité, au-delà de leur simple réception

Si ces éléments fondamentaux ne sont pas déjà en place, l’introduction de l’IA n’améliore pas la performance en matière de sécurité - elle ajoute de la complexité à un système déjà fragile.

L’IA doit soutenir un SGS mature, et non compenser un SGS immature.

La supervision humaine n’est pas facultative

L’un des mythes les plus répandus au sujet de l’IA est qu’elle réduit le besoin d’intervention humaine.

En gestion de la sécurité aéronautique, c’est exactement le contraire.

Les résultats produits par l’IA - qu’il s’agisse de tendances, de corrélations, d’alertes de risque ou de synthèses - doivent toujours être :

• Vérifiables

• Contestables

• Explicables

• Documentés

La responsabilité au sein d’un SGS ne peut pas être déléguée à un algorithme.

Lorsqu’un danger est manqué, qu’un risque est mal évalué ou qu’une mesure corrective est inefficace, les autorités de réglementation ne demanderont pas ce que l’IA a fait. Elles demanderont ce que la direction savait, a examiné et a approuvé.

L’intervention humaine n’est pas une limite de l’IA.
C’est une exigence des opérations sécuritaires.

La préparation est une question de leadership, pas de TI

Les décisions liées à l’utilisation de l’IA dans un SGS sont souvent présentées comme des décisions techniques ou informatiques.

Elles ne le sont pas.

Ce sont des décisions de leadership qui touchent :

• La gouvernance

• La tolérance au risque

• La responsabilité

• La confiance

• La capacité de démontrer la conformité réglementaire

Les dirigeants n’ont pas besoin de comprendre le fonctionnement détaillé des modèles d’IA. En revanche, ils doivent comprendre comment l’IA s’intègre dans leur cadre de gestion de la sécurité, et où commencent et se terminent ses pouvoirs.

Si un dirigeant ne peut pas expliquer clairement :

• À quoi sert l’IA

• À quelles données elle a accès

• Comment ses résultats sont validés

• Qui est responsable des décisions éclairées par l’IA

Alors l’organisation n’est pas prête à l’utiliser dans un contexte critique pour la sécurité.

Un simple exercice de préparation

Avant d’envisager des capacités de SGS appuyées par l’IA, prenez le temps de considérer les éléments suivants :

• Notre SGS produit aujourd’hui des données de sécurité fiables

• Notre équipe de direction utilise activement les résultats du SGS

• Nos processus d’assurance de la qualité vérifient l’efficacité, et non seulement la conformité

• Notre culture de sécurité encourage le signalement et l’apprentissage

• Nous pouvons expliquer clairement comment les décisions en matière de sécurité sont prises

Si ces affirmations ne peuvent pas être confirmées avec assurance, la priorité de votre organisation n’est pas l’IA - elle est le renforcement du SGS lui-même.

Ce qui s’en vient dans cette série

Au cours des prochains mois, cette série examinera l’IA dans la gestion de la sécurité aéronautique sous l’angle du leadership et de la gouvernance, notamment :

• La propriété des données, la confidentialité et la confiance

• La responsabilité, la vérifiabilité et les attentes réglementaires

• Les facteurs humains, les biais liés à l’automatisation et la culture de sécurité

• Là où l’IA peut aider aujourd’hui - et là où elle ne le devrait pas (encore)

• La façon dont les dirigeants peuvent encadrer l’IA de manière responsable dans des systèmes critiques pour la sécurité

Nous garderons l’accent là où il doit être : sur des opérations sécuritaires, des décisions défendables et une performance durable en matière de sécurité.

Car en aviation, la technologie ne doit jamais mener la sécurité - le leadership le doit.

Poursuivons la conversation

Pour de nombreuses organisations aéronautiques, les questions soulevées dans cet article ne concernent pas la technologie. Elles portent plutôt sur la confiance, la clarté et le niveau de préparation.

Si vous n’êtes pas encore en mesure de répondre aux questions de préparation par un « oui » clair et assuré, ce n’est pas un échec. C’est un constat précieux - et souvent le point de départ d’améliorations significatives.

Chez Acclivix, nous accompagnons les dirigeants et les responsables de la sécurité afin de :

• Évaluer si les fondations du SGS sont réellement fonctionnelles et efficaces

• Animer des discussions pratiques, au niveau exécutif, sur la maturité du SGS et les responsabilités

• Offrir des formations ciblées aux équipes de direction et aux praticiens de la sécurité

• Aider à évaluer et à mettre en œuvre des outils de gestion de manière à renforcer - et non remplacer - la supervision humaine

Que vous prépariez votre organisation à une utilisation future de l’IA, que vous souhaitiez renforcer votre SGS actuel ou que vous recherchiez simplement un point de vue indépendant et expérimenté pour orienter la réflexion, nous sommes là pour vous aider.

Si ce sujet a suscité des questions ou des discussions au sein de votre équipe de direction, nous serions heureux de poursuivre la conversation.

👉 Communiquez avec Acclivix pour explorer les formes de soutien possibles pour votre organisation.