Intelligence artificielle : pour une gouvernance intelligente

10 février 2021

Par Carine Raux

Les progrès technologiques façonnent d’immenses bases de données, qui séduisent par leur facilité d’accès, leur traitement rapide et les réductions de coûts que cela entraîne. Ainsi, la décision automatisée se développe dans de nombreux secteurs. Les données sont alors analysées par des algorithmes fondés sur l’apprentissage automatique et l’intelligence artificielle. Cependant, si puissante que puisse être cette technologie, la légitimité des décisions est parfois discutable, à cause de la mauvaise qualité des données exploitées.

L’apprentissage machine nécessite d’avoir des données propres et labellisées. C’est une condition essentielle pour avoir des probabilités fiables, sans risque d’avoir un algorithme donnant des résultats faussés. Une erreur ou un manque de précision dans les données peut avoir des conséquences importantes sur le résultat du traitement et les décisions qui en découlent. Ces décisions, automatiques ou non, peuvent parfois aller à l’encontre des droits fondamentaux, et avoir des incidences négatives graves à bien des égards : respect de la vie privée, protection des données, non-discrimination…  Mais qu’entend-on par « qualité de données » ? La qualité des données est une mesure qui tient compte de plusieurs critères : précision, exhaustivité, homogénéité, fiabilité et actualité des données.

L’un des problèmes les plus récurrents en matière de traitement de données par l’intelligence artificielle est le manque de fiabilité et de précision des données. Cela engendre des mesures qui ne correspondent pas totalement à ce que l’on attend, et qui faussent ainsi les décisions qui en découlent. C’est le cas des algorithmes qui prennent des décisions sur des personnes que les données ne représentent pas entièrement. Des erreurs courantes apparaissent alors, comme un mauvais recrutement, en faveur des hommes et au détriment des femmes, ou encore des systèmes de reconnaissance faciale qui ne fonctionnent que pour une femme blanche, mais pas pour un homme noir.

Si des méthodes de vérification des données sont déjà mises en place, celles-ci ne sont, de toute évidence, pas suffisantes pour permettre un traitement efficace. Il est alors essentiel que les entreprises, développeurs et responsables politiques prennent conscience de l’importance de la qualité des données. Cela faciliterait la gestion de ces problématiques, et limiteraient les erreurs de décision automatisée.

Pour cela, il faudrait s’appuyer sur les pratiques mises en place depuis longtemps, qui consistent à désigner précisément la source des données et ce qu’elles traitent, afin de repérer plus facilement les erreurs, et instaurer des mesures correctives efficaces. La qualité des données est un enjeu essentiel dans le traitement et la prise de décisions, et doit être au cœur des préoccupations pour permettre aux nouvelles technologies d’agir en faveur du bien social.

Sans des données de bonne qualité, l’homme ne saurait se débrouiller dans ce monde, où une dépendance à l’informatique semble prendre forme. C’est pourquoi il est essentiel de contribuer à leur développement, permettant ainsi aux êtres humains de poursuivre leur évolution.

Retrouvez l’ensemble de nos articles Inside ici

 

Recommandé pour vous