Aller au contenu
Article

Les dangers de l’IA pour les entreprises : risques et réponses

Mis à jour le

Pour une PME, le risque principal de l’intelligence artificielle n’est pas qu’elle se trompe : c’est qu’un collaborateur y dépose des informations confidentielles — un contrat, un fichier client, un code source — sans savoir où elles vont ni ce qu’il en advient. Ce risque se traite par une règle d’usage écrite et connue, pas par une interdiction que personne ne respectera.

Cinq risques, par ordre de probabilité

01La fuite de donnéesLe risque le plus fréquent et le plus concret. Ce qui est saisi dans un service en ligne quitte votre entreprise ; selon le contrat et les réglages, cela peut être conservé, analysé, voire utilisé pour l’entraînement.
02L’information fausse énoncée avec assuranceCes systèmes produisent un texte plausible, pas un texte vérifié. Un chiffre, une référence juridique ou une citation inventés se repèrent mal, précisément parce que la forme est impeccable.
03La dépendance à un fournisseurUn usage intégré aux processus devient difficile à retirer si le service change de prix, de conditions, ou disparaît.
04Les biaisUn système entraîné sur des données historiques reproduit leurs déséquilibres. Le sujet devient sérieux dès qu’il touche au recrutement, à l’attribution d’un droit ou à l’évaluation de personnes.
05Les coûts non anticipésAbonnements multipliés service par service, temps de vérification de ce qui est produit, et parfois un projet d’intégration qui coûte davantage que le gain espéré.

Ce qui fonctionne : une règle d’usage, pas une interdiction

Interdire ne marche pas : les outils sont accessibles depuis n’importe quel navigateur ou téléphone personnel, et l’interdiction déplace simplement l’usage hors de votre vue. Ce qui fonctionne tient en une page, comprise de tous.

01Dire ce qui ne se saisit jamaisDonnées personnelles de clients ou de salariés, contrats, éléments financiers, identifiants, code propriétaire. Une liste courte, concrète, avec des exemples.
02Désigner les outils autorisésUn ou deux, avec un compte professionnel dont les réglages de confidentialité ont été vérifiés — plutôt que dix comptes personnels invisibles.
03Poser la règle de vérificationTout élément factuel — chiffre, date, référence, citation — est vérifié avant usage externe. La responsabilité reste celle de la personne qui signe.
04Nommer les usages exclusDécisions concernant des personnes, contenus juridiques ou médicaux, tout ce qui engage l’entreprise sans relecture humaine.
Où cela rejoint la sécurité

Le risque de fuite se traite comme tout risque de données : savoir ce qui sort, vers qui, et l’écrire dans son registre. Comment nous documentons nos propres traitements

Notre position

8TECH utilise l’intelligence artificielle pour son propre travail — qualification des demandes, documentation, aide au diagnostic — et la commercialise aujourd’hui sous la forme d’un produit, l’Entreprise augmentée : une IA qui répond avec ce que votre entreprise sait, sous les droits de chaque utilisateur, et qui prépare des actions qu’un humain confirme avant exécution.

Les cinq risques ci-dessus ont guidé sa conception : rien n’est confié à une plateforme grand public, le modèle n’accède aux données que par des outils déclarés, chaque action est journalisée et aucune ne s’exécute sans confirmation. Le produit ne remplace pas pour autant la règle d’usage : elle reste nécessaire pour tout ce que vos équipes utilisent en dehors, et nous vous aidons à l’écrire.

Sources datées en fin d’article · article revu au moins une fois par anAutres articles sur l’IA
Pour vérifier

Sources et références

Ce que cet article affirme et qui ne vient pas de notre pratique vient d'ici. Chaque référence porte son éditeur et sa date.

01Les questions-réponses de la CNIL sur l'utilisation d'un système d'IA générativeCNIL · 2024-07-18 — recommande une charte interne des usages autorisés et interdits, l'interdiction de saisir des données confidentielles ou personnelles, la vérification des sorties et la formation des salariés
02Recommandations de sécurité pour un système d'IA générativeANSSI · 2024-04-29 — posture de prudence et risques de sécurité sur tout le cycle de vie d'un système d'IA générative
03Règlement (UE) 2024/1689 du 13 juin 2024 établissant des règles harmonisées concernant l'intelligence artificielleEUR-Lex · 2024-07-12 — classe à haut risque les systèmes d'IA utilisés pour le recrutement, l'évaluation des personnes et l'accès à des droits (annexe III)
Après cette lecture

Relier le sujet à votre entreprise.

Un article donne des repères généraux. Pour décider quoi faire sur votre parc, nous partons de vos outils, de vos contraintes et de vos priorités.

Parler de ma situation