Comment nous concevons la confiance dans l'IA

Ces derniers mois, j'ai beaucoup voyagé pour présenter MintIQ à des entreprises. Les réactions ont été extrêmement positives. Il est clair pour moi que de nombreuses entreprises de produits cherchent activement le meilleur moyen, et le moins perturbant, d'intégrer l'IA dans leur activité.

Une chose que j'entends régulièrement, surtout dans la production et la distribution, c'est que les gens perçoivent leur secteur comme conservateur. Et la question qui suit est presque toujours la même : comment construire la confiance dans l'IA dans un secteur comme le nôtre ?

C'est quelque chose à quoi nous réfléchissons beaucoup. Nous avions la même hésitation quand nous avons commencé à construire ce qui est finalement devenu MintIQ. Pour nous, cela se résumait à quelques points.

Le premier est d'être très délibéré sur où et comment nous utilisons l'IA. Quand nous l'utilisons, nous le faisons de manière ciblée, entraînée sur une décision spécifique. Par exemple : décider si une commande peut entrer dans un batch pick ou non. Utilisée ainsi, vous obtenez même entrée, même sortie. Pour les choses où l'on ne peut pas se permettre la latence d'un LLM, comme la validation qui doit se faire en millisecondes quand quelqu'un prélève un article, nous utilisons du code déterministe. Et tout ce qui touche la base de données — votre gestion des stocks par exemple — est volontairement ennuyeux à 100%.

Deuxièmement, vos données restent les vôtres. Nous n'entraînons pas de modèles dessus et nous ne les partageons pas. Pour beaucoup d'entreprises avec lesquelles nous échangeons, c'est non négociable, et honnêtement ça devrait l'être.

Troisièmement, les humains restent dans la boucle là où ça compte. Chaque décision n'a pas besoin d'un regard humain, mais celles qui en ont besoin sont renvoyées à votre équipe. Nous sommes assez délibérés quant à l'endroit où se situe cette ligne, et nous préférons être trop prudents que pas assez.

Bien sûr, aucune technologie n'est parfaite. Les systèmes locaux avaient des problèmes de pannes. Les systèmes cloud aussi. L'IA est-elle toujours parfaite ? Non. Mais le rythme d'amélioration est stupéfiant, et avec les garde-fous autour, ça fonctionne.

Vous pouvez en lire davantage sur la façon dont nous utilisons l'IA dans notre plateforme ici : Comment MintIQ utilise l'IA