Lorsque l’IA en était à ses balbutiements, on prévoyait qu’elle fonctionnerait un jour sans prescriptions humaines. Plusieurs décennies plus tard, alors que la technologie a évolué, ce n’est toujours pas le cas.
C’est le grand secret de l’IA : elle ne fonctionne toujours pas sans les humains.
Que ce soit du côté de l’entrée, où l’IA est programmée, ou du côté de la sortie, où une interaction humaine peut être nécessaire pour finaliser ou exécuter les résultats, l’IA dépend généralement de nous pour fonctionner efficacement.
L’histoire de l’intelligence artificielle est inextricablement liée à l’être humain. Pour les organisations utilisant la technologie, la considération la plus importante est de savoir si l’IA a un impact positif sur les personnes qui interagissent avec elle.
Une approche centrée sur l’humain pour les solutions d’IA
Lors de l’examen d’une nouvelle implémentation d’IA ou de l’évaluation d’une IA existante, il y a deux choses principales à considérer. Il y a le chemin technique (architecture spécifique, implémentation, coût et fonctionnalité) et le chemin humain. Une erreur courante des organisations est de se précipiter pour développer le technique sans tenir compte de l’humain.
Un moyen efficace d’y remédier est de créer des équipes projets avec des chercheurs et des techniciens de terrain. Les chercheurs sur le terrain mènent des entretiens pour comprendre les personnages et les scénarios de tous ceux qui sont touchés par la nouvelle technologie. Le travail de l’équipe technique et des chercheurs sur le terrain devrait converger dans la phase finale du projet de planification pour la conception globale.
Avec l’IA entièrement axée sur la fourniture de résultats humains spécifiques, les entreprises peuvent éviter des dépenses inutiles et améliorer considérablement le retour sur investissement du projet.
L’implication humaine invite-t-elle les défauts humains ?
Un argument courant contre l’IA en général est qu’elle perpétue les biais systémiques qui existent dans les données historiques sur lesquelles elle est formée. Le besoin évolutif de porter des jugements impulsifs basés sur des expériences antérieures a d’abord servi à augmenter la probabilité de survie d’un individu, ou du moins un résultat positif dans une situation donnée. Mais lorsque des décisions et des résultats antérieurs sont utilisés pour former une IA fonctionnelle sans contexte, cela risque de se tromper.
Les préjugés inconscients des développeurs d’IA peuvent introduire involontairement l’âge, les capacités ou le racisme dans la technologie, de sorte qu’elle finit par refléter les préjugés de la société. Mais le problème de l’IA biaisée peut être résolu avec une gouvernance efficace. Plutôt que d’essayer de contrôler les entrées ou les sorties, cela entraîne un état d’esprit complètement différent pour la conception.
La gouvernance doit être une fonctionnalité intégrée dans la pile technologique, une plate-forme qui s’étend horizontalement à toutes les phases de l’architecture, et pas seulement au début ou à la fin.
Prenons l’exemple d’une banque qui tente d’évaluer si un individu est solvable. Avec l’IA, il n’est pas nécessaire d’adopter une approche basée sur des règles comme la notation par codes postaux, ce qui conduira presque certainement à des résultats injustes.
Au lieu de cela, l’IA peut porter des jugements nuancés en fonction de tous les facteurs disponibles. Il est impossible pour un cerveau humain d’évaluer toutes ces dimensions à la fois et d’arriver à une recommandation optimisée.
L’intelligence artificielle aura-t-elle un impact négatif sur les humains qui acceptent des emplois ?
Dans les années 1980 et 1990, il était communément prédit que l’intelligence artificielle finirait par remplacer les rôles manuels.
Mais cela ne s’est pas produit dans la mesure où on l’attendait. Vous voyez plus d’humains que jamais sur une chaîne de montage automobile moderne. Étonnamment, les rôles professionnels ont été touchés par l’IA à un degré comparable, sinon plus. Des professions comme la médecine, le droit et même la science des données elle-même nécessitent des compétences qui sont considérablement accélérées, voire quelque peu remplacées par une bonne IA.
Bien sûr, des spécialistes des données qualifiés sont toujours nécessaires, mais les résultats peuvent être optimisés et mis à l’échelle grâce à l’IA. Prenez Uber, par exemple. Comme souvent rapporté, le concept bancable était que les véhicules autonomes transporteraient les humains d’un endroit à l’autre d’ici 2022, tandis que les capitalistes derrière ces véhicules récolteraient les dollars et dirigeraient les opérations. Au lieu de cela, l’IA sert de cerveau central qui gère l’identification et l’optimisation des itinéraires pour les conducteurs humains. Ainsi, les humains réagissent à un patron de l’IA, plutôt que l’inverse.
Plus généralement, pour l’automatisation de l’IA, on pensait que les humains seraient aux commandes pour une résolution plus créative des problèmes, tandis que l’IA ferait la plupart des démarches. Alors peut-être que la principale préoccupation concernant la relation entre l’IA et les humains sur le lieu de travail est moins qu’ils soient remplacés, mais plutôt qu’ils restent épanouis de manière créative dans leur rôle. Nous devons équilibrer les gains d’efficacité à court terme avec la durabilité à long terme de systèmes de travail qui fonctionnent pour tout le monde.
En bref, la relation de travail entre les humains et l’IA se résume à un objectif. Non seulement la solution d’IA doit être adaptée à son objectif, mais elle doit également fournir des résultats qui correspondent à l’objectif des personnes au sein de l’organisation, en augmentant leurs capacités et leur efficacité pour fournir des résultats positifs pour tous. L’IA qui peut travailler aux côtés des gens de cette manière est plus importante que toute fonctionnalité autonome.
