Qu’est-ce qu’un chef de l’IA virtuel? De la stratégie au déploiement

Une organisation souhaite utiliser l’IA pour aider son personnel à trouver des réponses dans ses documents internes. Un fournisseur présente un assistant convaincant. Avant de l’acheter, il faut toutefois déterminer quel problème il résoudra, à quels renseignements il devrait avoir accès, comment ses réponses seront évaluées et qui en assurera la maintenance.

Ces décisions exigent une direction de l’IA qui relie les besoins d’affaires, la conception technique et les responsabilités de l’organisation.

Un chef de l’intelligence artificielle virtuel (vCAIO) assure cette direction dans le cadre d’un mandat externe. Pour les organisations qui n’ont pas de dirigeant consacré à l’IA, ce rôle peut apporter une continuité depuis l’évaluation initiale jusqu’à la mise en œuvre et à l’exploitation courante. Comprendre sa portée aide les dirigeants à cerner le leadership dont ils ont besoin et la façon dont il s’articule avec les équipes d’ingénierie, juridiques et de sécurité.

Que fait un chef de l’IA virtuel?

Le vCAIO aide à déterminer où l’IA peut créer de la valeur, conçoit l’approche avec les spécialistes concernés et dirige les travaux nécessaires pour la concrétiser. Un chef de l’IA à temps partagé assure généralement cette direction à temps partiel; ses responsabilités précises dépendent du mandat.

Le mandat devrait définir les priorités, les pouvoirs décisionnels, les ressources et les modalités de reddition de comptes. La responsabilité prend alors une forme concrète : expliquer les recommandations, diriger les travaux convenus, évaluer les résultats et soumettre à la direction les décisions qui exigent son approbation.

Une formule efficace donne au responsable de l’IA un accès suffisant aux personnes, à l’information et aux décideurs pour assumer cette responsabilité.

Partir du processus d’affaires

La stratégie d’IA commence par une compréhension du travail tel qu’il se fait aujourd’hui.

Dans le cas de l’assistant interne, le problème peut être la lenteur de la recherche documentaire, des procédures incohérentes ou des sources désuètes. Chaque situation appelle une réponse différente. L’amélioration de la gestion documentaire peut être un préalable; un outil de recherche plus simple peut aussi répondre au besoin.

Le vCAIO travaille avec les personnes qui accomplissent la tâche pour définir l’amélioration recherchée et ses contraintes. Il faut notamment préciser la marge d’erreur acceptable, l’effort de vérification, les coûts d’exploitation et les conséquences d’une réponse incorrecte.

Les critères de réussite devraient être définis avant qu’une démonstration ne se transforme en décision d’achat.

Choisir le modèle et les données ensemble

Le choix d’un modèle d’IA exige d’examiner sa performance sur les tâches réelles de l’organisation, ainsi que son coût, sa rapidité, les possibilités de déploiement et les exigences de sécurité.

Le système qui l’entoure compte tout autant. Un assistant peut rechercher des documents approuvés et les transmettre à un modèle au moment de répondre à une question. Cette approche, appelée génération augmentée par récupération (RAG), se distingue de l’ajustement fin, qui modifie un modèle par un entraînement supplémentaire. Le choix devrait reposer sur le cas d’usage et les résultats des essais.

L’état des données mérite aussi une attention particulière. Les documents peuvent être incomplets, incohérents ou désuets. La performance d’un modèle sur un banc d’essai public ne démontre pas que le système proposé saura traiter de façon fiable la terminologie, l’information et les processus de l’organisation.

Le vCAIO aide à traduire ces contraintes en choix de conception et en critères d’évaluation. Le profil du NIST sur l’IA générative, un cadre volontaire, souligne également que la provenance des données, la configuration du modèle, l’évaluation et les considérations juridiques doivent être documentées et examinées.

La vie privée, la propriété intellectuelle et la sécurité orientent la conception

Un système d’IA peut être techniquement capable d’utiliser des renseignements que l’organisation n’a pas le droit d’employer à cette fin. L’accès à un jeu de données ne donne pas nécessairement la permission d’entraîner un modèle, de l’ajuster ou de rendre son contenu accessible par un assistant.

Le chef de l’IA devrait intégrer les juristes en protection des renseignements personnels, les spécialistes juridiques et les responsables des données au processus de conception. Ensemble, ils peuvent examiner la provenance des données, leur sensibilité, les licences applicables et les restrictions de réutilisation. Les données d’entraînement, les documents récupérés pour répondre aux questions et les renseignements saisis par les utilisateurs peuvent soulever des enjeux différents.

Les contrats technologiques devraient tenir compte de ces distinctions. Le fournisseur peut-il utiliser les données saisies pour améliorer ses modèles? Les licences existantes permettent-elles le traitement envisagé? Quels droits l’organisation aura-t-elle sur le code personnalisé, les adaptations de modèles, les résultats et les autres éléments développés dans le cadre du mandat? La répartition contractuelle des droits doit aussi tenir compte de l’incertitude entourant la protection de la propriété intellectuelle des contenus générés par l’IA.

La cybersécurité fait partie de cette même discussion. L’équipe de sécurité aide à évaluer les contrôles d’accès, les fuites d’information, les instructions malveillantes intégrées aux contenus récupérés et les autorisations accordées aux outils d’IA. Un assistant qui rédige une réponse présente des risques différents de ceux d’un assistant autorisé à envoyer des messages ou à modifier des dossiers d’affaires.

Ces constats devraient orienter le choix du modèle, le déploiement, l’accès aux données, les modalités convenues avec le fournisseur et les essais. Le chef de l’IA assure la continuité entre ces décisions, fait intervenir les experts appropriés et veille à ce que leurs recommandations soient intégrées au système et à ses procédures d’exploitation.

Comment le vCAIO collabore-t-il avec les autres responsables?

Une initiative d’IA mobilise plusieurs responsabilités. Leur répartition précise varie d’une organisation à l’autre, mais les distinctions devraient demeurer claires.

Ces fonctions s’éclairent mutuellement tout au long des travaux.

Si les juristes relèvent des restrictions à l’utilisation des documents des clients, l’approche relative aux données peut devoir changer. Si les essais de sécurité révèlent que l’assistant récupère des documents à accès restreint, la conception doit être corrigée. Si le personnel passe plus de temps à vérifier les réponses qu’à accomplir la tâche initiale, la justification du projet doit être réexaminée.

Le vCAIO relie ces constats aux décisions concernant le programme d’IA, y compris la décision de poursuivre, de revoir l’approche ou d’arrêter.

La direction se poursuit après le déploiement

La réussite d’un projet pilote ne démontre pas qu’un système demeurera utile lorsque les documents, les utilisateurs et les modèles évolueront.

Le processus d’exploitation devrait préciser qui surveille la performance, gère les résultats inattendus et approuve les changements importants. L’évaluation devrait tenir compte du temps consacré à vérifier et à corriger les résultats, en plus des gains de productivité.

Le vCAIO veille à ce que la direction dispose d’une vue d’ensemble de ces constats et dirige les suivis dans les limites du mandat convenu. Cette continuité aide à éviter qu’une expérimentation prometteuse ne devienne une dépendance opérationnelle sans soutien adéquat.

L’apport de Myriam Côté au processus

Myriam Côté, Eng., Ph.D. apporte une expérience en recherche en IA, en ingénierie, en direction de l’innovation et en réalisation multidisciplinaire. Sa contribution couvre la définition du besoin, la remise en question des hypothèses de conception, l’accompagnement des spécialistes techniques et l’aide aux dirigeants pour prendre des décisions éclairées.

Les services intégrés d’innovation de Ceiba peuvent soutenir le chef de l’IA déjà en poste dans une organisation ou fournir un chef de l’IA virtuel lorsque cette direction fait défaut. Myriam travaille avec les responsables des processus d’affaires, les équipes internes, les partenaires spécialisés, les juristes et les professionnels de la sécurité pour relier leurs constats aux décisions de conception et de mise en œuvre.

Le mandat précise qui dirige, qui approuve et comment la mise en œuvre est évaluée. Il en résulte un processus coordonné, du besoin initial à l’exploitation courante, dans lequel les expertises pertinentes éclairent les décisions pendant qu’il est encore possible de les orienter.

Découvrir les services de chef de l’IA virtuel