Salesforce bouleverse sa stratégie d’IA : vers une autonomie sous contrôle strict

Alors que l’intelligence artificielle générative promettait une révolution sans effort dans les entreprises, un virage stratégique majeur vient bousculer les plans établis. Le géant des solutions cloud pour entreprises ajuste sa vision de l’IA autonome, imposant désormais un cadre plus strict qui redistribue les responsabilités. Cette décision soulève des questions sur les promesses initiales des technologies d’automatisation intelligente et leurs réalités opérationnelles.

Un revirement stratégique qui chamboule les plans

Salesforce a discrètement modifié son approche pour sa solution Agentforce en y intégrant une couche de contrôle déterministe appelée Agent Script. Cette évolution fondamentale vise à limiter l’imprévisibilité des agents d’IA en production, mais elle transfère également une part significative de la responsabilité vers les clients.

« Agentforce était présenté comme un agent autonome capable de résoudre les problèmes des clients de bout en bout sans avoir besoin d’une gestion minutieuse. Les DSI ont établi leur budget, planifié et communiqué en interne sur la base de cette vision. Ce que Salesforce affirme désormais très clairement, c’est que l’autonomie sans garde-fous n’est pas évolutive. Vous avez besoin de contrôles déterministes non seulement pour régir le comportement de l’IA, mais aussi pour le défendre. Il s’agit d’un changement majeur qui remet en question les feuilles de route existantes. », explique Sanchit Vir Gogia, CEO de Greyhound Research.

Ce qui était présenté comme une solution clé en main nécessite maintenant une supervision accrue et des contrôles spécifiques de la part des entreprises utilisatrices.

Des coûts cachés qui émergent

Les implications de cette « recalibration » sont considérables pour les départements informatiques. Les directeurs des systèmes d’information (DSI) se retrouvent face à des défis inattendus : coûts supplémentaires, délais rallongés et nouvelles compétences à acquérir.

Cette « recalibration » représente une charge pour les DSI et leurs équipes en termes de coûts et de compétences., affirme Chandrika Dutt, directrice de recherche chez Avasant.

Les entreprises doivent désormais investir dans la cartographie des workloads, la modélisation des données et optimiser la gestion des coûts liés aux tokens. Ces compétences techniques sont rarement disponibles en interne.

« En conséquence, de nombreuses entreprises pourraient se retrouver de plus en plus dépendantes des prestataires de services pour la gestion opérationnelle, la gouvernance et l’optimisation des flux de travail pilotés par des agents. Ce qui était initialement perçu comme un raccourci vers la productivité peut rapidement se transformer en un engagement lourd en services. », ajoute Mme Dutt.

Des délais qui s’allongent

L’ajout de contrôles déterministes rallonge considérablement les calendriers de mise en œuvre.

« Si vous aviez prévu de déployer un service d’assistance GenAI au deuxième trimestre et de le laisser apprendre sur le tas, vous devez désormais ajouter des cycles de script, de test, de versioning et d’assurance qualité. Cela ralentit les choses. », précise M. Gogia.

Cette situation crée un dilemme politique pour les DSI qui avaient défendu l’adoption de l’IA en interne. Ils doivent maintenant justifier des délais plus longs et des coûts imprévus.

Pourquoi Salesforce a changé de cap

Ce changement d’orientation n’est pas le fruit du hasard. Introduit en octobre dernier, Agent Script répond à des problèmes concrets rencontrés par les clients les plus expérimentés de la plateforme.

Le vice-président directeur de la division de recherche en IA de Salesforce, Phil Mui, explique que les clients peinent à maintenir les agents autonomes dans le droit chemin pour des flux de travail critiques, augmentant ainsi les risques opérationnels.

Le problème technique résidait dans la dépendance d’Agentforce au moteur de raisonnement Atlas, qui s’appuie sur plusieurs modèles de langage (LLM) pour planifier et exécuter des actions.

« Les principaux points de friction étaient les coûts d’exploitation élevés et les réponses imprévisibles, même après des prompts structurés, en particulier dans les cas d’utilisation pour le service client. », témoigne Animesh Banerjee, directeur général de Bong Bong Academy.

Des risques inacceptables dans certains secteurs

Pour les secteurs sensibles comme la finance et la santé, l’imprévisibilité des réponses posait un problème majeur.

« Même les inexactitudes peu fréquentes sont inacceptables lorsque les réponses sont directement transmises aux clients. Cette défaillance crée un risque pour la réputation et un risque juridique. », souligne Jayanta Acharjee, consultant senior Salesforce chez Sitetracker.

Agent Script vient résoudre ces problèmes en permettant aux entreprises d’imposer une structure déterministe basée sur des règles à l’exécution des agents, divisant les tâches en étapes avec une logique définie.

Une tendance qui dépasse Salesforce

Ce revirement n’est pas isolé dans l’industrie. D’autres acteurs majeurs suivent des trajectoires similaires face aux défis de l’IA en production.

Microsoft, OpenAI, LinkedIn et ServiceNow ont tous adopté des approches comparables. OpenAI a notamment lancé AgentKit pour permettre aux développeurs de mieux contrôler le comportement des agents.

Selon Chandrika Dutt, d’autres fournisseurs suivront probablement cette voie, particulièrement dans les secteurs réglementés comme la santé, la banque et les services financiers.

« Dans ces environnements, l’automatisation déterministe n’est pas facultative ; elle est essentielle pour garantir un comportement prévisible, une auditabilité, une conformité réglementaire et une exécution étroitement contrôlée. », affirme-t-elle.

Conseils pratiques pour les DSI

Face à cette nouvelle réalité, les experts recommandent plusieurs approches :

1. Modifier la perception des agents IA : les voir comme des capacités intégrées aux processus plutôt que comme des « employés numériques » autonomes.

2. Investir dans les ressources humaines nécessaires.

« Vous devez vous doter du personnel adéquat. Cela inclut des compétences techniques en matière de script et de débogage, mais aussi une réflexion conceptuelle sur les flux de conversation, des experts dans le domaine pour la conception des politiques et des responsables de la conformité pour la gouvernance. L’IA n’est pas une boîte noire que vous achetez sous licence. C’est un système que vous exploitez. Si vous ne disposez pas du personnel nécessaire pour l’exploiter, vous n’avez pas de stratégie, vous avez un projet pilote. », conseille M. Gogia.

3. Aligner les attentes du conseil d’administration sur cette nouvelle réalité, en expliquant clairement les limites et la valeur de l’IA.

4. Appliquer les contrôles déterministes de manière sélective, en commençant par les workflows où la prévisibilité est indispensable.

La réponse de Salesforce

Face à ces défis, un porte-parole de Salesforce indique que les entreprises rencontrant des problèmes peuvent contacter l’équipe de services professionnels de Salesforce ou d’autres partenaires certifiés. Toutefois, les analystes soulignent que cette assistance supplémentaire n’est pas gratuite.