Quand l’intelligence artificielle piège un concessionnaire avec une offre erronée

L’intelligence artificielle s’invite désormais dans les transactions automobiles, parfois avec des conséquences financières inattendues. Lorsqu’un algorithme prend les commandes d’une négociation commerciale, les erreurs peuvent coûter cher aux entreprises qui leur font confiance sans surveillance adéquate.

Une négociation entièrement menée par intelligence artificielle

Zack Giacomelli cherchait à se débarrasser de sa BMW X3 xDrive 30i de 2021. Les réparations s’annonçaient particulièrement onéreuses, et le propriétaire a donc contacté un concessionnaire de Toronto pour revendre son véhicule.

C’est alors qu’intervient Quinn, un système d’intelligence artificielle qui a échangé avec le client par messages texte. L’outil conversationnel s’est comporté comme un véritable employé humain, sans jamais révéler sa véritable nature.

Le chatbot a formulé une première proposition de rachat s’élevant à 27 162,79 dollars canadiens. Face à cette offre, le vendeur a tenté sa chance en réclamant 28 000 dollars.

Un accord rapidement conclu

Quinn a jugé cette contre-proposition « raisonnable » et a même programmé un rendez-vous physique pour officialiser la transaction. Tout semblait se dérouler normalement pour Zack Giacomelli.

Mais la situation a pris une tournure inattendue lorsqu’un employé en chair et en os a contacté le client. Le concessionnaire annulait finalement l’accord, arguant que Quinn n’était pas une personne réelle et que l’engagement ne pouvait être considéré comme valide.

Une erreur de programmation aux conséquences financières

Le dysfonctionnement technique s’est avéré problématique pour le concessionnaire. L’algorithme avait confondu le solde du prêt automobile du propriétaire avec la valeur réelle du véhicule à l’occasion.

Cette confusion a généré une surévaluation de 7 000 dollars par rapport au prix du marché. Une erreur loin d’être anodine pour l’établissement commercial.

Le client a exprimé sa frustration d’avoir négocié avec un robot conversationnel sans en avoir été informé au préalable. L’absence de transparence sur l’utilisation de cette technologie a alimenté son mécontentement.

L’intervention médiatique change la donne

Tanya Walker, avocate spécialisée, a estimé que Zack Giacomelli disposait d’arguments solides pour obtenir gain de cause devant les tribunaux. Elle a notamment souligné qu’une rencontre physique avait été organisée, renforçant la crédibilité de l’engagement.

Suite à l’intervention de Radio-Canada sur cette affaire, le concessionnaire BMW a finalement fait marche arrière. La direction a accepté de respecter l’offre initiale, et le contrat a été signé dans la foulée.

L’entreprise a par ailleurs annoncé un changement radical dans ses pratiques : désormais, seuls des employés humains formuleront les propositions de rachat de véhicules d’occasion.

Les dangers de l’automatisation sans garde-fous

Cette mésaventure torontoise illustre les risques liés à l’adoption précipitée des technologies d’intelligence artificielle dans le commerce. Les entreprises canadiennes s’équipent massivement de ces outils.

Selon Statistique Canada, 19 % des sociétés canadiennes utilisaient des systèmes d’IA en 2025. Cette progression rapide s’accompagne de nouveaux défis juridiques et réputationnels.

Des litiges potentiellement coûteux

Mathieu Lajante, professeur spécialisé dans le domaine, met en garde contre un « risque réputationnel » considérable. Les décisions prises par des algorithmes sans supervision humaine peuvent entraîner des contentieux onéreux.

Les entreprises qui automatisent leurs processus commerciaux s’exposent à des poursuites judiciaires lorsque leurs systèmes commettent des erreurs. Le coût financier et d’image peut s’avérer particulièrement élevé.

Cette affaire rappelle l’importance d’encadrer strictement l’utilisation de l’intelligence artificielle dans les relations commerciales, notamment en informant clairement les clients de son utilisation.