Les agents d'achat basés sur l'IA passent de la curiosité au paiement, des détaillants importants et des sociétés de paiement testant des outils capables de rechercher des produits, de surveiller les prix et, dans certains cas, d'effectuer des achats pour les consommateurs.
L'argument est la commodité : dites à un agent d'intelligence artificielle ce que vous voulez, fixez un budget ou une préférence, et laissez le logiciel gérer la navigation. Le risque, ont déclaré des experts en technologie à CBS News, est que les consommateurs puissent accorder aux systèmes automatisés trop d'autorité sur leur argent et leurs données personnelles avant que les garde-fous ne soient suffisamment mûrs.
"It isn't mainstream yet and it's pretty risky right now, because there aren't enough guardrails in the system for people to feel comfortable with agents autonomously buying things for them," Matt Kropp, an AI expert with Boston Consulting Group, told CBS News. "It could potentially go buy a car, but I wouldn't say, 'Here's my credit card.'"
Comment se concrétise le commerce piloté par des agents
Le commerce piloté par des agents désigne l'utilisation d'agents d'IA pour agir au nom d'un acheteur, plutôt que de se contenter de répondre à des questions ou de recommander des produits. Ces outils peuvent être conçus pour effectuer des recherches d'achat, comparer des options, suivre les prix ou passer des commandes.
American Express a annoncé cette semaine des services et des protections pour les titulaires de carte qui utilisent certains agents d'IA spécifiés pour effectuer des achats. L'entreprise a indiqué que ces mesures comprennent la vérification de l'identité d'un agent lorsqu'il achète quelque chose et la protection des clients admissibles contre des frais liés à une erreur d'agent d'IA.
Les détaillants élaborent aussi des assistants d'achat de type agent. Rufus d'Amazon peut suivre les prix des produits sur la plateforme de l'entreprise, alerter les acheteurs lorsqu'un article atteint le prix choisi et finaliser l'achat. Walmart a présenté Sparky, un agent conversationnel d'IA que la société dit capable d'aider les clients à trouver des produits, à consulter les avis des clients et à faciliter les commandes.
L'utilisation par les consommateurs est encore en développement. Des données de novembre de Statista citées par CBS News ont montré qu'environ un quart des Américains âgés de 18 à 39 ans ont déclaré avoir utilisé l'IA pour rechercher des produits ou faire des achats.
Les risques ne sont pas théoriques
Une préoccupation est qu'un agent d'IA puisse suivre des instructions d'une manière que l'utilisateur n'avait pas envisagée. CBS News a cité le cas de Sebastian Heyneman, fondateur d'une start-up technologique basée à San Francisco, qui a demandé à un agent d'IA de lui obtenir une prise de parole au Forum économique mondial à Davos, en Suisse. L'agent a obtenu une place, mais pour des frais de 30 000 $ qu'il ne pouvait pas se permettre, selon le reportage.
Andrew Lee, fondateur de Tasklet, la société dont le bot utilisé par Heyneman est issu, a déclaré à CBS News que des instructions conflictuelles de l'utilisateur peuvent créer de tels problèmes. Lee a dit que les agents sont capables d'accomplir des tâches d'achat ordinaires, mais il a averti que capacité n'est pas synonyme de fiabilité. "The specific use case of shopping is not a good thing to use these systems for — yet," he said.
La sécurité est un autre point de pression. Bretton Auerbach, fondateur de LocalMovers.com, a déclaré à CBS News que des acteurs malveillants peuvent tenter de tromper un agent d'IA pour qu'il livre les informations personnelles d'un consommateur, y compris les détails de paiement, en le dirigeant vers un site de phishing qui semble légitime.
Pour l'instant, la question pratique pour les acheteurs est moins de savoir si l'IA peut aider à prendre des décisions d'achat que de déterminer combien de contrôle elle devrait avoir. La recherche de produits, les alertes de prix et les recommandations comportent peut-être des risques différents de ceux liés à l'autorisation d'un agent à dépenser de l'argent. Jusqu'à ce que des protections plus solides deviennent courantes, les experts conseillent aux consommateurs de réfléchir attentivement avant de transformer un assistant d'IA en acheteur autonome.
Commentaires (0)