Quand une IA achète à notre place, qui est responsable si elle se trompe ?
Avec l’autonomie des agents et la multiplication des intervenants, identifier l’origine d’une erreur devient plus complexe.
Je reçois Farid Bouguettaya, avocat au barreau de Paris spécialisé en droit des technologies, des données et de l’intelligence artificielle, fondateur du cabinet Kalder, créé en 2024, l’année de l’adoption de l’AI Act.
Le droit peut-il répondre à l’innovation ?
Farid invite à nuancer l’idée que l’innovation créerait un vide juridique : les principes du droit peuvent déjà répondre à des situations nouvelles, même si la technologie va souvent plus vite que le juridique. Face aux grandes plateformes, la difficulté tient aux moyens de contrôle — DGCCRF, douanes — et à la capacité de faire respecter les règles, y compris par des entreprises établies hors de l’Union européenne. L’extraterritorialité du RGPD, du DSA ou de l’AI Act sert précisément cela, comme l’a montré la sanction de Discord, contrôlée à distance et sanctionnée à hauteur d’environ 700 000 euros.
Qui est responsable quand un agent agit pour nous ?
Derrière la responsabilité juridique d’une entreprise, il y a toujours des personnes à la manœuvre. Ce n’est pas le cas pour un agent d’IA : retrouver la trace de ses actions, superviser son activité et pouvoir l’interrompre deviennent des enjeux de sécurité d’une autre ampleur.
Convaincre un agent plutôt qu’un consommateur
Demain, il faudra peut-être être mieux référencé vis-à-vis d’un agent plutôt que d’un consommateur. Prix et référencement compteront, mais aussi conditions de livraison, sécurité et conformité des produits. Et derrière la transaction entre agents, ce sont toujours des personnes et des entreprises qui doivent être satisfaites.
Questions fréquentes
Qui est responsable si un agent IA se trompe dans un achat ?
L’épisode montre que l’autonomie des agents et la multiplication des intervenants rendent l’identification de l’origine de l’erreur plus complexe.
Y a-t-il un vide juridique pour l’IA ?
Farid Bouguettaya nuance cette idée : les principes du droit peuvent déjà répondre à des situations nouvelles, même si la technologie évolue plus vite que le juridique.
Comment faire respecter les règles par des plateformes hors de l’UE ?
Grâce à l’application extraterritoriale de textes comme le RGPD, le DSA ou l’AI Act, qui a par exemple permis de contrôler et sanctionner Discord.
Qu’est-ce qui change pour les commerçants ?
Convaincre un agent n’est pas convaincre un consommateur : référencement dans les outils d’IA, prix, livraison, sécurité et conformité peuvent compter.
Qui est Farid Bouguettaya ?
Avocat au barreau de Paris, spécialisé en droit des technologies, des données et de l’IA, fondateur du cabinet Kalder.
Laisser un commentaire