Manque de vérification cryptographique des agents IA : a16z met en garde contre les risques liés à l'identité numérique et à la gouvernance

BroadChain a appris que le 24 avril à 01h00, a16z crypto a souligné que les agents d'IA évoluent rapidement d'outils auxiliaires à de véritables acteurs économiques, mais que leur identité, leurs autorisations et leurs méthodes de paiement manquent de vérification standardisée. La technologie blockchain peut fournir une identité portable, des paiements programmables et des certificats vérifiables, permettant aux agents de fonctionner de manière sans permission. Le goulot d'étranglement actuel réside dans l'absence d'une couche d'identité, similaire à la dépendance humaine au KYC, les agents ayant besoin de certificats cryptographiques signés de type "Know Your Agent" (KYA).

Au niveau de la gouvernance, si un système d'IA contrôle des ressources clés mais que le modèle sous-jacent est détenu par un seul fournisseur, la décentralisation apparente cache en réalité un contrôle centralisé. a16z insiste sur la nécessité de garanties cryptographiques pour s'assurer que les actions des agents représentent les intérêts des utilisateurs plutôt que ceux de l'entreprise de modèles, impliquant la vérifiabilité des données d'entraînement, du respect des instructions et des actions réelles. Sans ces garanties, l'économie de l'IA accumulera une "dette dangereuse".