Votre « Assistant utile » est également un problème de données que vous n'avez pas résolu
Chaque fonctionnalité d'IA est un nouvel endroit où vivent vos données. La plupart des entreprises l'ont découvert après l'avoir expédié.
L'ajout d'un assistant IA à votre produit ressemble à une fonctionnalité. Sur le plan opérationnel, il s'agit d'un nouveau centre de données que vous n'aviez pas prévu, rempli des conversations les plus sensibles de vos utilisateurs.
J'ai vu trois équipes découvrir, après le lancement, que les journaux de l'assistant étaient assis dans un endroit que l'équipe de sécurité ne pouvait pas voir. Aucun d'entre eux n'avait l'intention de le faire. Ils ont tous été expédiés de toute façon.
La partie difficile n'est pas le modèle. C'est la gouvernance : où vont les données, combien de temps elles restent, qui peut les lire, que se passe-t-il lorsqu'un régulateur demande. La plupart des équipes s'en rendent compte sous pression.
Si vous construisez avec l'IA, écrivez le flux de données avant d'écrire l'invite. La fonctionnalité est simple. L'audit est le travail.
Les utilisateurs pardonneront à un assistant maladroit. Ils ne vous pardonneront pas d'avoir perdu les choses qu'ils lui ont dites en toute confiance. La confiance est le seul actif qui ne se régénère pas.