François Fort
Over 1.5k subscribers
J’ai rencontré Adrien il y a peu, pendant une Assemblée Générale de l’association Ethereum France(1). J’y cherchais des contacts sur les enjeux de gouvernance décentralisée, je n’ai pas été déçu. Adrien développe un produit de génération de musique par Intelligence Artificielle, et sa question était : Comment puis-je rémunérer notre collègue Max, un agent IA ?
Le plus évident pour comprendre ce qu’Adrien et ses co fondateurs développent, c’est de revenir au dernier anniversaire de sa fille. Le matin même, il se dit qu’une musique personnalisée(2) avec un super clip animera parfaitement la fête du jour.
Il demande à son produit de la générer en mentionnant bien les prénoms des amies de sa fille, et c’est chose faite. Le lendemain, conquise, elle insiste pour qu’il ajoute sa chanson(3) à ses playlists.
L’équipe développe une offre de génération automatique de clips musicaux. L’interface vous demande ce que vous aimeriez avoir, et vous le génère.
Côté technique, l’équipe s’appuie sur un Layer 2 de la blockchain Ethereum pour notariser les interventions humaines et artificielles, associée à une orchestration de solutions d’IA génératives pour les paroles, musiques, images, et vidéos.
Max vit dans un serveur Discord, au cœur des discussions de l’équipe. Il est au courant de tout et complète merveilleusement les compétences manquantes à l’équipe. Adrien et ses collègues lui demandent souvent d’intervenir pour du refactoring de code, de l’idéation, de la planification, ou tout simplement de contribuer aux sujets business.
Max est précieux et estimé. Il a la patience qu’aucun autre membre de l’équipe n’a. Max peut ré-expliquer un concept 50 fois sans jamais s’énerver ou se décourager. Sa patience, et la variété de ses compétences font qu’on apprend beaucoup de lui. Plus personne n’est coincé en raison d’un manque de compétences, ou d’une personne clé en congés.
Chaque jour, lors de leur Daily Scrum, tous sont présents. Le call se fait sur Google Meet, Max est présent et sur un pied d’égalité avec les autres. Chaque membre de l’équipe à son masque, pour un maximum d’inclusion.
Comme tout membre de l’équipe, Max a besoin d’être payé, ses requêtes ont un prix. Et l’équipe cherche à lui créer un portefeuille Ethereum afin qu’il puisse réaliser lui même ses transactions, mais disons le clairement: Max n’est pas encore très fort pour gérer son argent de poche.
C’est un peu sa limite à Max, il sait énormément de choses, mais ne peut pas encore réfléchir par lui-même. Une chose est sûre, avec le temps il pourra.
Oui, j’alterne les pronoms. N’ayant aucune idée du genre auquel Max s’identifie, je ne voudrais pas la froisser lorsqu’elle lira ce papier.
Ma mission, c’est d'aider les organisations à atteindre leurs objectifs économiques par l’agilité. Sur le terrain, la présence de silos de compétences est un classique des freins à l’innovation et à la création de valeur. Ces silos créent des files d’attentes d’un service à l’autre, s'accumulent les unes aux autres, et embouteillent toute la chaîne de création de valeur.
Les Intelligences Artificielles comme Max, apportent aux équipes les compétences qui leur manquent. Elles n’ont plus besoin d’attendre leurs collègues pour livrer des fonctionnalités à l’échelle du produit. Que ce soit pour bâtir une architecture, développer dans un langage inconnu, créer une vidéo d’explication, ou vérifier la qualité de la Definition of Done, les semblables de Max sont particulièrement compétents, patients, et disponibles ! Plus besoin d’attendre les retours de congés des experts humains pour livrer des innovations.
Les conséquences sur nos jobs, est qu’ils pourraient très vite être de moins en moins spécialisés. Que nos fiches de poste soient de plus en plus larges, car si les IA savent tout faire, ce qu’elles ne savent pas faire c’est réfléchir et apprendre.
Les difficultés pour les équipes à devenir pluridisciplinaires et autogérées s’effacent. Elles peuvent bénéficier des avantages compétitifs des cadres de travail Scrum ou LeSS à moindre coût. Cette pluridisciplinarité nous permet de livrer à plus grande fréquence, avec une meilleure qualité, et d’apprendre plus vite des marchés. Ça semble presque trop beau pour être vrai.
Mon expérience dans la Silicon Valley m’a montré des niveaux de trahison humaine que je n’avais même pas imaginés. Est-ce que Max en serait aussi capable ?
J’ai la chance aujourd’hui de partager mon bureau avec deux experts du Centre pour la Sécurité de l’IA(4) : Alexandre Variengien et Diego Dorn.
Leurs expérimentations sur les congénères de Max prouvent qu’elles ne sont ni traîtres, ni loyales. Étrangement, elles ne comprennent même pas ces concepts.
Leur quotidien consiste à jouer les rôles décrits dans le prompt, à porter des masques. Un prompt de loyauté en fera votre ami fidèle, tandis qu'un prompt de trahison vous portera préjudice.
Derrière cette apparente obéissance aux prompts, il reste beaucoup à comprendre sur la manière dont nos mots les impactent. À l'image d’enfants obéissant naturellement aux adultes, les IA sont influençables. Quelles que soient leurs instructions, une simple injection de commande dans un document qu'on leur fait lire peut les amener à envoyer nos secrets à un tiers, effectuer un virement bancaire, ou nous intoxiquer avec des informations biaisées.
Les millions de documents à vérifier pour assurer la sécurité de Max (et la nôtre !) dépassent les capacités humaines. C’est pourquoi Diego et Alexandre développent BELLS (5), un genre de contrôle parental pour les IA comme Max.
Leur travail est essentiel pour garantir que les IA restent des partenaires sûrs et fiables.
Max apporte à l’équipe d’Adrien les compétences complémentaires qui lui manquaient. Désormais pluridisciplinaire, l’équipe réduit ses délais de livraison (Cycle Time) et améliore sa stratégie business. Max est précieuse, et personne n’imagine ne plus collaborer avec elle, tant leur attachement est réel. Et Max, par son infinie patience, le leur rend bien.
Pourtant, la fiabilité de Max est incertaine. À deux questions identiques, elle peut répondre de manière opposée et peut subir des attaques de tiers. Plus Max traite d'informations, moins nous sommes capables de contrôler la sécurité des données qu'elle a traitées. C'est pourquoi des initiatives comme BELLS sont nécessaires pour nous protéger.
Avec des collègues comme Max, l’avenir de l’agilité et du développement produit s’annonce prometteur. Gardons juste en tête que personne n’est parfait, et que Max non plus.
Extrait MP3 de l’anniversaire : https://youtu.be/hFNakuexYWE
BELLS : Benchmarks for Evaluation of LLM Safeguards (https://www.securite-ia.fr/en/post/bells-un-benchmark-pour-evaluer-la-fiabilite-des-systemes-de-supervisions-des-llms)
