AT&T
Assistant genAI d'entreprise gouverne : un LLM branche sur la connaissance interne, ouvert a des dizaines de milliers de salaries et appele en masse par des systemes automatises
AT&T a deploye Ask AT&T, un assistant genAI interne gouverne (Azure OpenAI) utilise par plus de 100 000 salaries via 71 solutions, traitant ~9 milliards de tokens par jour et reduisant de 33% le temps de resolution du service client.
L'essentiel
- Assistant genAI interne gouverne (Ask AT&T) pour les salaries.
- LLM Azure OpenAI plus RAG sur la connaissance interne, appele en API.
- Temps de resolution care -33%, 71 solutions, ~9 milliards de tokens par jour.
- Preuve B, statut vivant confirme.
Objectif
Mettre un assistant IA fiable entre les mains des salaries pour raccourcir la resolution client et industrialiser les gains de productivite, sous gouvernance.
Le déploiement
Ask AT&T est l'assistant genAI interne d'AT&T, lance en juin 2023. Il donne acces a un LLM branche sur la connaissance de l'entreprise pour resumer des documents, interroger des contrats, ecrire du code, analyser le reseau ou repondre a des questions generales. L'usage a grossi vite : plus de 80 000 salaries y accedaient des l'ete 2024, plus de 100 000 fin 2025. AT&T dit avoir deploye 71 solutions genAI distinctes et reduit de 33 pour cent le temps de resolution des conseillers care. La plateforme traite environ 9 milliards de tokens par jour, l'essentiel venant de systemes internes qui l'appellent en API, pas d'humains. AT&T relie ces solutions a des economies annuelles chiffrees en centaines de millions, dans le cadre d'un programme de reduction de couts a l'echelle du groupe.
Résultats Preuve B
Chiffres operationnels confirmes par une customer story Microsoft avec porte-parole AT&T nomme (71 solutions, 100 000 salaries, 9 milliards de tokens/jour, -33 pour cent de temps de resolution care) et repris par la presse specialisee. Source vendor plus presse : solide sur l'echelle et l'adoption ; les economies restent agregees au niveau groupe, pas isolees par cas.
Comment ça fonctionne
Architecture documentéeLa stack en détail
- llm Azure OpenAI Modeles OpenAI serves via Azure, brique LLM d'Ask AT&T ; les versions de modeles exactes ne sont pas detaillees publiquement.
- infra Azure Cosmos DB Base de donnees Azure supportant la plateforme et ses cas d'usage a fort volume.
- plateforme Ask AT&T (plateforme interne) Socle gouverne construit par AT&T : RAG sur la connaissance interne, controle des acces, journalisation, API pour les systemes internes ; 71 solutions construites dessus.
- infra Microsoft Azure Infrastructure cloud du dispositif, operee dans le cadre du partenariat AT&T-Microsoft.
Comment ça tourne, concrètement
Pour les équipes ops-
1Ouvrir un socle gouverne Equipe data science / IA
Une plateforme unique donne acces au LLM avec controle des acces, journalisation et regles d'usage, plutot que des outils sauvages par equipe.
-
2Laisser les metiers construire Metiers + IA
Chaque equipe branche son cas (care, code, contrats, reseau) sur le socle via RAG. 71 solutions ont ete montees ainsi.
-
3Industrialiser via API Systemes internes / IA
Les systemes internes appellent l'assistant en masse (l'essentiel des 9 milliards de tokens par jour), pas seulement des humains a leur poste.
-
4Mesurer et gouverner en continu Equipe IA + management
Suivi du temps de resolution care, de l'adoption et des economies ; revue des garde-fous a mesure que l'usage grossit.
La gouvernance : chaque cas d'usage passe par un controle avant mise en production. Sans ce filtre, un assistant ouvert a 100 000 personnes propage des reponses fausses ou des fuites de donnees a grande echelle.
Comment vos clients perçoivent ce type d'usage
Études sourcéesLes consommateurs n'acceptent pas les chatbots par defaut : 64% prefereraient que les entreprises n'utilisent pas d'IA dans leur service client (Gartner, 2024) et pres d'un utilisateur sur cinq du service client par IA n'en retire aucun benefice (Qualtrics, 2025). L'acceptation se construit sur trois conditions mesurees par Salesforce : savoir qu'on parle a une IA, pouvoir escalader vers un humain, comprendre la logique de l'agent.
Conditions d'acceptation
- Etre informe qu'on parle a une IA et non a un humain (pres de 75% le demandent, Salesforce 2024)
- Un chemin d'escalade clair vers un agent humain (45% plus enclins a utiliser l'agent IA, Salesforce 2024)
- Une logique de l'agent clairement expliquee (44% plus enclins, Salesforce 2024)
Lignes rouges
- Rendre l'humain injoignable : c'est la premiere inquietude des consommateurs sur l'IA dans le service client (Gartner 2024) et 50% craignent que l'IA les coupe du contact humain (Qualtrics 2025)
- Remplacer le service client par l'IA sans alternative : 53% envisageraient de partir chez un concurrent (Gartner 2024)
Sources : Salesforce 2024 · Gartner 2024 · Qualtrics 2025
Voir l'acceptation complète : par pays, par usage, par génération
Comment répliquer
Inférence - non sourcéPrérequis data
- Connaissance interne accessible (documents, procedures, contrats, bases metier)
- Un socle unique avec controle des acces et journalisation
- Regles de gouvernance et de conformite sur la donnee exposee
Prérequis orga
- Une equipe IA centrale qui tient la plateforme et les garde-fous
- Des metiers autorises a construire leurs cas dessus
- Une conduite du changement / formation a l'echelle
Stack possible
- Azure OpenAI, ou Vertex AI, ou un LLM du marche en RAG
- Base vectorielle sur la doc interne
- Couche de gouvernance et de logging des prompts
Le plan, étape par étape
- Étape 1Choisir un premier cas care a fort volume et poser la gouvernance : controle des acces, journalisation des prompts, regles d'usage et de conformite.Livrable : Charte d'usage et perimetre du pilote valides.
- Étape 2Monter le socle (LLM + RAG sur la documentation care) et le mettre entre les mains d'un groupe pilote de conseillers.Livrable : Assistant pilote en service, temps de resolution mesure.
- Étape 3Comparer le temps de resolution avant/apres, corriger les reponses fausses et durcir les garde-fous.Livrable : Bilan chiffre du pilote et liste de correctifs appliques.
- Étape 4Ouvrir le socle aux autres equipes (code, contrats, reseau) avec un processus de revue avant mise en production de chaque cas.Livrable : 3-5 cas d'usage en production sous gouvernance.
- Étape 5Exposer l'assistant en API aux systemes internes et suivre adoption, volumes et economies.Livrable : API interne active, tableau de bord d'usage et d'economies.
Première étape : Monter un socle gouverne avec un premier cas care a fort volume, mesurer le temps de resolution avant/apres, puis ouvrir la construction a d'autres equipes une fois les garde-fous eprouves.
Le même pattern, prouvé dans d'autres industries
ADT
agent client genAI
Air India
agent client genAI (service client automatisé)
Bank of America
assistant financier conversationnel a l'echelle
Sources
- S1 AT&T creates digital coworkers with Azure to scale AI that works Officiel intéressé archive à générer
- S2 How AT&T's HR team steers 80,000 workers in using its internal generative AI tool Secondaire archive à générer
- S3 AT&T's New Generative AI Tool Will Help Support Employees Primaire archive à générer
Une erreur, une info plus récente, une source ?
Cette fiche vit de sa justesse. Si un chiffre a bougé, si le déploiement a changé, ou si vous avez une source de meilleure qualité, dites-le nous. Toute correction sourcée est vérifiée avant publication.