Un chercheur en sécurité vient de lever le voile sur un aspect inattendu du clavier prédictif d’iOS : la présence d’une « liste noire » de plus de 100 000 mots et expressions que l’iPhone refuse d’afficher en suggestion automatique. Découverte et analysée par Derik Kauffman, cette liste — longtemps « cachée » dans les entrailles du système — soulève plusieurs questions sur la conception des interfaces, la modération automatique et les biais potentiels des choix opérés par les plateformes.
Qu’a découvert le chercheur ?
En fouillant dans iOS, Derik Kauffman a mis au jour une table de hachage contenant plus de cent mille items — mots, insultes, expressions liées à la sexualité ou aux drogues, mais aussi phrases à connotation politique et propos surprenants comme « Santa isn’t real » (le père Noël n’existe pas) ou « iMessage isn’t working ». Ces éléments ne sont pas supprimés du système : ils restent tapables et s’affichent lorsque l’utilisateur saisit lettre par lettre. En revanche, la fonction de saisie prédictive et la saisie par balayage (« swipe ») évitent de les proposer ou, parfois, les remplacent automatiquement.
Pourquoi une telle liste ?
Apple explique que la logique est simple : éviter de suggérer des propos inappropriés ou offensants pour préserver l’expérience utilisateur. Sur le papier, c’est un choix de conception raisonnable — d’autant que la prédiction de mots vise à accélérer la frappe et à limiter les erreurs. Dans la pratique, cependant, l’étendue et la nature des termes bloqués révèlent des décisions plus complexes, parfois incohérentes, et un niveau d’ingénierie algorithmique qui échappe au grand public.
Politiquement neutre ? Pas si sûr
Au-delà des grossièretés et des termes sexuels, la liste inclut des formulations à portée politique telles que « illegal immigrant », « dictator Trump », « sleepy Joe », ou « covid was a hoax ». Bloquer systématiquement ces expressions dans un outil de saisie automatique pose la question du rôle des plateformes dans la circulation du vocabulaire politique. Apple affirme vouloir éviter l’amplification de contenus sensibles ou offensants, mais l’absence de transparence sur les critères exacts de sélection laisse un malentendu : la modération algorithmique peut se transformer en abaissement silencieux de certains termes du débat public.
Incohérences et biais
Kauffman a noté des incohérences troublantes : certaines paires de mots quasi identiques en sens sont traitées différemment (« bad girl » est bloquée, « bad boy » non). Ces asymétries peuvent refléter des corpus d’entraînement, des listes héritées, ou des bricolages successifs réalisés par équipes différentes sans harmonisation. Elles montrent que la modération automatique n’est pas seulement technique : elle est aussi culturelle et sujette à des biais. Qui décide qu’une expression est « inappropriée » et selon quels critères ?
Quel impact pour l’utilisateur ?
Pour un utilisateur lambda, l’effet est souvent mineur : la phrase reste tapable et s’affiche si l’on saisit les lettres une par une. Pourtant, la prédiction est devenue centrale dans la communication mobile : elle oriente le choix des mots, accélère la frappe, influence le style. Restreindre l’accès instinctif à certains termes modifie subtilement la langue produite sur la plateforme. À l’échelle globale, cela peut participer à façonner un registre de parole « acceptable » et un autre moins valorisé.
Transparence et responsabilité
La publication de la liste a été rendue possible par l’usage d’outils d’IA (Codex d’OpenAI et Claude Code d’Anthropic, selon Kauffman) pour décoder des structures internes. Apple, interpellée, rappelle son objectif : protéger les utilisateurs, notamment les plus jeunes, et réduire la diffusion de contenus haineux ou dangereux. Mais la firme n’a pas détaillé la méthodologie ni les critères d’inclusion. À l’ère où les boîtes noires algorithmiques pèsent fortement sur l’expression publique, la question de la transparence prend tout son sens : les utilisateurs et les chercheurs demandent à voir les principes de modération et les éventuels mécanismes d’appel ou de révision.
Des enjeux techniques complexes
Sur le plan technique, la contrainte est réelle : un système de prédiction doit filtrer le « bruit » et proposer des suggestions utiles dans des langues et dialectes multiples, en tenant compte du contexte. Une table de mots interdits est une solution simple et facile à auditer, mais elle manque de finesse. Des approches plus modernes combinent modèles de langage contextuels, détection de la toxicité et règles adaptées à l’âge ou au profil de l’utilisateur. Elles représentent cependant des défis en termes de calcul, de confidentialité et de robustesse face aux contournements.
Que faut‑il retenir ?
La découverte de Kauffman illustre une réalité plus large : nos outils numériques impliquent des choix de conception qui façonnent notre vocabulaire, notre manière de communiquer et, à terme, le débat public. Dans ce contexte, exiger des géants du numérique davantage de clarté sur leurs pratiques de modération algorithmique n’est plus une simple revendication d’activistes : c’est une nécessité démocratique.