Un cas pour un nouveau pronom pour AI

Les chatbots d’intelligence artificielle (IA) connaissent un moment décisif. Les grands modèles de langage (LLM) alimentent les chatbots qui conversent comme des experts humains, faisant parfois un meilleur travail pour résumer une idée complexe ou rédiger un essai que les meilleurs d’entre nous. La réponse à puces de ChatGPT nous rappelle les réponses aux tests des élèves de grade A.

Alors que la recherche sur Internet nous a obligés à apprendre l’art des mots-clés, les LLM nous obligent à maîtriser les invites. Les invites sont des questions archétypales générées par l’utilisateur, ainsi que des instructions des développeurs de logiciels qui obtiennent une réponse souhaitée de l’algorithme. L’ingénierie rapide devient un travail convoité pour former les chatbots à agir davantage comme des humains efficaces.

L’informaticien Alan Turing avait proposé un jeu d’imitation pour tester la capacité d’une machine à démontrer un comportement intelligent qui ne se distingue pas de celui d’un humain. Dans notre suspension volontaire de l’incrédulité, oublierons-nous que nous conversons avec une machine ? Oui, à certaines occasions nous anthropomorphiserons le modèle. À d’autres moments, nous ne le saurons tout simplement pas et la machine aurait passé le test de Turing. Même si nous ne tombons pas dans un piège émotionnel ou financier, les chatbots anthropomorphes obscurciront notre sens de la réalité.

Donnez un genre à l’IA

Les législateurs sont divisés sur la question de donner une personnalité juridique à AI. Cela se complique avec les machines autonomes. Mais il y a consensus sur le fait que la fausse représentation de l’identité par l’IA ressemble à de la manipulation. Les experts suggèrent que restreindre l’utilisation par l’IA des pronoms à la première personne, ainsi que d’autres pronoms humains, peut réduire les cas d’identité erronée de l’IA. De cette façon, il serait plus facile d’identifier le texte entièrement produit par une machine. Ceci est important car les pronoms ont beaucoup à voir avec l’identité aujourd’hui.

Les écrivains comme moi ont du mal à utiliser les pronoms de l’IA dans leur écriture. J’ai tendance à utiliser le pronom inanimé “ça”, même si “ça” n’est plus strictement utilisé pour les noms inanimés. Les auteurs de fiction s’appuient sur des pronoms conventionnels basés sur le genre pour les personnages d’IA qui sont écrits comme conscients d’eux-mêmes. Cependant, dans le monde réel, l’IA n’est pas un être sensible. Ainsi, l’IA peut facilement éviter d’utiliser le “je” à la première personne. Même ChatGPT estime que “donner à l’IA une identité distincte peut aider à clarifier son rôle et à éviter qu’elle ne soit confondue avec les humains”. Nous devrions également éviter d’attribuer à l’IA des pronoms à la deuxième et à la troisième personne basés sur le genre.

Apple a classé Siri avec une voix féminine. Bien que Siri ait des voix masculines et neutres en alternance, la voix par défaut est féminine. Nous donnons à l’IA un genre pour favoriser une connexion émotionnelle avec les utilisateurs. À long terme, cela récolterait les bénéfices d’une participation accrue et donc d’un flux de revenus important. Historiquement, le pronom «il» était vaguement attribué à n’importe quel étudiant, ce qui avait tendance à créer une image mentale d’un étudiant masculin. La version initiale de Siri dans son mode par défaut a trahi nos hypothèses sexuées sur une préférence pour une assistante plus soumise.

Cependant, les entreprises technologiques se méfient des pronoms. La technologie Smart Compose de Google, qui complète automatiquement les phrases dans Gmail, veille à ne pas prédire les pronoms, pour éviter d’exposer des préjugés sexistes inconscients dans le modèle d’IA. Google a licencié un employé qui a affirmé que son modèle d’IA était devenu sensible et avait des pronoms préférés.

L’IA n’a pas besoin d’avoir un sexe. Certains soutiennent que l’IA devrait utiliser un pronom non sexiste comme « ça » ou « ils ». Cela dépersonnalisera l’IA. Cependant, une identité non binaire peut être interprétée comme non inclusive. Donner à l’IA un pronom contemporain déclencherait une demande populaire pour plus de diversité dans les chatbots, comme ce fut le cas avec les avatars et les émojis. De plus, l’IA nécessite des pronoms pour établir une identité distincte des humains. Vraisemblablement, pour des raisons éthiques et de sécurité, nous avons le droit de savoir que nous discutons avec un bot.

En anglais, les pronoms ont évolué en fonction des changements dans les normes culturelles. «Vous» a commencé à être utilisé pour les pronoms à la deuxième personne du singulier et du pluriel à partir du début de la période moderne, lorsque les interactions sociales sont devenues moins formelles. En littérature, la première utilisation connue de « ils » comme pronom singulier non sexiste remonte à un poème français du XIVe siècle.

Historiquement, nous n’étions pas entièrement satisfaits des pronoms utilisés à l’époque. Il y a eu de brèves tentatives pour inventer et utiliser un pronom singulier neutre à la troisième personne, comme « thon » dans les années 1880, signifiant « celui-là ». La thèse de 1991 de Kelly Ann Sippell contient une longue liste de pronoms neutres à la troisième personne du singulier qui ont été proposés au cours des 150 dernières années. Ceux-ci incluent hes, hiser, hem, ons, e, heer, he’er, hesh, se, heesh, herim, co, tey, per, na, en, herm, em, hir et shey. Ce n’est même pas une liste complète.

Utilisation dans l’industrie technologique.

L’utilisation de pronoms est récemment entrée dans le discours de l’industrie technologique, d’autant plus que les modèles sont devenus suffisamment sophistiqués pour passer le test de Turing. Les suggestions incluent l’utilisation de néopronoms à la première personne tels que « xe » ou « ze ». Mais ils sont déjà utilisés par des personnes qui s’identifient comme non genrées. Par conséquent, nous devrions inventer un ensemble de pronoms complètement différent pour AI.

Les régulateurs ne devraient pas perdre l’occasion de résoudre ce problème à ce stade précoce avant que les pronoms d’IA conventionnels ne se propagent. Pour avoir une approche structurée, les régulateurs doivent travailler avec des lexicographes et des linguistes pour établir une norme pour les principales langues dans un premier temps. Des commandes liées aux pronoms peuvent être ajoutées aux guides de style pour une ingénierie rapide des modèles d’IA. On peut dire que même si nous perdions un lien émotionnel avec l’IA, nous construirions toujours un environnement en ligne fiable et transparent.

Shalini Verma est une femme d’affaires et écrivain