À mesure que l’intelligence artificielle générative s’intègre dans les plateformes que nous utilisons tous les jours, les débats se multiplient à qui revient le mérite des contenus générés par l’IA et quelles limites devraient être appliquées à leur usage.
Une nouvelle fonctionnalité prometteuse, basée sur l’IA
Ces questions sont amenées par une nouvelle fonctionnalité de Grammarly, qui devrait être lancée d’ici fin 2023 pour les abonnés à la version professionnelle de l’assistant dactylographique basé sur le cloud. Baptisée « Détection et application personnalisées de la voix », cette fonction détecte automatiquement le style d’écriture d’une personne et crée un « profil vocal » qui peut réécrire n’importe quel texte dans le style de la personne.
« Parce que Grammarly fonctionne à travers les applications et les outils, nous pouvons comprendre le style unique d’un utilisateur et ses préférences là où il communique pour générer un profil personnalisé », a déclaré Tal Oppenheimer, chef de produit pour les applications clientes de Grammarly. « Nous générons le profil d’une personne au fur et à mesure qu’elle utilise passivement notre produit.»
M. Oppenheimer explique que chaque profil, qui s’accompagne d’une description générée par l’IA et qui met en évidence ce que Grammarly considère comme les caractéristiques déterminantes du style de la personne (par exemple, « positif » ou « encourageant »), peut être personnalisé jusqu’à un certain point. Les utilisateurs peuvent écarter des éléments qui, selon eux, ne reflètent pas fidèlement leur façon d’écrire, à l’image des choix stylistiques, de l’utilisation de la voix active ou des phrases composées.
« Il s’agit de la première version de nos fonctions vocales personnalisées. Nous continuerons à les affiner au fil du temps et à envisager des moyens de les rendre encore plus personnalisées en fonction des clients et de leurs besoins », a déclaré Tal. Oppenheimer.
Controverses de Grammarly
« Grammarly présente sa nouvelle technologie comme un moyen pour les rédacteurs de rendre leurs écrits plus personnels ». Mail il existe des raisons de s’inquiéter de l’utilisation qui pourrait être faite de l’outil.
Imaginez qu’une entreprise exploite un profil verbal Grammarly pendant les congés d’un rédacteur, ou après son licenciement pour publier des articles de blog sous sa signature sans son accord et sans le rémunérer. Ou encore, imaginez qu’un profil verbal soit utilisé pour usurper l’identité d’une personne dans le cadre d’une tentative d’hameçonnage.
L’auteure Jane Friedman a découvert en août que des livres étaient vendus sur Amazon à son nom, livres qu’elle n’avait pas écrits et qui semblaient avoir été générés par une IA. Amazon a, par la suite, retiré les faux livres et a déclaré que sa politique interdisait ce type d’imitation.
Grammarly n’est pas le premier à mettre en avant la question de la protection des auteurs face à l’IA générative. Des milliers d’auteurs ont récemment signé une lettre ouverte décriant les technologies d’IA générative qui « imitent et régurgitent » leur « langage, leurs histoires, leur style et leurs idées ». Des écrivains de Californie et de New York, quant à eux, sont allés plus loin en intentant un procès à la startup OpenAI, qui, selon eux, a entraîné une IA génératrice de texte sur leur travail sans leur permission, pour vol présumé de propriété intellectuelle.
Il faut savoir que n’importe qui ne peut pas accéder à un profil vocal Grammarly. Au moins au moment du lancement, les utilisateurs individuels ne peuvent utiliser que leur propre profil vocal, et non celui d’une autre personne. Et les profils ne peuvent pas être exportés.
Nous devons nous interroger sur l’évolution des profils vocaux, compte tenu de l’accent mis par Grammarly sur les économies de coûts dans ses documents de marketing. Il est concevable que, dans un souci de réduction des coûts, une entreprise abonnée à Grammarly veuille un jour avoir accès à tous les profils de ses rédacteurs.
Pour sa part, Oppenheimer souligne que les profils vocaux « ne sont pas conçus pour remplacer qui que ce soit ». « Plutôt que de les imiter, les profils vocaux aident les écrivains à apprendre comment ils s’expriment, à créer des textes plus personnalisés et à écrire de manière plus authentique.
Mais la prudence reste de mise…
