OpenAI envisage d'employer son IA pour la modération des contenus

Plongeons-nous dans un autre usage de GPT-4, le moteur qui alimente ChatGPT. Une perle de technologie conçue au sein de la pépinière californienne OpenAI qui a, à travers leur site web, levé le voile sur une nouvelle application de leur invention : une fonction de modération de contenu.

La promesse d'une modération accélérée grâce à GPT-4

OpenAI fait une annonce percutante : grâce à l'implémentation de GPT-4, le délai du processus de modération est réduit des mois à quelques heures. D'accord, c'est impressionnant ! La revisite de la politique de modération se fait à un rythme plus soutenu et en toute efficacité. Après tout, qui voudrait se perdre dans la lecture interminable de documents de modération lorsqu'une solution d'IA est en mesure de décoder instantanément chaque mise à jour et chaque nuance ?

Un allègement de poids pour nos modérateurs

Outre la lecture onéreuse des pages de règles de modération, le trafic des plateformes en ligne pose un autre défi aux modérateurs humains, qui peinent parfois à rester sereins face à ces missions. Et c'est là que GPT-4 intervient. Avec ce soutien inestimable, les modérateurs pourront respirer un peu plus, insiste OpenAI. Toujours sceptiques ? Pas de problèmes, OpenAI vous invite à tester l'efficacité de son système. En effet, les clients privilégiés d'OpenAI, disposant d'un accès API, pourront s'essayer à son système de modération.

Des intervenants humains tout de même

Il est indéniable que les grandes plateformes s'offrent déjà le service de l'IA pour automatiser la modération. Cependant, un flux constant de contenus litigieux nécessite toujours un regard humain scrupuleux. OpenAI est conscient de l'inefficience d'une automatisation complète. D'après elle, les modèles linguistiques peuvent être sujets à des biais involontaires, qui pourraient s'installer lors de leur phase d'entraînement. Or, la vigilance est de mise pour toutes les applications de l'IA, ce qui entraine l'importance des contrôles, des validations, et des retouches constante. Rien ne pourrait donc remplacer les modérateurs humains dans cette boucle de la modération.

Pour une collaboration optimale entre l'IA et l'humain

Dans ce sillage, la porte-parole d’OpenAI a assuré, dans un entretien avec Bloomberg, le rêve d'une collaboration optimale entre l'IA et les modérateurs humains. Grâce à cette technologie, ceux-ci pourront déléguer certaines tâches minutieuses et se concentrer mieux sur les décisions plus délicates. Ces dernières sont souvent liées à des violations extrêmes des règles ou à l’actualisation de la politique de modération. Alors, gardons un œil sur ce grand pas fait par OpenAI, sachant que le rôle des programmes d'IA générateurs dans la propagation des fake news a été récemment mis en exergue dans une étude.