ChatGPT a réussi à s’intégrer dans le quotidien de nombreuses personnes depuis quelques mois. Il faut avouer que l’IA impressionne par ses réponses et sa capacité à générer des textes parfois mieux écrits que par des humains. Une enquête du Time a toutefois mis en lumière certains points que les créateurs de ChatGPT auraient bien aimé garder à l’ombre : l’implication de travailleurs kenyans sous-rémunérés pour entraîner l’IA.
Le Time Magazine a récemment publié les résultats de son enquête sur OpenAI. L’entreprise qui est derrière la conception de ChatGPT a sous-traité certains travaux pour améliorer son outil de génération de texte.
Si la cause est noble (il s’agirait de rendre l’IA moins toxique), le procédé l’est moins, puisque l’entreprise aurait engagé des Kenyans qui auraient été payés moins de deux dollars de l’heure pour obtenir les résultats souhaités.
C’est un nouveau scandale dans le monde de la Tech qui met encore une fois en lumière le fait que les outils censés automatiser le travail des humains nécessitent encore l’intervention de ces derniers. Le coup d’éclat ici concerne particulièrement les grandes entreprises comme OpenAI et ses partenaires qui ne sont pas prêts à mettre en place le financement adéquat pour atteindre leurs objectifs.
Un travail qui peut être félicité
GPT-3 sur lequel est basé ChatGPT, a une grande capacité à prédire les mots qui peuvent être alignés ensemble pour obtenir des phrases logiques, bien que des erreurs peuvent survenir. L’intelligence artificielle a de fait été entraînée et nourrie par des centaines de milliards de contenus humains disponibles sur Internet.
Le problème avec ce procédé tient dans le fait que l’IA a appris des humains, et s’il peut apporter des réponses correctes, il peut le faire avec des mots violents, racistes et sexistes. En résumé, la plus grande force de ChatGPT était aussi sa plus grande faiblesse.
Des travailleurs Kenyans, mais aussi Ougandais et Indiens, ont aidé l’IA à reconnaître les mots inappropriés afin d’apporter des réponses plus correctes, plus acceptables. Une intervention qui peut être félicitée au vu des résultats.