ChatGPT : c’est tendance, c’est viral. Je le veux ?

“Comme d’habitude, il semble que seul ce qui devient viral, ce qui est “tendance”, soit pertinent.”
0 Partages
0
0
0

C’est quoi ce truc de ChatGPT ? Pour l’instant, nous pouvons le décrire comme un prototype de chatbot développé par OpenAI, un grand modèle de langage(LLM) utilisant une énorme somme de données. Ce n’est pas le premier chatbot en libre accès, mais c’est sûrement celui qui marque un tournant dans la diffusion de ce type d’outil pour être l’opposé du violon d’Ingres : tout ce qu’il fait, de la génération de code python aux dissertations sur une grande variété de sujets, il le fait bien. Si c’était humain, on dirait “c’est bon”. Mais si ce n’était pas le cas, la mise à disposition gratuite de sa capacité de production sans aucune garantie quant aux conséquences possibles ignore plusieurs des considérations éthiques de l’Union européenne pour une intelligence artificielle fiable et responsable. Il ne s’agit pas ici de limiter l’innovation, mais de promouvoir, une fois de plus, un processus inverse dans lequel on essaie d’abord et où les politiques et les lignes directrices sont définies plus tard, déjà en réaction aux conséquences qui découleront inévitablement de son utilisation massive depuis son lancement en novembre.

Pour tester ChatGPT, il suffit de créer un compte et de lancer l’expérience. Vous pouvez soit poser une question, soit être invité à écrire du code dans un langage de programmation. Ce modèle d’IA, ou chatbot, génère du contenu de manière similaire à celui élaboré par des humains, y compris de manière prédictive. Mais nous savons aussi que ChatGPT n’a pas la capacité de vérifier la véracité du contenu produit, bien qu’il ait la capacité de forcer sa crédibilité même si elle est biaisée.

Nous avons testé le chat avec plusieurs questions ouvertes portant sur des événements historiques, des notions philosophiques, politiques et juridiques, des théories et expériences scientifiques, des mouvements artistiques, la médecine et les soins de santé. Les réponses sont invariablement bien structurées, présentant diverses perspectives de manière descriptive. Ce n’est pas seulement à l’œil nu qu’ils semblent avoir été écrits par des humains, la crainte qu’ils soient un support utilisé pour remplacer un processus de pensée et une composition originale est donc justifiée.

L’étude “Machine Generated Text : A Comprehensive Survey of Threat Models and Detection Methods” nous montre comment l’abus des modèles de génération de langage naturel (NLG) multiplie l’impact social négatif (et pas seulement) avec l’émergence de cas d’utilisation abusive ou nuisible. La question qui se pose est la suivante : pourquoi n’y a-t-il pas de médias (et d’autres parties prenantes) qui encouragent une analyse minutieuse des mesures permettant d’atténuer les abus des systèmes d’IA ? Parlerons-nous de la façon dont ChatGPT peut être un outil pour détecter, ou promouvoir, les attaques de cybersécurité ? A propos de la possible escalade des fake news ? Sur les moyens d’identifier et de prévenir une éventuelle fraude académique ? Sur les moyens créatifs d’essayer de tirer parti de cet outil dans un contexte pédagogique ? Sur le type d’impact qu’il aura sur l’exercice de diverses professions, de l’enseignement à l’ingénierie informatique ?

Comme d’habitude, il semble que seul ce qui devient viral, ce qui est à la mode et donc potentiellement la cible d’investissements financiers, soit pertinent. Cela semble démontrer trois choses : nous sommes un pays pauvre, avec une faible culture numérique et dans lequel il est facile d’acheter l’attention sociale par la production de nouvelles qui s’appuient sur des termes tels que :“capital“, “millions”, “investisseurs”. Comme le dirait Paulo Leminski, “Si ce n’était pas ça, ce serait moins”. Si ce n’était pas le cas, c’était presque “.


Ce texte est publié dans o largo. dans le cadre du projet “Culture, science et technologie dans la presse”, promu par l’Association Portugaise de la Presse.

Si vous avez trouvé une faute d’orthographe, veuillez nous en informer en sélectionnant le texte en question et en appuyant sur Ctrl + Entrée .

0 Partages
Vous aimerez aussi