De nouveaux outils pour vérifier la crédibilité des articles scientifiques

La distinction entre productions originales et productions d'intelligence artificielle générative (Chat GBT) est devenue l'une des comparaisons les plus complexes. L'intelligence artificielle se présente désormais sur la base de la vérité dans la création d'articles scientifiques analytiques, qui ont toujours été difficiles à différencier des productions humaines. surtout pour les personnes extérieures au cadre spécifique de la recherche. Qui n'ont pas l'expérience nécessaire pour distinguer des contradictions subtiles.

Dans le cadre de la recherche de solutions, Ahmed Abdeen Hamed, chercheur à la Thomas J. Watson School of Engineering and Applied Sciences de l'Université de Binghampton, a développé un algorithme d'apprentissage automatique. « xFakeSci » qui détecte jusqu'à 94 % des faux articles scientifiques, doublant presque le taux de réussite des techniques traditionnelles d'exploration de données..

Algorithme d'apprentissage automatique « xFakeSci » Elle s'appuie sur le problème réel que connaît Hamed dans la falsification des articles scientifiques. Ce dernier concentre ses recherches fondamentales sur l'informatique biomédicale, qui incluent l'examen des publications médicales, des essais cliniques et des ressources en ligne..Surtout ceux qui ont été mis en lumière lors de la pandémie de Corona. Ahmed Abdeen Hamed et Zhendong Wu, professeur à l’Université de technologie de Hefei en Chine, ont collaboré pour créer et analyser de faux articles sur la maladie d’Alzheimer, le cancer et la dépression. Les deux chercheurs ont comparé ces articles. Généré par intelligence artificielle avec de vrais articles de la base de données PubMed des National Institutes of Health.

Les chercheurs se sont concentrés sur le développement « xFakeSci » En analysant deux caractéristiques clés des articles – la fréquence et l'association – des paires de mots qui apparaissent généralement ensemble, par exemple « changement climatique », « essais cliniques », en utilisant les mêmes mots-clés pour créer de faux articles et récupérer de vrais articles, ils ont assuré une cohérence. base de comparaison..

L’étude a révélé la différence entre les articles générés par l’IA et ceux générés par l’homme, ces derniers étant caractérisés par une abondance de mots binaires et moins uniformément connectés.Il a été constaté que les faux articles contiennent moins de mots binaires uniques, ce qui est incompatible avec les écrits humains. Les textes générés par l'IA ont tendance à abuser des mots importants pour convaincre les lecteurs.

Met l'accent sur les modèles distincts que vous avez identifiés « xFakeSci » Concernant les différents objectifs des chercheurs humains par rapport à l’IA, les experts notent que tandis que GBT tente de persuader les lecteurs en profondeur sur des points spécifiques, les véritables articles scientifiques s’efforcent d’obtenir de l’ampleur et de la précision. Cette compréhension est cruciale pour développer des outils permettant de détecter le contenu généré par l’intelligence artificielle.

Taux de réussite atteint « xFakeSci » à 94 pour cent, ce qui est impressionnant. Hamed a reconnu la nécessité d'un travail continu et d'une amélioration continue, et il prévoit d'étendre la portée de l'algorithme au-delà des sujets biomédicaux à d'autres domaines scientifiques et aux sciences humaines.

Ahmed Abdeen Hamed s'attend également à ce que l'intelligence artificielle devienne de plus en plus sophistiquée, nécessitant des algorithmes de détection plus complets. Malgré les réalisations actuelles, le chercheur reste optimiste quant aux travaux à venir, à l'importance des efforts en cours pour améliorer la précision des algorithmes et à la nécessité d'accroître la sensibilisation. de la diffusion de faux articles scientifiques..