Blog
-
Envoyez le slop généré par arXiv AI et bénéficiez de vacances d’un an après les soumissions
Les déchets générés par l’IA sont apparus partout, y compris dans la littérature évaluée par des pairs. De fausses citations, des réponses rapides non éditées et des diagrammes absurdes ont tous échappé aux éditeurs et aux évaluateurs, et il n’est pas toujours clair s’il y a des conséquences pour les personnes responsables.
Maintenant, il semble qu’un certain nombre de domaines scientifiques appliqueront des règles contre les problèmes générés par l’IA avant même que l’examen par les pairs ou les revues ne s’impliquent. L’une des personnes impliquées dans le serveur de prépublication de physique et d’astronomie arXiv a utilisé un fil de discussion sur les réseaux sociaux pour annoncer que tout contenu inapproprié produit par l’IA soumis au serveur entraînera une interdiction d’un an et l’obligation permanente que les futures publications soient soumises à un examen par les pairs avant que arXiv ne les héberge.
Thomas Dietterich, en plus d’être professeur émérite à l’Oregon State University, est fortement impliqué dans arXiv, siégeant à son conseil consultatif éditorial et à sa modération. équipe. Il est donc bien placé pour comprendre les politiques de l’organisation, même si nous avons également contacté la direction d’arXiv pour obtenir confirmation, mais n’avons pas encore reçu de réponse.
-
Senden Sie den von arXiv AI generierten Slop und genießen Sie ein Jahr lang Urlaub von Einsendungen
KI-generierter Mist ist überall aufgetaucht, auch in der von Experten begutachteten Literatur. Falsche Zitate, unbearbeitete prompte Antworten und unsinnige Diagramme sind Redakteuren und Gutachtern entgangen, und es ist nicht immer klar, ob dies Konsequenzen für die Menschen hat verantwortlich.
Jetzt scheint es, dass eine Reihe wissenschaftlicher Bereiche Regeln gegen KI-bedingte Probleme durchsetzen werden, noch bevor Peer-Reviews oder Fachzeitschriften involviert sind. Einer der am Physik- und Astronomie-Preprint-Server arXiv beteiligten Personen kündigte in einem Social-Media-Thread an, dass alle unangemessenen, von KI erstellten Inhalte, die an den Server übermittelt werden, zu einer einjährigen Sperre und einer dauerhaften Verpflichtung führen werden, dass zukünftige Veröffentlichungen einer Peer-Review unterzogen werden, bevor sie auf arXiv gehostet werden.
Thomas Dietterich ist nicht nur emeritierter Professor an der Oregon State University, sondern engagiert sich auch stark bei arXiv und ist Mitglied des Redaktionsbeirats und der Moderation Team. Daher ist er in einer guten Position, die Richtlinien der Organisation zu verstehen, obwohl wir auch die Führung von arXiv um Bestätigung gebeten, aber noch keine Antwort erhalten haben.
-
Send the arXiv AI-generated slop, get a yearlong vacation from submissions
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagrams have all slipped past editors and peer reviewers, and it’s not always clear if there are any consequences for the people responsible.
Now, it appears that a number of scientific fields will be enforcing rules against AI-generated problems even before peer review or journals get involved. One of the people involved in the physics and astronomy preprint server arXiv used a social media thread to announce that any inappropriate AI-produced content submitted to the server will result in a one-year ban and a permanent requirement that future publications undergo peer review before the arXiv will host them.
Thomas Dietterich, in addition to being an emeritus professor at Oregon State University, is heavily involved with arXiv, serving on its editorial advisory council and on its moderation team. So he’s in a good position to understand the organization’s policies, although we have also reached out to arXiv leadership for confirmation, but have not yet received a response.