Les éditeurs de science-fiction se préparent à une bataille contre l’IA

Cela a commencé avec un tweet d’un graphique à barres dépeignant une forte hausse au mois de février : Neil Clarke, l’éditeur et rédacteur en chef du magazine de science-fiction et de fantasy Clarkesworld, avait comploté les dernières années de soumissions plagiées et spammées de la publication. Jusqu’à la fin de 2022, les barres sont à peine visibles, mais au cours des derniers mois, et surtout ce mois-ci, les chiffres ont considérablement augmenté, principalement en raison de IA-contenu généré. Clarke a écrit un article exposant la situation intitulé «Une tendance préoccupante.” Cinq jours et une énorme quantité de bavardages en ligne plus tard, Clarkesworld annoncé que c’est conclusions finales pour l’instant.

Clarke dit qu’ils ont vu ce problème se développer pendant un certain temps, mais ils ont pris le temps d’analyser les données avant d’en parler publiquement. “La raison pour laquelle nous les obtenons est une grande partie de la communauté de l’agitation secondaire”, dit-il. “‘Gagner de l’argent en utilisant ChatGPT.’ Ce ne sont pas des écrivains de science-fiction – ce ne sont même pas des écrivains, pour la plupart. Ce sont juste des gens qui essaient de gagner de l’argent sur certaines de ces choses, et ils suivent des gens qui donnent l’impression qu’ils savent ce qu’ils font. Il ajoute qu’après avoir vu certaines des vidéos pratiques en question, “Il n’y a aucun moyen que ce qu’ils colportent fonctionne.”

Clarkesworld publie depuis près de deux décennies, et bien que de nombreux magazines de science-fiction et de fantasy (SFF) aient des périodes de soumission spécifiques, la publication maintient normalement les soumissions ouvertes toute l’année. Comme pour ses pairs – et contrairement à certaines publications dans le domaine de la fiction littéraire – il n’y a pas de frais pour soumettre votre travail. Clarke cite le dévouement de la communauté SFF à Yog’s Law, une maxime inventée par l’écrivain James D.Macdonald qui stipule: “L’argent devrait couler vers l’auteur.” Cette ouverture est importante pour Clarkesworld: « Nous avons un vaste marché », déclare Clarke. “Nous voulons attirer des voix du monde entier et de tous les types de voix.” Mais un engagement envers la réceptivité signifie également que lutter contre le spam AI ne peut pas simplement signifier mettre en place des barrières supplémentaires à l’entrée.

“Nous allons rouvrir – nous n’avons pas le choix”, déclare Clarke. “Mais nous adoptons la position que ça va être des essais et des erreurs.” Informaticien de formation et développeur du site, Clarke souligne qu’il n’expliquera pas les détails techniques exacts de ces essais – pourquoi donner aux spammeurs un guide étape par étape ? – mais les changements seront minimes et ciblés sur les tendances. qu’ils ont observé dans leur collecte de données. “En ce qui me concerne, nous avons affaire à un scénario qui n’est pas sans rappeler la bataille contre les logiciels malveillants, la fraude par carte de crédit, les attaques par déni de service”, dit-il. « C’est le même genre de choses. Vous devez trouver un moyen de gérer le travail dans un monde où ces choses existent.

Le Clarkesworld La situation a été un sujet de fascination bien au-delà de la sphère SFF : Clarke plaisante sur le robot dans leur logo, et l’ironie d’un magazine de science-fiction victime de l’IA. Mais parmi de nombreux écrivains – à la fois dans SFF et plus largement – il y a eu un sentiment de désespoir, que l’inévitabilité de Création artistique dominée par l’IA arrive enfin. Même si le US Copyright Office a récemment a rejeté la réclamation d’une bande dessinée générée par l’IA, l’inquiétude quant à ce que l’IA va signifier pour une industrie déjà financièrement précaire est palpable.

Clarke pense que les écrivains ont raison de s’inquiéter, mais pour le moment, cette inquiétude concerne le volume de déchets qui encombrent un espace déjà sursaturé. « Ce n’est pas un problème de qualité, c’est un problème de quantité », dit-il. « Nous sommes en train de nous noyer ; ils sont criés. Et pour un nouvel écrivain en ce moment, je me sens vraiment mal pour eux parce que ça va être un problème. Le nombre de marchés qui prendront le raccourci pour éviter ce problème n’est pas nul, et chacun de ceux qui se produisent leur cause du tort. Ils ont donc des raisons d’être désemparés.