La polémica sobre obras premiadas en las que se ha detectado que han sido generadas por inteligencia artificial abre en el sector el debate sobre cómo responder
La discusión en torno al uso de la inteligencia artificial en la producción editorial se centraba hasta hace unos meses en el ámbito de habla hispana en la regulación de su uso para la confección de portadas, de textos de contraportada, o en su empleo en traducciones y en audiolibros. Los contratos entre editoriales y autores, a menudo supervisados por agentes literarios, han tratado de asegurar que, tras la automatización, implícita en el uso de la nueva y cambiante herramienta, siempre había un humano que revisaba y firmaba el trabajo, que asumía la autoría en los aspectos formales de ese artefacto llamado libro. “Nuestra postura ha sido contraria al uso de IA en portadas o contraportadas o audiolibros y hemos incluido cláusulas en este sentido en los contratos”, explica Mónica Martín de la agencia MB. “Con nuestros autores tenemos una relación de confianza, con frecuencia revisamos varios borradores de una misma obra. No tenemos nada estipulado contractualmente con ellos sobre la IA”.
Ahora ha cambiado el tiro de cámara y los autores mismos han pasado a ocupar el primer plano en este debate acelerado por el advenimiento de las nuevas herramientas tecnológicas. El cambio de enfoque ha surgido a la luz de casos de detección de textos generados por IA por el software Pangram. A la descalificación de la lista de novelas candidatas al prestigioso premio Goncourt de C’était ça ou mourir (Era eso o morir), del canadiense Thélyson Orélien, por el empleo de IA, se sumó la noticia de que la novela de David Silva Rojas, Donde el agua trabaja, ganadora del primer premio de Narrativa Internacional Almadia-Ventosa Arrufat, está escrita por IA al 99%, según el detector, algo que el autor ha negado y que ha empujado a la editorial mexicana a abrir una investigación. El prestigioso sello francés Gallimard, toda una institución en el mundo literario, ha anunciado que someterá a este software todas las obras que edite.
Así que la cuestión que centra estos días el debate es la sustancia misma de las obras, el cuerpo de texto y la posible injerencia total o parcial de la IA en su elaboración. ¿Qué medidas adoptan o se plantean adoptar las editoriales y agentes para comprobar que una obra no ha sido escrita con IA? ¿Cómo está siendo alterado el concepto de autoría? ¿Dónde marcar las líneas rojas?
La agencia Indent, que representa a autores en español, portugués e inglés y tiene su sede en Nueva York, mandó un email a sus representados esta semana animándoles a guardar sus borradores y notas, y a que, si copian citas de internet, las transcriban. “Estamos valorando incluir una cláusula en los contratos de representación en que los autores se comprometen a no enviarnos libros creados por IA y a que, si han usado esta herramienta para algo en concreto, nos avisen siempre de para qué la han utilizado. Esto lo están haciendo casi todas las agencias en EE UU”, explica Paula Canal.
Desde la agencia Casanovas & Lynch también apuntan a que debe haber transparencia entre el agente y el autor sobre el uso de IA. “Conocemos Pangram porque tenemos que estar al día, pero trabajamos a partir de un lazo de confianza con los autores y yo no soy una censora. Si usan IA espero que me lo cuenten, pero mis conversaciones con los autores no van de esto. Ellos no escriben manuales ni libros de texto. Además, una cosa es apoyarte en la IA y otra escribir todo con esa herramienta”, apunta María Lynch, y menciona a la premio Nobel Olga Tokarczuk, que habló este año de las conversaciones que mantiene con la IA cuando está trabajando en un texto literario. Lynch apunta que los estándares sobre el uso de esta tecnología y en qué medida afecta al concepto de autoría “a día de hoy” no es un tema en absoluto zanjado y es algo que “no está legislado”. Desde la editorial Siruela, Ofelia Grande apunta en esta misma dirección: “Estamos en un punto incipiente y puede que lo que digamos en seis meses no valga porque lo que valía hace ese mismo tiempo ya no es válido hoy. Las cosas cambiarán y los filtros mismos dejarán de funcionar porque la tecnología no deja de avanzar y se quedarán obsoletos. Quizá la pregunta acabe siendo qué porcentaje de IA es admisible”.
Aunque la IA ya forma parte de tramas y argumentos de la ficción actual, como la última novela de Jorge Volpi, La república (Alfaguara), el debate sobre esta herramienta en el ámbito literario ha llegado a través de los premios a obra inédita, algo que abre la cuestión de qué hacer ante el creciente aluvión de manuscritos con pseudónimo que estas convocatorias reciben. Muchos de los premios no contemplan en sus bases el uso de IA pero hay excepciones, como el premio de Narrativa Breve Almadia-Ventosa Arrufat, que especificaba taxativamente que las obras generadas parcial o totalmente con IA quedaban descalificadas, o los premios del grupo Planeta.
Cláusulas en contratos sobre su no uso
Desde Barcelona, fuentes del gran conglomerado editorial explican: “En las bases de los premios literarios se incluye que el escritor, al presentar su manuscrito, debe realizar una manifestación expresa de que la obra no ha sido creada por inteligencia artificial. Además, estamos utilizando varios programas de software que nos permiten detectar hasta qué punto la IA podría haber intervenido en la creación de una obra. Estos programas, que hoy por hoy no son infalibles, los estamos aplicando a los manuscritos de manera progresiva en la medida en que sus últimas versiones están cada vez más perfeccionadas”.
Pilar Reyes, directora editorial de Alfaguara, Taurus, Debate, Lumen y Publicaciones Académicas en el grupo Penguin Random House, señala que van a incluir “una cláusula que diga que el autor manifiesta que es una creación original de un ser humano y, por tanto, no ha sido creación de una inteligencia artificial generativa”. Y añade: “En situaciones concretas, que generen dudas, podemos hacer comprobaciones adicionales con este tipo de herramientas, pero siempre como apoyo dentro de una valoración editorial más amplia y nunca como sustituto del criterio editorial. Para nosotros, la voz del autor, el criterio humano y la conversación entre autor y editor deben permanecer en el centro del proceso editorial”.
Silvia Sesé, directora editorial de Anagrama, se pregunta qué supone en costes y esfuerzo pasar todos los manuscritos que la convocatoria de un premio recibe por software de detección de IA, pero lamenta que cunda la sospecha sobre autores y sellos a la luz de los casos recientes. “Se ha abierto un periodo de reflexión. Debemos encontrar la forma dentro del sector de pensar juntos y hablarlo. Es algo tan importante que merece que trabajemos y pensemos esto en conjunto”. El debate sigue abierto y la próxima cita será en las conversaciones del premio Formentor, donde se reunirán en Mallorca editores internacionales este próximo fin de semana.
Feed MRSS-S Noticias
La discusión en torno al uso de la inteligencia artificial en la producción editorial se centraba hasta hace unos meses en el ámbito de habla hispana en la regulación de su uso para la confección de portadas, de textos de contraportada, o en su empleo en traducciones y en audiolibros. Los contratos entre editoriales y autores, a menudo supervisados por agentes literarios, han tratado de asegurar que, tras la automatización, implícita en el uso de la nueva y cambiante herramienta, siempre había un humano que revisaba y firmaba el trabajo, que asumía la autoría en los aspectos formales de ese artefacto llamado libro. “Nuestra postura ha sido contraria al uso de IA en portadas o contraportadas o audiolibros y hemos incluido cláusulas en este sentido en los contratos”, explica Mónica Martín de la agencia MB. “Con nuestros autores tenemos una relación de confianza, con frecuencia revisamos varios borradores de una misma obra. No tenemos nada estipulado contractualmente con ellos sobre la IA”.
