-
A partir de ahora, Anthropic incorporará marcas de agua invisibles en los textos generados por la IA de Claude.
-
Esto forma parte de los compromisos de Anthropic en virtud de la Ley de IA de la UE, pero se aplica al texto generado en todo el mundo.
-
Anthropic ha señalado que una edición exhaustiva puede borrar la marca, y que una marca de agua no garantiza el uso de la IA.
Va a ser mucho más difícil utilizar a Claude como escritor fantasma para todo, desde novelas hasta deberes.
El lunes, Anthropic anunció que los nuevos modelos de Claude incorporarán una «marca de agua imperceptible» directamente en el texto generado por IA. La marca de agua no altera el significado ni la legibilidad del texto, pero se mantiene cuando se copia y se pega y «puede persistir tras algunas modificaciones», según el laboratorio de IA.
Publicidad
Publicidad
Una marca de agua es un patrón o texto difuso incrustado en fotografías o documentos digitales para ayudar a demostrar la propiedad y evitar que se copie o se robe una obra.
Esta medida forma parte de los compromisos de Anthropic para lograr una mayor transparencia en el marco de la Ley de IA de la Unión Europea. Los modelos de Claude lanzados a partir del 2 de agosto serán compatibles con el marcado desde su lanzamiento, y Anthropic afirma que está trabajando para añadir esta función a los modelos más antiguos. Las marcas se aplican al contenido producido por Claude en todo el mundo, incluso cuando se accede a Claude a través de proveedores de servicios en la nube. Anthropic ha señalado que también tiene previsto proporcionar a terceros herramientas para detectarlas.
Las marcas de agua de IA podrían suponer un punto de inflexión para el sector editorial, que lleva tiempo lidiando con los contenidos generados por IA.
El mes pasado, un agente literario retiró su apoyo a la popular novela policíaca «Call Me, I’ll Hide the Body» tras surgir dudas sobre la posible utilización de IA por parte del autor. Catorce editoriales pujaron por los derechos de publicación del libro y se cerró un acuerdo antes de que el agente se disculpara. El escritor, Jerry Falade, negó haber utilizado IA para escribir el libro.
Publicidad
Publicidad
A principios de este año, Hachette retiró la novela de terror de Mia Ballard «Shy Girl» tras las acusaciones de que el texto había sido generado por IA. Ballard declaró a *The New York Times* que no había utilizado IA para escribirla, y añadió que un editor autónomo había introducido material generado por IA sin su conocimiento directo.
La nueva marca de agua de Claude podría ofrecer a editoriales, colegios y universidades otra forma de investigar este tipo de casos y dificultar que las personas hagan pasar por propio un texto generado por IA.
Aun así, existen lagunas. Anthropic señaló que una edición exhaustiva, la paráfrasis, la traducción o la mezcla de los resultados de Claude con otros textos pueden hacer que su marca de agua resulte indetectable. Además, encontrar una marca de agua no prueba que Claude sea el autor original de algo, ya que incluso la corrección o la traducción con su IA pueden dejar una huella.
Anthropic es el segundo gran laboratorio en introducir marcas de agua en textos.
Publicidad
Publicidad
En 2024, Google DeepMind anunció que estaba aplicando marcas de agua a los textos y vídeos generados en la aplicación Gemini y en la experiencia web utilizando su tecnología SynthID. Ya había lanzado una versión de esta función para imágenes en 2023.
Si te ha gustado esta noticia, no te olvides de seguir a Business Insider en Yahoo.