miniaturadeimagen|Algoritmos de detección de contenido realizado por IA Los algoritmos de detección de contenido realizado por inteligencia artificial (IA) pretenden detectar si un texto, o incluso una imagen de vídeo o un audio han sido producidos por seres humanos o por inteligencia artificial.

A partir de 2023, han salido al mercado diferentes aplicaciones que pretenden detectar si el texto ha sido creado por inteligencia artificial y, de hecho, se utilizan en los colegios y universidades para poder detectar los trabajos no originales de los estudiantes. Este uso es controvertido, ya que las aplicaciones utilizadas no son fiables y pueden ser utilizadas incorrectamente por profesores y catedráticos.

Detección de texto En el caso de documentos de texto, esto se hace habitualmente para prevenir el supuesto plagio, detectando la repetición de palabras como señales reveladoras del hecho que un texto ha sido generado por IA (incluyendo las alucinaciones de IA ). A menudo son utilizados por los profesores que investigan a sus alumnos, normalmente de manera ad hoc. Tras el lanzamiento de ChatGPT y programas similares de generación de textos de IA, muchos centros educativos han dictado políticas contra el uso de la IA por parte de los estudiantes. Los programas de detección de texto de IA también los utilizan los que evalúan los solicitantes de trabajo, así como los motores de búsqueda online.

Los detectores actuales no son fiables y han marcado incorrectamente trabajo de humanos como originario de la IA mientras no detectan el trabajo generado por la IA en otros casos. La revista MIT Technology Review dijo que la tecnología "luchó por recoger texto generado por ChatGPT que había sido ligeramente reordenado por los humanos y ofuscado por una herramienta de parafraseo". También se ha demostrado que, engeneral, los programas de detección de texto hecho por la IA discriminan a los hablantes no nativos de inglés.

En mayo de 2023, un profesor de Texas University–Commerce utilizó ChatGPT para detectar si el trabajo de sus estudiantes estaba escrito por él, algo que ChatGPT dijo que así era. Como tal, amenazó con suspender la clase, aunque ChatGPT no pudo detectar cuáles eran los escritos generados por IA. No se impidió a ningún estudiante graduarse por razón de este problema, y todos los estudiantes menos uno, que reconoció haberlo hecho, fueron exonerados de haber utilizado ChatGPT en su trabajo. En abril de 2023, la Universidad de Cambridge y otros miembros del grupo de universidades Russell desestimaron la herramienta de detección de textos de IA de Turnitin, argumentando que no era fiable.

Anti-detección de texto Existen programas diseñados para evitar la detección de texto generado por IA.

En agosto de 2023, un estudio de Taloni et al. en la Universidad Magna Græcia y en el Royal College of Ophthalmology, para probar la detección de texto generado por IA. El estudio probó una herramienta de detección de IA llamada «Originality.ai» que resultó capaz de detectar generado por GPT-4 con una precisión media del 91,3%. Sin embargo, cuando la herramienta se incorporó a otro programa llamado "Undetectable.ai" la precisión de detección del programa «Originality.ai» descendió a una precisión media del 27,8%.

Sin embargo, el estudio de Taloni et al. había analizado 20 resúmenes de artículos publicados en el Eye Journal, que después se parafrasearon mediante GPT-4.0. Algunos expertos también creen que técnicas como la marca de agua digital son ineficaces porque se pueden eliminar o añadir para desencadenar falsos positivos. El artículo A Watermark for Large Language Models de Kirchenbauer et al. también aborda las posibles vulnerabilidades de las técnicas de marca de agua. Los autores describen una serie de tácticas adversarias, tales como ataques de inserción, supresión y sustitución de texto, que podrían utilizarse para evitar la detección de marcas de agua.

Detección de imagen, vídeo y audio Existen una serie de supuestos programas de detección de imágenes de IA para intentar detectar imágenes generadas artificialmente (por ejemplo, aquellas originadas en Midjourney ), pero no son fiables. Otros programas afirman identificar deepfakes de vídeo y audio, pero esta tecnología tampoco es fiable.

Referencias

Categoría:Inteligencia artificial Categoría:Cibernética Categoría:Lingüística computacional Categoría:Procesamiento de lenguaje natural Categoría:ChatGPT