OpenAI, la firma de investigación de IA detrás de ChatGPT, ha lanzado una nueva herramienta para distinguir entre texto generado por IA y generado por humanos.
Aunque es imposible detectar texto escrito por IA con una precisión del 100 %, OpenAI cree que su nueva herramienta puede ayudar a mitigar las afirmaciones falsas de que los humanos escribieron contenido generado por IA.
en un anuncioOpenAI dice que su nuevo AI Text Classifier puede limitar la capacidad de ejecutar campañas automatizadas de desinformación, usar herramientas de IA para el fraude académico y hacerse pasar por humanos con chatbots.
Cuando se probó en un conjunto de textos en inglés, la herramienta pudo decir correctamente si el texto fue escrito por IA el 26% de las veces. Pero también pensó erróneamente que el texto escrito por humanos fue escrito por AI el 9% del tiempo.
OpenAI dice que su herramienta funciona mejor cuanto más largo es el texto, por lo que podría requerir un mínimo de 1000 caracteres para ejecutar una prueba.
Otras limitaciones del nuevo OpenAI Text Classifier incluyen lo siguiente:
- Puede etiquetar incorrectamente tanto el texto generado por IA como el escrito por humanos.
- El texto generado por IA puede evadir el clasificador con ediciones menores.
- Puede equivocarse con el texto escrito por niños y con texto que no está en inglés porque se entrenó principalmente en contenido en inglés escrito por adultos.
Con eso en mente, veamos cómo funciona.
Uso del clasificador de texto AI de OpenAI
Él Clasificador de texto AI de OpenAI es fácil de usar.
Inicie sesión, pegue el texto que desea probar y presione el botón Enviar.
La herramienta calificará la probabilidad de que AI haya generado el texto que envió. Los resultados van desde lo siguiente:
- muy improbable
- Improbable
- No está claro si es
- Posiblemente
- Probable
Lo probé pidiéndole a ChatGPT que escribiera un ensayo sobre SEO y luego envié el texto palabra por palabra al clasificador de texto AI.
Calificó el ensayo generado por ChatGPT como posiblemente generado por la IA, que es un indicador fuerte pero incierto.
Captura de pantalla de: platform.openai.com/ai-text-classifier, enero de 2023Este resultado ilustra las limitaciones de la herramienta, ya que no podía decir con un alto grado de certeza que el texto generado por ChatGPT fue escrito por IA.
Al aplicar ediciones menores sugeridas por Grammarly, reduje la calificación de posiblemente a poco claro.
OpenAI tiene razón al afirmar que es fácil evadir el clasificador. Sin embargo, no pretende ser la única evidencia de que AI escribió algo.
En una sección de preguntas frecuentes en la parte inferior de la página, OpenAI afirma:
“Nuestro uso previsto para AI Text Classifier es fomentar la conversación sobre la distinción entre el contenido escrito por humanos y el generado por IA. Los resultados pueden ayudar, pero no deben ser la única evidencia al decidir si un documento se generó con IA. El modelo está entrenado en texto escrito por humanos de una variedad de fuentes, que pueden no ser representativos de todos los tipos de texto escrito por humanos”.
OpenAI agrega que la herramienta no se ha probado exhaustivamente para detectar contenido que contenga una combinación de IA y texto escrito por humanos.
En última instancia, AI Text Classifier puede ser un recurso valioso para marcar texto potencialmente generado por IA, pero no debe usarse como una medida definitiva para emitir un veredicto.
Imagen destacada: Fotografía IB/Shutterstock
#OpenAI #lanza #herramienta #para #detectar #contenido #escrito #por
