Clasificador de IA

En su mejor versión, la IA generativa puede aumentar la productividad, creatividad y bienestar humano. En ElevenLabs, creemos en el potencial transformador de estas tecnologías, pero también reconocemos que para aprovechar plenamente sus beneficios, debemos asegurar su uso seguro y responsable. Ahora estamos lanzando el Classifier para ayudar a prevenir la difusión de desinformación haciendo que la fuente del contenido de audio sea más fácil de evaluar. Pruébalo tú mismo:

Transparencia sobre contenido generado por IA

El Classifier permite a cualquiera subir una muestra y analizar si contiene audio IA de ElevenLabs. Es el primer mecanismo propietario de su tipo en el ámbito del audio y es un paso crucial en nuestra misión de desarrollar un seguimiento eficiente para medios generados por IA. Con el lanzamiento de hoy, buscamos reforzar nuestro compromiso con la transparencia en torno a

Mecanismo y limitaciones conocidas

El audio generado por nuestros modelos tiene ciertas características detectables. Cuando subes una muestra de audio al AI Speech Classifier, nuestro algoritmo las escaneará para evaluar si el contenido fue generado por nuestra plataforma, manteniendo actualmente una precisión >99% si la entrada no fue modificada. Si sufrió transformaciones de Codec o reverberación, el Classifier es más del 90% preciso. Esta cifra disminuye cuanto más se ha postprocesado el contenido. Añadir más pistas de audio también afectará el resultado.

Estamos analizando y mejorando continuamente nuestro modelo para poder detectar más transformaciones de audio y esperamos que estos resultados mejoren.

Llamada a la participación

Estamos lanzando el Classifier públicamente hoy para fomentar iniciativas de detección de IA. Queremos mejorar la transparencia sobre el contenido generado por IA comenzando con el nuestro. Una gran cantidad de contenido de IA de otros modelos comerciales y de código abierto permanece sin detectar. Animamos a otros a unirse a nuestro esfuerzo, y alentamos a reportar casos sospechosos mientras seguimos mejorando la precisión y las capacidades de detección del Classifier para cubrir más transformaciones de audio, así como contenido generado en otras plataformas, incluidos modelos comerciales y de código abierto. Estamos ansiosos por colaborar con socios interesados en una integración más profunda de la API y en mejorar el valor de esta herramienta.

Por favor, conéctate con nosotros si estás interesado en una asociación o integración.

Un compromiso con la transparencia

Nuestro objetivo en ElevenLabs es producir herramientas seguras que puedan crear contenido extraordinario. Creemos que nuestro estatus como organización nos da la capacidad de construir y aplicar salvaguardas que a menudo faltan en modelos de código abierto. Con el lanzamiento del AI Speech Classifier también buscamos empoderar a empresas e instituciones para aprovechar nuestra investigación y tecnología para reforzar sus respectivas salvaguardas.

Visita nuestra página de seguridad para saber más sobre las salvaguardas de IA en ElevenLabs.