Hogar Inteligencia Artificial Nuevas y mejoradas herramientas de moderación de contenido

Nuevas y mejoradas herramientas de moderación de contenido

por Iván Torres
0 comentario
nuevas-y-mejoradas-herramientas-de-moderacion-de-contenido-about-data-blog-eblog-de-inteligencia-artifical-dalle-en-espanol
Presentamos las herramientas de moderación de contenido, nuevas y mejoradas: moderation endpoint mejora el filtro de contenido y está disponible de forma gratuita hoy para los desarrolladores de la API de OpenAI.

Para ayudar a los desarrolladores a proteger sus aplicaciones contra posibles usos indebidos, presentamos un endpoint más rápido y preciso. Este endpoint proporciona a los desarrolladores de API de OpenAI acceso gratuito a clasificadores basados en GPT que detectan contenido no deseado, una instancia del uso de sistemas de IA para ayudar con la supervisión humana de estos sistemas. También se ha lanzado un documento técnico que describe la metodología y el conjunto de datos utilizados para la evaluación.

Cuando se le da una entrada de texto, el moderation endpoint evalúa si el contenido es sexual, de odio, violento o promueve la autolesión, contenido prohibido por la política de contenido. El endpoint ha sido entrenado para ser rápido, preciso y para funcionar de manera robusta en una variedad de aplicaciones. Es importante destacar que esto reduce las posibilidades de que los productos “digan” algo incorrecto, incluso cuando se implementan para los usuarios a escala.
Como resultado, la IA puede desbloquear algunos módulos en entornos sensibles, como la educación, donde de otro modo no podría usarse con confianza.

Moderation endpoint ayuda a los desarrolladores a beneficiarse de las inversiones en infraestructura. En lugar de construir y mantener sus propios clasificadores, un proceso extenso, como se documenta en el paper. En cambio, pueden acceder a clasificadores precisos a través de una sola llamada a la API.

Como parte del compromiso de OpenAI de hacer que el ecosistema de IA sea más seguro, se proporciona este endpoint para permitir la moderación gratuita de todo el contenido generado por la API de OpenAI. Por ejemplo, Inworld, un cliente de la API de OpenAI, utiliza el moderation endpoint para ayudar a que sus personajes virtuales basados en IA sigan siendo apropiados para sus audiencias. Al aprovechar la tecnología de OpenAI, Inworld puede concentrarse en su producto principal: crear personajes memorables.

Además, agradecemos el uso del endpoint para moderar el contenido no generado con la API de OpenAI. En un caso, la empresa NGL, una plataforma de mensajería anónima con un enfoque en la seguridad, utiliza el moderation endpoint para detectar lenguaje de odio e intimidación en su aplicación. NGL encuentra que estos clasificadores son capaces de generalizar a la jerga más reciente, lo que le permite tener más confianza con el paso del tiempo.

El uso del moderation endpoint para monitorear el tráfico non-API está en versión beta privada y estará sujeto a una tarifa.

También te Puede Interesar

Sobre nosotros

About Data Blog es un espacio traido a ti por Gold Light Data con el objetivo de investigar y compartir información valiosa sobre Big Data, Inteligencia Artificial, Machine Learning, Analítica de Negocio e Inteligencia de Negocios.

 

Estamos comprometidos con la investigación y nuestra misión siempre será compartir ese conocimiento para la evolución tecnológica y de negocio.

© 2022 About Data. Created by WeApp4U