Bienvenidos a AboutData.blog de Gold Light Data, donde exploramos lo último en Big Data, IA, ML, Analítica de Negocios e Inteligencia de Negocios. Únete a nosotros para mantenerte informado y empoderado en el dinámico mundo de la tecnología de datos.

Nuevas y mejoradas herramientas de moderación de contenido

Presentamos las herramientas de moderación de contenido, nuevas y mejoradas: moderation endpoint mejora el filtro de contenido y está disponible de forma gratuita hoy para los desarrolladores de la API de OpenAI.

Para ayudar a los desarrolladores a proteger sus aplicaciones contra posibles usos indebidos, presentamos un endpoint más rápido y preciso. Este endpoint proporciona a los desarrolladores de API de OpenAI acceso gratuito a clasificadores basados en GPT que detectan contenido no deseado, una instancia del uso de sistemas de IA para ayudar con la supervisión humana de estos sistemas. También se ha lanzado un documento técnico que describe la metodología y el conjunto de datos utilizados para la evaluación.

Cuando se le da una entrada de texto, el moderation endpoint evalúa si el contenido es sexual, de odio, violento o promueve la autolesión, contenido prohibido por la política de contenido. El endpoint ha sido entrenado para ser rápido, preciso y para funcionar de manera robusta en una variedad de aplicaciones. Es importante destacar que esto reduce las posibilidades de que los productos “digan” algo incorrecto, incluso cuando se implementan para los usuarios a escala.
Como resultado, la IA puede desbloquear algunos módulos en entornos sensibles, como la educación, donde de otro modo no podría usarse con confianza.

Moderation endpoint ayuda a los desarrolladores a beneficiarse de las inversiones en infraestructura. En lugar de construir y mantener sus propios clasificadores, un proceso extenso, como se documenta en el paper. En cambio, pueden acceder a clasificadores precisos a través de una sola llamada a la API.

Como parte del compromiso de OpenAI de hacer que el ecosistema de IA sea más seguro, se proporciona este endpoint para permitir la moderación gratuita de todo el contenido generado por la API de OpenAI. Por ejemplo, Inworld, un cliente de la API de OpenAI, utiliza el moderation endpoint para ayudar a que sus personajes virtuales basados en IA sigan siendo apropiados para sus audiencias. Al aprovechar la tecnología de OpenAI, Inworld puede concentrarse en su producto principal: crear personajes memorables.

Además, agradecemos el uso del endpoint para moderar el contenido no generado con la API de OpenAI. En un caso, la empresa NGL, una plataforma de mensajería anónima con un enfoque en la seguridad, utiliza el moderation endpoint para detectar lenguaje de odio e intimidación en su aplicación. NGL encuentra que estos clasificadores son capaces de generalizar a la jerga más reciente, lo que le permite tener más confianza con el paso del tiempo.

El uso del moderation endpoint para monitorear el tráfico non-API está en versión beta privada y estará sujeto a una tarifa.

Tags :

Author: Iván Torres
Author: Iván Torres

Iván Torres actualmente cuenta con una Maestría en Ciencias en Analítica de Negocios e Inteligencia Artificial Aplicada, otorgada por la Universidad de Charleston (West Virginia, USA), también es profesor de Ingeniería y Maestría en la Universidad TecMilenio, y ha contribuido en diferentes proyectos tecnológicos como analista, consultor y líder para empresas de ámbito internacional acumulando más de 15 años de experiencia en los campos de desarrollo de Software, Big Data, analítica de negocio e I.A. Editor de About Data Blog.

Deja un comentario

Related Post