Bienvenidos a AboutData.blog de Gold Light Data, donde exploramos lo último en Big Data, IA, ML, Analítica de Negocios e Inteligencia de Negocios. Únete a nosotros para mantenerte informado y empoderado en el dinámico mundo de la tecnología de datos.

Reducción de sesgos y mejora de la seguridad en DALL·E 2

En este artículo hablaremos sobre la reducción de sesgos y mejora de la seguridad en DALL-E 2, la tecnología de inteligencia artificial de generación de imágenes desarrollada por OpenAI

Hoy se está implementando una nueva técnica para que DALL·E genere imágenes de personas que reflejen con mayor precisión la diversidad de la población mundial. Esta técnica se aplica a nivel del sistema cuando DALL·E recibe un aviso que describe a una persona que no especifica la raza o el género, como por ejemplo: “bombero”.

Según la evaluación interna, los usuarios tenían 12 veces más probabilidades de decir que las imágenes DALL·E incluían personas de diversos orígenes después de aplicar la técnica. Se planea mejorar esta técnica con el tiempo a medida que se recopilen más datos y comentarios.

En abril, se comenzó a realizar una vista previa de la investigación DALL·E 2 para un número limitado de personas, lo que ha permitido comprender mejor las capacidades y limitaciones del sistema y mejorar los sistemas de seguridad.
Durante esta fase de vista previa, los primeros usuarios han marcado imágenes sensibles y sesgadas que han ayudado a informar y evaluar esta nueva mitigación.

Se sigue investigando cómo los sistemas de IA, como DALL·E, podrían reflejar sesgos en sus datos de entrenamiento y las diferentes formas en que pueden ser abordados.

Durante la vista previa de la investigación, se han tomado otras medidas para mejorar los sistemas de seguridad, que incluyen:

  • Minimizar el riesgo de que DALL·E se utilice indebidamente para crear contenido engañoso al rechazar cargas de imágenes que contengan rostros realistas e intentos de crear la semejanza de figuras públicas, incluidas celebridades y figuras políticas prominentes.
  • Hacer que los filtros de contenido sean más precisos para que sean más efectivos en el bloqueo de avisos y cargas de imágenes que violan la política de contenido y al mismo tiempo permitan la expresión creativa.
  • Refinar los sistemas de monitoreo automatizados y humanos para protegerlos contra el uso indebido.

Estas mejoras han ayudado a ganar confianza en la capacidad de invitar a más usuarios a experimentar DALL·E.

Ampliar el acceso es una parte importante de la implementación responsable de los sistemas de IA porque permite aprender más sobre el uso en el mundo real y continuar iterando en los sistemas de seguridad.

Tags :

Author: Iván Torres
Author: Iván Torres

Iván Torres actualmente cuenta con una Maestría en Ciencias en Analítica de Negocios e Inteligencia Artificial Aplicada, otorgada por la Universidad de Charleston (West Virginia, USA), también es profesor de Ingeniería y Maestría en la Universidad TecMilenio, y ha contribuido en diferentes proyectos tecnológicos como analista, consultor y líder para empresas de ámbito internacional acumulando más de 15 años de experiencia en los campos de desarrollo de Software, Big Data, analítica de negocio e I.A. Editor de About Data Blog.

Deja un comentario

Categories