Mistral AI continúa avanzando en el campo de la inteligencia artificial (IA) con el lanzamiento de su API de moderación de contenido, diseñada para detectar textos indeseables en múltiples contextos y cumplir con estándares de seguridad específicos.

Acompañada de una API de procesamiento en lote, Mistral ofrece a desarrolladores de IA una solución eficiente y asequible para el manejo de grandes volúmenes de datos.

Moderación

La nueva API de moderación de Mistral busca proporcionar seguridad en las implementaciones de IA, garantizando un uso responsable. Este sistema es el mismo utilizado en la plataforma Le Chat, y permite a los usuarios personalizar la herramienta según sus necesidades y estándares de seguridad. Con un enfoque en mantener la seguridad en todos los niveles, Mistral ha desarrollado un modelo de clasificación basado en modelos de lenguaje (LLM) que identifica contenido indeseable en textos y conversaciones.

El modelo de moderación clasifica los textos en nueve categorías diferentes, adaptándose al contexto de conversación. La capacidad de Mistral para trabajar con una variedad de idiomas, incluyendo español, inglés, chino y otros nueve idiomas más, es un recurso valioso para organizaciones globales. Los desarrolladores interesados en conocer los detalles técnicos pueden acceder a la documentación técnica de Mistral.

Desempeño

El desempeño de esta API se mide utilizando el AUC PR en un conjunto de pruebas internas. Mistral se ha comprometido a trabajar con sus clientes para crear herramientas de moderación escalables y personalizables, aportando al desarrollo de un campo de IA más seguro.

Eficiencia

Además de su API de moderación, Mistral ha introducido una API de procesamiento en lote, pensada para aplicaciones que requieren procesamiento de datos a gran escala. Con esta nueva API, disponible en La Plateforme, los desarrolladores pueden procesar grandes volúmenes de datos a un costo 50% menor que las llamadas API síncronas.

La API en lote permite a los usuarios cargar archivos de datos y descargar resultados procesados, facilitando tareas como análisis de sentimiento, traducción masiva, y etiquetado de datos. Esta funcionalidad es ideal para quienes priorizan el volumen de procesamiento por sobre la respuesta en tiempo real. Para más información, la documentación de la API de procesamiento en lote ofrece detalles sobre su implementación.

Aplicaciones comunes

Algunos de los usos más populares de esta API incluyen:

• Análisis de opiniones y sentimientos en grandes volúmenes de datos
• Resúmenes y traducción de documentos
• Indexación y creación de vectores de búsqueda
• Etiquetado de datos para entrenamiento de modelos de IA

Con un límite de hasta un millón de solicitudes simultáneas por espacio de trabajo, la API de procesamiento en lote ofrece una solución robusta y asequible para aquellos que manejan grandes volúmenes de datos.

Con el lanzamiento de estas herramientas, Mistral AI reafirma su compromiso de democratizar el acceso a soluciones de inteligencia artificial seguras y de alto rendimiento, adaptadas a las necesidades específicas de la comunidad de desarrolladores.