Logo de Mydra
Artificial Intelligence
DeepLearning.AI logo

DeepLearning.AI

Calidad y Seguridad para Aplicaciones LLM

  • hasta 1 hora
  • Principiante

Este curso aborda las preocupaciones críticas de seguridad y calidad en aplicaciones LLM. Aprende a monitorear y mejorar las medidas de seguridad, detectar y prevenir amenazas, y explorar escenarios del mundo real para proteger tus aplicaciones LLM.

  • Medidas de seguridad
  • Detección de alucinaciones
  • Detección de jailbreaks
  • Identificación de fugas de datos
  • Sistemas de monitoreo

Resumen

En este curso, explorarás nuevas métricas y mejores prácticas para monitorear tus sistemas LLM y asegurar su seguridad y calidad. Aprenderás a identificar alucinaciones, detectar jailbreaks e identificar fugas de datos. Además, construirás tu propio sistema de monitoreo para evaluar la seguridad y protección de la aplicación a lo largo del tiempo. Al final del curso, serás capaz de identificar preocupaciones comunes de seguridad en aplicaciones basadas en LLM y personalizar tus herramientas de evaluación de seguridad.

  • Web Streamline Icon: https://streamlinehq.com
    Online
    ubicación del curso
  • Layers 1 Streamline Icon: https://streamlinehq.com
    Inglés
    idioma del curso
  • A tu propio ritmo
    formato del curso
  • Clases En vivo
    entregado en línea

¿Para quién es este curso?

Desarrolladores de Python

Cualquiera con conocimientos básicos de Python interesado en mitigar problemas como alucinaciones, inyecciones de prompts y salidas tóxicas.

Entusiastas de la IA

Individuos interesados en aprender sobre las preocupaciones de seguridad y calidad en aplicaciones LLM.

Científicos de Datos

Profesionales que buscan mejorar sus habilidades en la monitorización y seguridad de aplicaciones LLM.

Este curso te ayudará a monitorear y mejorar las medidas de seguridad para tus aplicaciones LLM. Aprende a detectar y prevenir amenazas críticas de seguridad y explora escenarios del mundo real para prepararte ante posibles riesgos. Ideal para desarrolladores de Python, entusiastas de la IA y científicos de datos.

Requisitos Previos

1 / 1

  • Conocimientos básicos de Python

¿Qué aprenderás?

Introducción a la Seguridad y Calidad en LLM
Visión general de la importancia de la seguridad y calidad en aplicaciones LLM.
Identificación de Alucinaciones
Métodos como SelfCheckGPT para identificar alucinaciones en respuestas LLM.
Detección de Jailbreaks
Uso de análisis de sentimientos y modelos de detección de toxicidad implícita para detectar jailbreaks.
Identificación de Fugas de Datos
Técnicas como el reconocimiento de entidades y el análisis de similitud de vectores para identificar fugas de datos.
Construcción de un Sistema de Monitoreo
Cómo construir tu propio sistema de monitoreo para evaluar la seguridad y protección de la aplicación a lo largo del tiempo.

Conozca a su instructor

  • Bernease Herman

    Científica de Datos en WhyLabs

Próximos cohortes

  • Fechas

    comienza ahora

Libre