LLM 🤖 Cómo FUNCIONAN realmente los Modelos de Lenguaje

Descubre cómo funcionan realmente los modelos de lenguaje y desmitifica la idea de que poseen autonomía. En este video exploramos la mecánica técnica detrás de la predicción de texto, el uso de plantillas y cómo los LLM interactúan con herramientas externas. Analizamos el proceso de autocompletado y la estructura de los prompts, diferenciando entre el system prompt, el usuario y el asistente. A través de ejemplos prácticos con llama CPP, se explica que la IA no está teniendo una conversación real, sino calculando la siguiente parte más probable de un texto basándose en fórmulas y pesos matemáticos. También profundizamos en la cadena de razonamiento (reasoning) y el uso de herramientas (tools). Explicamos que cuando un modelo como GitHub Copilot crea un archivo, no está haciendo clic en un botón, sino prediciendo un comando específico que el programa externo luego ejecuta. Finalmente, comparamos el rendimiento de modelos como Gema y Qwen, analizando cómo la cuantización y el tamaño del modelo afectan su capacidad para ejecutar tareas técnicas. 📝 Índice: 00:00:00 ¿Cómo funcionan los modelos de lenguaje? 00:01:12 Estructura de prompts: System, User y Assistant 00:02:30 El proceso de predicción de texto y tokens 00:04:00 Cadenas de razonamiento y etiquetas de pensamiento 00:06:15 El uso de herramientas y comandos externos 00:08:00 Análisis de modelos: Gema, Qwen y cuantización #InteligenciaArtificial #LLM #Programacion #MachineLearning #GithubCopilot #Tecnologia #IA #ModelosDeLenguaje Contacto: nichonauta@gmail.com Web: nichonauta.com URL del Directo Completo: https://www.youtube.com/watch?v=zUUb_rMjzxU