Búsqueda semántica y RAG con Laravel AI SDK

Laravel AI SDK es el paquete oficial de Laravel para añadir inteligencia artificial a tus aplicaciones. Un modelo de IA sabe mucho de todo, pero no conoce los documentos de tu aplicación: ni los estatutos de una comunidad, ni el manual de un producto, ni las condiciones de un contrato. Si le preguntas por ellos, se lo inventa. Una búsqueda normal, por palabras, tampoco ayuda, ya que no encuentra colada cuando el texto dice tender la ropa, ni perro cuando dice mascotas.

La solución son los embeddings y RAG. Un embedding es una lista de números que representa el significado de un texto. Si 2 textos dicen lo mismo con palabras distintas, sus números se parecen, así que comparando esos números podemos buscar por significado. RAG (Retrieval-Augmented Generation) consiste en utilizar esa búsqueda para que el modelo responda con tus documentos: buscamos los fragmentos que responden a la pregunta y se los pasamos al modelo para que escriba la respuesta solo con ellos. El modelo no memoriza tus documentos, los lee cada vez que le hacemos una pregunta.

En este curso vamos a construir el asistente de una comunidad de vecinos, que responde con sus estatutos y sus normas de convivencia. Empezaremos viendo qué es un embedding. Después guardaremos los vectores en la columna de vectores nativa de MariaDB, trocearemos los documentos por artículos y los buscaremos por significado con el método whereVectorSimilarTo. A continuación crearemos el agente, que es la clase de PHP que habla con el modelo. Le daremos solo los artículos que responden a cada pregunta, para que conteste con ellos y diga de qué documento y de qué artículo sale la respuesta.

Cuando un documento cambie, solo volveremos a indexar ese documento, y gracias a la caché de embeddings del SDK, solo se enviarán a Ollama los artículos que han cambiado. Terminaremos el curso con los tests de Pest. En ellos utilizaremos embeddings falsos y el agente falso del SDK, así que no hará falta llamar a Ollama.

El curso tiene 8 lecciones y se ha llevado a cabo con Laravel 13, Laravel AI SDK 1.4, MariaDB 11.8, Ollama, Laravel Sail y Pest 5, con modelos gratuitos que funcionan en tu propio equipo. Como siempre, tienes disponible el proyecto final, con un commit por cada lección.

Si quieres medir el índice de vectores con más datos, en el artículo Búsqueda vectorial en Laravel 13 con MariaDB y Ollama te muestro cómo se comporta con cientos de filas.

• Haber hecho el curso gratuito Laravel AI SDK desde cero, o tener Laravel AI SDK funcionando con Ollama en Laravel Sail.

• Saber lo básico de Laravel: migraciones, Eloquent con relaciones, comandos de Artisan y controladores.

• Docker instalado y al menos 6 GB de memoria para Docker, para que los 2 modelos de Ollama quepan en memoria. No hace falta tarjeta gráfica.

• Desarrolladores de Laravel que ya utilizan Laravel AI SDK y quieren que su agente responda con los documentos de su aplicación, sin inventarse nada.
• Quien quiere añadir búsqueda por significado a su aplicación sin pagar ningún servicio, con la columna de vectores de MariaDB y un modelo gratuito en su propio equipo.

La suscripción incluye soporte a través del foro del curso.

Las dudas que se planteen en el foro del curso serán respondidas en un plazo máximo de 24 horas laborables.

Las dudas planteadas deben estar relacionadas con el contenido del curso y no con desarrollos personalizados que no estén relacionados con el curso.