De las más de 300 millones de compañías en el mundo, 67% ha estado usando LLMs para trabajar con lenguaje humano y producir contenido.
Sin embargo, menos de la cuarta parte de las empresas que utilizan LLMs están planeando implementar modelos comerciales.
Entre las barreras que impiden a las empresas aprovechar las vastas capacidades de los LLMs a gran escala se encuentra la calidad de las respuestas de los LLMs, especialmente en cuanto a especificidad, relevancia y precisión.
Al superar estos desafíos básicos con los LLMs, retrieval-augmented generation (RAG) abre la oportunidad para una mayor innovación impulsada por la IA en el futuro y una mayor utilidad diaria dentro de tu organización.
De esta forma, RAG ha surgido como una implementación de bajo riesgo y alto impacto que te ofrece un paso claro hacia adelante en tu transformación de IA utilizando LLMs a nivel empresarial.
Los LLMs son excelentes porque vienen preentrenados, pero el conocimiento con el que han sido entrenados es general.
Por ejemplo, supongamos que quieres usar un LLM para generar un guion para una próxima presentación sobre los resultados de una campaña de marketing. ChatGPT no será de mucha ayuda: su base de conocimientos carece de información básica sobre la campaña y de otro contexto útil, como la identidad de tu marca y el modelo de negocio.
Para obtener el resultado que buscas, necesitarías poder incorporar información de tu marca que existe fuera de la base de conocimientos con la que el LLM fue inicialmente entrenado, y es precisamente aquí donde entra en juego RAG.
Esencialmente, RAG adapta el LLM a una aplicación más específica al basar sus respuestas en una base de conocimientos adicional compuesta por manuales, informes, artículos y otras fuentes externas selectivas que no forman parte del régimen de entrenamiento original del LLM.
Una vez que se le da un prompt, el LLM puede recuperar información relevante de la base de conocimientos adicional para generar una respuesta de mayor calidad basada en ese nuevo conocimiento.
RAG en acción
RAG se ha convertido en un método popular para integrar la IA en una amplia gama de aplicaciones en diversas industrias, y con buena razón.
La capacidad de ser selectivo con las fuentes que se incluyen en el conocimiento adicional del LLM te ayuda a abordar las siguientes preocupaciones clave sobre la calidad de las respuestas del modelo.
Usando RAG, puedes integrar los manuales de producto más recientes o guías de solución de problemas en tu LLM para que sus respuestas ofrezcan instrucciones claras y directas utilizando un lenguaje que sea único o propio de tu marca.
El auge de los chatbots de atención al cliente impulsados por IA ofrece un excelente ejemplo de esta capacidad. Implementar RAG permite a los chatbots recurrir a nombres de modelos específicos, piezas y problemas frecuentes para asistir a lxs clientxs de manera efectiva.
Incorporar artículos o informes recientes en tu LLM asegura que sus respuestas se basen en la información más relevante para un tema.
Si estás utilizando un LLM principalmente para la creación de contenido dentro de tu marca, mejorar la relevancia de las respuestas del modelo es sumamente valioso. Incorporar fuentes de un rango de fechas limitado —ya sean los últimos cinco meses o cinco años— ayuda a garantizar que el contenido de tu marca sea oportuno y valioso.
Quizás lo más importante es que RAG también te permite mejorar la precisión de las respuestas de tu LLM al basar el modelo en investigaciones o estudios autenticados y revisados por pares.
Para casos de uso en el ámbito de la salud, la precisión y fiabilidad de las respuestas de los LLM es un tema crítico. En DEPT®, utilizamos RAG para superar esa barrera cuando ayudamos a CaryHealth a desarrollar una app de referencia de IA ultra precisa que se basa exclusivamente en fuentes verificadas.
Para comenzar a construir tu propia implementación de RAG, necesitarás los siguientes elementos.
Preparar estos elementos tomará algunos meses, dependiendo de la complejidad de tus datos y el estado actual de tu arquitectura. Sin embargo, la buena noticia es que esta es la parte más laboriosa del proceso. Una vez que tus objetivos y datos estén en orden, la implementación de RAG y las pruebas del sistema toman solo una o dos semanas.
Aún mejor, estos elementos fundamentales no solo son pasos cruciales para RAG, sino que también se aplican prácticamente a todos los demás aspectos de la transformación de IA de tu organización.
Con RAG, cuanto más específicx puedas ser con lo que deseas lograr, mejor. Ya sea mejorar el soporte al cliente, crear contenido personalizado o mejorar la toma de decisiones basada en datos, saber cuándo y cómo interactuarás con el sistema te proporcionará la orientación necesaria durante todo el proceso de implementación.
Puede parecer obvio, pero necesitarás seleccionar el LLM que mejor se adapte a tu caso de uso y que pueda integrarse con un sistema de recuperación. Puedes elegir un LLM de código abierto como Mistral o Llama, o una opción comercialmente disponible como ChatGPT.
Algunos factores importantes a considerar en tu decisión son la escalabilidad, las capacidades de integración, el costo y, por supuesto, tu conjunto de objetivos claramente definidos.
La mejor manera de abordar RAG es considerarlo como un ejercicio de ingeniería de datos. Dado el estado actual de la IA, con la mayoría de las organizaciones en las primeras etapas de su transformación de IA, la barrera más significativa para usar RAG es organizar y estructurar tus datos para que sean compatibles con un LLM.
Con una base en ingeniería de datos, la mayor parte del trabajo de implementación de RAG consiste en construir una fuente para una base de conocimientos adicional que exista dentro de tu organización y que esté alimentada por un conjunto de datos en vivo que se actualiza continuamente.
Dependiendo de tus objetivos, también podrías considerar crear múltiples fuentes de datos para usar en varias bases de conocimientos. Tener bases de conocimientos separadas para la información de productos y las directrices de la marca, por ejemplo, puede ayudarte a desbloquear nuevas aplicaciones para tu LLM habilitado con RAG.
A medida que la IA sigue mejorando, también lo hace RAG. En octubre de 2024, por ejemplo, investigadores de la Universidad de Cornell introdujeron la incrustación de documentos contextuales, una nueva técnica que permite al sistema identificar piezas de información de mejor calidad para su recuperación.
Esta evolución continua demuestra aún más que RAG es el primer paso para que tu organización saque más provecho de los LLMs y avance en su destreza general en IA — y sigue mejorando.
Aunque no necesariamente requiere poco esfuerzo, cada hora de trabajo que inviertas en ello contribuye a tu transformación general de IA y desbloquea nuevas oportunidades para la innovación.
