La aplicaci\u00f3n al lenguaje natural de modelos estad\u00edsticos y de predicci\u00f3n no es algo nuevo.<\/p>\n
En los a\u00f1os 80 y 90 con los n-gramas y los modelos ocultos de Markov se desarollo la aplicaci\u00f3n de matem\u00e1tica probabil\u00edstica al lenguaje, dando lugar a una variedad de herramientas y m\u00e9todos para crear modelos matem\u00e1ticos m\u00e1s flexibles basados en datos.<\/p>\n
Pero no ha sido hasta hace poco cuando sea ha consolidado verdaderamente esta tecnolog\u00eda con el descubrimiento del Transformer por expertos de Google, presentado en el famoso paper \u201cAttention is all you need\u201d, El Transformer es una red neuronal que intenta imitar la atenci\u00f3n que ponemos los humanos al contexto de una palabra o conjunto de palabras en un cuerpo de texto. Vamos a verlo con un ejemplo:<\/p>\n
![](\"https:\/\/capitole-consulting.com\/wp-content\/uploads\/2024\/09\/imagen-12-600x170.png\")
<\/p>\n
Al leer el p\u00e1rrafo anterior establecemos una relaci\u00f3n entre las palabras coco – perro – patas – jugar. Si s\u00f3lo leemos la \u00faltima frase (A Coco le gusta jugar al pilla-pilla), no sabemos si Coco es un perro o una persona. Sin embargo, gracias a nuestra capacidad de atenci\u00f3n tenemos en cuenta el contexto del p\u00e1rrafo completo. As\u00ed es como el Transformer calcula las relevancias entre las diferentes palabras de un texto.<\/p>\n
Este descubrimiento dio paso a ChatGPT3, un chatbot basado en el modelo fundacional Generation Pretrained Model 3 (GPT-3) que revolucion\u00f3 al mundo, convirti\u00e9ndose en el chatbot con m\u00e1s crecimiento de usuario activos de la historia. Compuesto por una red neuronal con 175 mil millones de par\u00e1metros, es capaz de generar texto, entender el lenguaje y responder a preguntas de manera sorprendente.<\/p>\n
Estas capacidades como la comprensi\u00f3n lectora, inferencia l\u00f3gica o incluso tareas m\u00e1s avanzadas para una m\u00e1quina, por ejemplo, explicar por qu\u00e9 un chiste es gracioso, estar\u00edan al alcance de los modelos m\u00e1s densos.<\/p>\n
![](\"https:\/\/capitole-consulting.com\/wp-content\/uploads\/2024\/09\/ParameterGIF-1-1.gif\")
<\/p>\n
\u00bfSignifica esto el fin para los seres humanos? \u00bfAcaso la IA nos quitar\u00e1 nuestros trabajos ya que todo podr\u00e1 ser automatizado por estos modelos?. A\u00fan no, opina el Chief AI Scientist de Meta, de los l\u00edderes de opini\u00f3n Yann Lecun en esta entrevista; los LLMs tienen varias limitaciones que les hacen poco fiables si no van acompa\u00f1ados de las necesarias arquitecturas de software.<\/p>\n
\u00bfCu\u00e1les son sus limitaciones?<\/h3>\n
Pero si a estos Chatbots, conectados con LLMs, les damos acceso al contexto adecuado, ser\u00edan capaces de responder acertadamente a cualquier tipo de pregunta gracias a su poder de redacci\u00f3n y comprensi\u00f3n ling\u00fc\u00edstica.<\/p>\n Es por ello que recientemente ha surgido una nueva arquitectura de software que consigue resolver el problema antes mencionado. Se llama Retrieval Augmented Generation (RAG) y conecta una base de datos con un motor de b\u00fasqueda que contiene todo lo relevante para el usuario. De esta forma el LLM podr\u00e1 tener acceso a la informaci\u00f3n en la que no fue entrenado.<\/p>\n Esto convierte el problema de la falta de contexto de los LLMs en un problema de gesti\u00f3n y b\u00fasqueda de la informaci\u00f3n, cuyas soluciones llevan tiempo estudi\u00e1ndose y desarroll\u00e1ndose en el sector de la informaci\u00f3n.<\/p>\n La infraestructura que describe una arquitectura RAG esta normalmente formada por:<\/p>\n Por lo tanto, al basar las respuestas en datos actualizados, RAG reduce las posibilidades de generar informaci\u00f3n incorrecta en forma de alucinaciones, por la tendencia que tienen a responder siempre a las preguntas. Adem\u00e1s, se podr\u00eda investigar hacer fine-tuning o reentreno del modelo para \u00e1reas de conocimiento espec\u00edfico (como podr\u00eda ser apps con conocimiento de pr\u00e1cticas mineras o log\u00edstica de productos de moda). Actualizar la base de datos puede ser suficiente en casos de uso generales pero existe literatura cient\u00edfica que indican que el fine-tuning del LLM puede aumentar la precisi\u00f3n de la aplicaci\u00f3n potenciada con RAG.<\/p>\n Sin embargo, tambi\u00e9n es importante identificar algunas desventajas:<\/p>\n En conclusi\u00f3n, la combinaci\u00f3n de Large Language Models (LLMs) con la arquitectura de Retrieval-Augmented Generation (RAG) ha marcado un avance en el \u00e1rea de Natural Language Processing mitigando algunas de las limitaciones clave de los LLMs, como por ejemplo las alucinaciones y el acceso a informaci\u00f3n actualizada. RAG mejora la precisi\u00f3n de los LLMs al integrar un motor de b\u00fasqueda, sin necesidad de incurrir en costes de reentrenamiento del LLM. Sin embargo, el \u00e9xito de esta soluci\u00f3n depende de la robustez del motor de b\u00fasqueda de la base de datos vectorial y la disponibilidad de informaci\u00f3n relevante.<\/p>\n Los LLMs pueden automatizar tareas repetitivas, mejorar la atenci\u00f3n al cliente y facilitar la creaci\u00f3n de contenido<\/b>, permitiendo a tu equipo enfocarse en decisiones estrat\u00e9gicas. No obstante, no todas las tareas se benefician de los LLMs. Para an\u00e1lisis profundos o decisiones basadas en datos muy espec\u00edficos, RAG puede complementar el modelo proporcionando un contexto actualizado.<\/p>\n Si quieres saber m\u00e1s acerca de c\u00f3mo estas tecnolog\u00edas pueden transformar tu negocio, contacta con nosotros en Capitole. Nuestro equipo te ayudar\u00e1 a identificar las aplicaciones m\u00e1s efectivas para optimizar tu operaci\u00f3n diaria y aprovechar al m\u00e1ximo la inteligencia artificial, as\u00ed como desarrollar modelos predictivos.<\/p>\n
\nUna de las mayores limitaciones que tienen los LLMs es que no son capaces de generar datos que est\u00e9n fuera del set de entrenamiento. Por ejemplo, si preguntas a ChatGPT quien es Steve Jobs, te sabr\u00e1 contestar qui\u00e9n es el famoso empresario. Sin embargo, si le preguntas sobre las \u00faltimas ventas que se han realizado en el departamento comercial de tu empresa, no ser\u00e1 capaz de darte una respuesta acertada. Esto ocurre porque los LLMs no tienen acceso directo a la informaci\u00f3n m\u00e1s actualizada que ocurre en el mundo.<\/span><\/p>\n![](\"https:\/\/capitole-consulting.com\/wp-content\/uploads\/2024\/09\/imagen-13-600x430.png\")
<\/p>\n\n
\n
![](\"https:\/\/capitole-consulting.com\/wp-content\/uploads\/2024\/09\/Template-Imagen-en-circulo-12-300x251.png\")
<\/p>\n