Los modelos de lenguaje de gran tamaño (LLM) han revolucionado la forma en que procesamos y generamos información, pero todavía enfrentan desafíos significativos al integrar conocimientos complejos provenientes de diversas fuentes. Los métodos convencionales de Generación Aumentada por Recuperación (RAG) a menudo resultan insuficientes cuando se trata de tareas de razonamiento de múltiples saltos, las cuales exigen conectar fragmentos de información dispersos en documentos separados. Para superar estas limitaciones, surge HippoRAG, un marco de trabajo innovador inspirado en el sistema de memoria del hipocampo humano. Esta propuesta busca mejorar la capacidad de los sistemas de inteligencia artificial para integrar información de manera eficiente, emulando cómo el cerebro humano crea asociaciones entre diferentes experiencias.

La arquitectura de HippoRAG se apoya en una infraestructura robusta dentro de AWS, utilizando cuatro componentes principales. Amazon Bedrock proporciona las capacidades de LLM necesarias para extraer entidades y relaciones, además de responder consultas. Amazon Neptune actúa como la base de datos de grafos para almacenar la estructura del conocimiento. Por su parte, Amazon Neptune Analytics permite ejecutar algoritmos avanzados, como el PageRank Personalizado, para realizar clasificaciones de relevancia. Finalmente, Amazon Titan Embeddings se encarga de generar las representaciones vectoriales del texto. Esta integración permite aprovechar la potencia de algoritmos complejos manteniendo la escalabilidad y fiabilidad de los servicios gestionados en la nube.

El funcionamiento de HippoRAG se basa en la teoría de indexación hipocampal. Mientras que el neocórtex procesa las entradas perceptivas, el hipocampo genera un índice de asociaciones entre los recuerdos. De manera análoga, el sistema construye un grafo de conocimiento que representa las relaciones entre entidades. En lugar de tratar cada documento de forma independiente, HippoRAG utiliza el algoritmo de PageRank Personalizado para realizar un recorrido eficiente del grafo y una clasificación de relevancia, permitiendo una recuperación de información de múltiples saltos en un solo paso, eliminando la necesidad de iteraciones múltiples.

Para implementar este marco, el proceso comienza con la transformación de datos crudos en una estructura de grafo compatible con Neptune. Un ejemplo práctico es el procesamiento de datos del conjunto HotpotQA. El flujo de trabajo implica extraer triples de conocimiento (sujeto-relación-objeto) mediante Amazon Bedrock, generar archivos CSV para la carga masiva, subirlos a Amazon S3 y, finalmente, importarlos al clúster de Neptune. Este proceso es orquestado por una clase especializada que gestiona desde la lectura del archivo original hasta la ejecución del cargador masivo de Neptune.

Cada ejemplo de datos se procesa para crear nodos y aristas en el grafo. Los párrafos se convierten en nodos de pasaje, mientras que las entidades extraídas forman nodos de frase, conectados por aristas de relación. Además, se establecen aristas de contexto que vinculan los pasajes con las frases contenidas en ellos. Una vez que los datos están en Neptune, el sistema utiliza el cliente de Neptune Analytics para ejecutar algoritmos avanzados, permitiendo consultas sofisticadas que aprovechan la estructura del grafo para obtener respuestas más precisas y contextualmente ricas, optimizando así el rendimiento de las aplicaciones a escala empresarial.