Generatywna sztuczna inteligencja (AI) zdobywa coraz większą popularność w różnych branżach, od obsługi klienta po sprzedaż, marketing i prawo. W 2024 roku aż 92% firm z listy Fortune 500 wdrożyło generatywną AI w jakiejś formie. Być może sam używałeś rozwiązań opartych o AI, takich jak ChatGPT lub GitHub Copilot, aby uzyskać odpowiedzi na pytania czy wygenerować kod na podstawie specyfikacji.
Retrieval-Augmented Generation (RAG)
Tworząc aplikacje oparte na generatywnej AI, jednym z głównych celów jest zapewnienie, by odpowiedzi generowane przez AI były dokładne i kompletne. Jednym z popularniejszych sposobów osiągnięcia tego celu jest zastosowanie tzw. retrieval-augmented generation (RAG). Metoda ta wykorzystuje bazę danych wektorowych, która służy do wyszukiwania informacji powiązanej z pytaniem użytkownika. Następnie te informacje są przekazywane wraz z zapytaniem do large language model (LLM), który na ich podstawie generuje odpowiedź.
Na przykład w aplikacji obsługi klienta, do LLM można dostarczać artykuły wsparcia technicznego powiązane z zapytaniem klienta. Pozwala to AI na wygenerowanie odpowiedzi opartej na specyficznych informacjach. Jednakże, jeśli artykuły te zawierają wiele możliwych przyczyn problemu, AI może mieć trudności z wygenerowaniem najbardziej precyzyjnej porady.
Co to jest GraphRAG?
Nowym, bardziej precyzyjnym podejściem jest graph retrieval-augmented generation (GraphRAG). W GraphRAG, zamiast dokumentów tekstowych, do modelu AI dostarczany jest graf wiedzy jako kontekst. Grafy wiedzy to struktury danych, które w przeciwieństwie do dokumentów tekstowych, jawnie przedstawiają zależności między różnymi obiektami.
Kontynuując wcześniejszy przykład bota obsługi klienta, graf wiedzy mógłby wyglądać następująco:
W przeciwieństwie do artykułu pomocy technicznej, z którego AI musiałby wywnioskować rozwiązanie, graf wiedzy jednoznacznie wskazuje przyczyny i rozwiązania problemu. Dzięki temu chatbot może zadawać bardziej trafne pytania i udzielać precyzyjniejszych odpowiedzi.
W badaniu LinkedIn zastosowano GraphRAG w obsłudze klienta. W ciągu pierwszych sześciu miesięcy wdrożenia, czas rozwiązywania problemów (MTTR) skrócił się o 28%.
Geneza GraphRAG
Choć GraphRAG jest stosunkowo nowym podejściem, grafy wiedzy i AI mają długą, wspólną historię. Przez ponad 50 lat grafy wiedzy były integralną częścią badań nad sztuczną inteligencją, służąc do reprezentacji wiedzy i rozumowania. W 2012 roku Google wprowadziło nowoczesny graf wiedzy, który pozwalał na lepsze zrozumienie zapytań w wyszukiwarce, przechodząc od wyszukiwania na podstawie słów kluczowych do udzielania odpowiedzi na pytania.
W 2024 roku Microsoft ukuł termin GraphRAG, łącząc AI z grafami wiedzy, aby zwiększyć dokładność, kompletność i różnorodność odpowiedzi generowanych przez AI.
Jak zacząć z GraphRAG?
Jeśli już tworzysz aplikacje oparte na generatywnej AI, prawdopodobnie znasz wzorzec retrieval-augmented generation (RAG). W GraphRAG różnica polega na tym, że zamiast dokumentów, do LLM dostarcza się graf wiedzy.
Proces ten może wyglądać następująco:
1. Użytkownik przesyła zapytanie.
2. Zapytanie jest przekształcane w wektor przez model osadzania.
3. Baza danych wektorowa wyszukuje odpowiednie punkty wejścia do grafu (węzły) na podstawie podobieństwa.
4. Wykonywane są zapytania do grafu, aby odnaleźć powiązane węzły, tworząc graf wiedzy.
5. Ten graf wiedzy i pierwotne zapytanie użytkownika są formułowane w sposób zrozumiały dla LLM.
6. Na tej podstawie LLM generuje odpowiedź, którą otrzymuje użytkownik.
Jednym z kluczowych elementów GraphRAG jest integracja bazy danych wektorowej z bazą danych grafową. Korzystanie z osobnych baz danych może zwiększyć koszty oraz złożoność zarządzania danymi i aplikacją.
Podsumowanie
Jeśli tworzysz aplikacje oparte na generatywnej AI i chcesz poprawić jakość oraz dokładność generowanych odpowiedzi, GraphRAG może być idealnym rozwiązaniem. Wstępne badania pokazują, że znacząco poprawia on wyniki biznesowe, takie jak skrócenie czasu rozwiązywania problemów. Choć wymaga opanowania nowej technologii, takich jak modelowanie danych grafowych, korzyści są warte wysiłku. GraphRAG może przynieść Twojej aplikacji wyróżniającą się przewagę oraz spełnić oczekiwania interesariuszy projektu.
W miarę jak technologia AI się rozwija, integracja wyszukiwania wektorowego i grafowego może stać się kluczowym elementem nowoczesnych aplikacji AI.
