OpenSearch jako baza wiedzy dla AI: wyszukiwanie wektorowe, RAG i agenci

Po co RAG i gdzie w nim OpenSearch

• Skąd biorą się błędne odpowiedzi modeli i co naprawia RAG
• Architektura rozwiązania: źródła → indeks → wyszukiwanie → model → odpowiedź
• Rola OpenSearch: wyszukiwanie, filtrowanie, uprawnienia, skala
• Kiedy RAG, kiedy dostrojenie modelu, a kiedy zwykła wyszukiwarka
• Typowe błędy w prototypach RAG i ich konsekwencje

Podstawy wyszukiwania wektorowego

• Wyszukiwanie według znaczenia a wyszukiwanie słów
• Czym są embeddingi i jak porównuje się podobieństwo
• Wyszukiwanie najbliższych sąsiadów (k-NN): dokładne i przybliżone
• Jak działa HNSW i co oznaczają jego parametry
• Kompromisy: jakość wyników, szybkość, zużycie pamięci

Przygotowanie bazy wiedzy

• Źródła: dokumenty, strony, zgłoszenia, dokumentacja techniczna
• Wyciąganie tekstu i czyszczenie treści
• Dzielenie dokumentów na fragmenty - strategie i wpływ na wyniki
• Metadane fragmentu: źródło, sekcja, data, właściciel, poziom dostępu
• Deduplikacja i wersje dokumentów
• Aktualizacja bazy wiedzy bez przebudowy całości

Modele i integracja

• Dobór modelu tworzącego embeddingi (język, długość kontekstu, koszt)
• Integracja modeli przez ML Commons i konektory
• Modele działające we własnej infrastrukturze
• Tworzenie embeddingów przy zapisie dokumentu (ingest pipeline)
• Limity, koszty i ponawianie przy masowym indeksowaniu
• Zmiana modelu embeddingów - co wtedy z istniejącym indeksem

Indeks wektorowy w OpenSearch

• Mapowanie pola wektorowego i wybór silnika
• Parametry indeksu a jakość i pamięć
• Łączenie wektorów z polami zwykłymi w jednym dokumencie
• Filtrowanie wyników wektorowych (data, kategoria, uprawnienia)
• Aktualizacja i usuwanie dokumentów wraz z embeddingami
• Wielkość indeksu, shardy i wymagania sprzętowe

Wyszukiwanie hybrydowe i trafność

• Kiedy lepsze jest wyszukiwanie tekstowe, a kiedy wektorowe
• Wyszukiwanie hybrydowe i normalizacja ocen z różnych metod
• Reranking, czyli ponowne porządkowanie wyników
• Ile fragmentów zwracać i jak je łączyć w kontekst
• Porównywanie jakości wyników na przykładowych pytaniach

Budowa potoku RAG

• Od pytania użytkownika do zapytania do OpenSearch
• Wyszukiwanie fragmentów potrzebnych do udzielenia odpowiedzi
• Przekazywanie znalezionych informacji do modelu językowego
• Wskazywanie źródeł wykorzystanych w odpowiedzi
• Uwzględnianie uprawnień użytkownika podczas pobierania dokumentów
• Co zrobić, gdy w bazie nie ma odpowiedzi
• Buforowanie, opóźnienia i koszty zapytań

Ocena jakości i utrzymanie

• Zestaw pytań kontrolnych jako podstawa pracy nad jakością
• Miary jakości wyszukiwania i ocena poprawności odpowiedzi
• Wykrywanie regresji po zmianie modelu, chunkingu lub zapytania
• Obserwowanie systemu na produkcji: pytania bez odpowiedzi, opinie użytkowników
• Bezpieczeństwo danych i treści wrażliwych w bazie wiedzy

Agenci AI i wykorzystanie MCP

• Agent AI a prosty mechanizm pytań i odpowiedzi
• Jak agent korzysta z narzędzi do wyszukiwania i analizy danych
• Do czego służy protokół MCP
• Udostępnienie wyszukiwania w OpenSearch jako narzędzia dla agenta
• Podłączanie dodatkowych narzędzi i źródeł informacji
• Ograniczanie uprawnień i zakresu działań agenta
• Przykład asystenta wspierającego analizę zdarzeń

Scenariusze zaawansowane i GraphRAG

• Wyszukiwanie podobnych incydentów i sposobów ich rozwiązania
• Łączenie danych analitycznych z dokumentacją i bazą wiedzy
• Czym jest GraphRAG i kiedy relacje między informacjami pomagają
• Co jest potrzebne do zbudowania GraphRAG
• Omówienie architektur dopasowanych do danych i potrzeb zespołu

Warsztat: asystent na własnych dokumentach

• Od zbioru dokumentów do działającego wyszukiwania hybrydowego
• Odpowiedź z cytowaniem źródeł
• Pomiar jakości i lista kolejnych kroków

Podsumowanie i zakończenie

• Powtórka najważniejszych zagadnień
• Pytania i odpowiedzi
• Materiały i dalsza ścieżka nauki