Implementovali jste někdy AI RAG systém v živé praxi? Pro jaký účel?

Potřebuji poradit
1

Ahoj, mám tu takové moje dlouhodobé téma: RAG (retrieval-augmented generation). Od začátku AI tématu je jasné, že mít možnost “ohnout” jazykový model pro svoje účely bude mít pro firmy přínos.

Trénování vlastního modelu většinou není to, co firmy potřebují, ale možnost využít všeobecnou inteligenci jazykových modelů nad vlastními daty zní jako něco – což je přesně RAG – to zní hrozně logicky.

image
image1456×816 101 KB

Proto jsem dělal už několik prototypů řešení RAGu v n8n. S nově příchozími o1 modely, které se umějí lépe zamyslet, nad tím, co je opravdové zadání, dokáží zhodnotit různé postupy a vyplodit poměrně smysluplné úvahy bych jeden ze svých prototypů uvedlo rád do praxe.

Měl jsem pocit, že přesně vím, co by mi to přineslo. Pak jsem se pustil jsem se do hlubší úvahy a zjistil jsem, že by to s největší pravděpodobností:

  1. bylo supercool,
  2. spousta práce a
  3. minimální užitek.

Jako mohl bych se s tím pochlubit na LinkedIn a taky to nabízet dál, to je jasné. Jen jsem se zasekl, že mi to u mého byznysu nedává takový smysl. Nakonec to stejně udělám :slight_smile: Ale přišlo mi fajn se zeptat.

Implementovali jste RAG do praxe? O jaký šlo případy využití? Co třeba @altre @motvicka @lukas.mostek @Alenka @VendySipkova?

2

Ahojky, my zatím jedeme s naší Aimee bez RAGu, protože to množství dat, se kterými má pracovat a dělat z nich odpovědi není tak velké. Až toho později budou kvanta, tak switchneme na RAG:)

Dává mi to smysl, když bys třeba dělal chatbota na zákaznické podpoře, který se má řídit přesně dle knowledge-base, která je široká. Stovky dokumentů, stránek. :slight_smile:

Co je tvůj use-case?

3

Chci být lepší konzultant a partner svých klientů :slight_smile:

Mám v zásadě tři zdroje, se kterými bych chtěl pracovat:

  1. Evoluce a nějaké principy týkající se řízení firmy. Moje články, dokumenty, návody apod.
  2. Konzultantské best practices a “ponaučení”.
  3. Informace týkající se přímo zakázky.

Očekávám, že budu lépe připravený na schůzky, budu mít po ruce relevantní podklady a budu rychlejší a lepší při zpracovávání shrnutí z konzultací.

Jsem docela poctivej v dokumentaci, rád bych to zhodnotil. Hodně by mi pomohlo, kdyby LLM se mnou ve všem tolik nesouhlasily (i když je trápím, ať jdou proti mě :slight_smile:.