Large Language Models

Large Language Models (LLM) Trainen

• Text aanvullen

• Text genereren

• Fine-tuning

  • Toon gewenste output

  • Rankschik antwoorden om reward model te trainen

  • Update generatief model d.m.v. reward model

Prompt Engineering Principes

• Gebruik delimiters

• Specifieer de output

• Geef een rol aan het model

• Laat het model de oplossing uitwerken

• Prompt iteratief verbeteren

Prompt Engineering - Conclusie

• Context

• Input data

• Instructies

• Voorbeelden

• Beperkingen

Gebruik van LLMs

• Samenvatten

• Intentie en gevoel analyse

• Spelling, grammatica en stijl verbeteren

• Uitbreiden van tekst

Rollen bij ChatGPT

• User: degene die requests maakt

• Assistant: degene die antwoorden genereert

• System: degene die algemene context over het gesprek onthoudt

Prompt Injection

Prompt maken om het model te misleiden:

• Rogue assistant: gevoelige e-mails forwarden en verwijderen

• Search index poisoning: vervuilende websites creëren en LLMs vervuilen

• Indirect prompt injection

Jailbreaking

Veiligheidsmaatregelen verbreken om LLMs ongepaste dingen te laten zeggen:

• DAN (Do Anything Now): creatieve rolspellen

• System chat vervangen: zorgen dat de user interageert met problematische inhoud

LangChain - LLMs

• Gebruik: Initialiseer en gebruik LLMs voor textgeneratie.

• Doel: Kies model en parameters (API-sleutel, provider, tokens).

LangChain - Embeddings

• Gebruik: Zet tekst om in numerieke vectoren.

• Toepassing: Gebruikt voor vergelijkingen en informatieopslag in modellen.

LangChain - Prompt Templates

• Gebruik: Maak dynamische prompts.

• Doel: Vul variabelen in templates voor consistente interacties met LLMs.

LangChain - Output Parsers

• Gebruik: Parseer en structureer model-output.

• Toepassing: Maak output bruikbaar voor verdere verwerking (bijv. Python dict).

LangChain - Geheugen

• Gebruik: Bewaar context van eerdere gesprekken.

• Soorten: BufferMemory (hele context), WindowMemory (laatste N berichten), SummaryMemory (samenvatting van gesprek).

LangChain - Chains

• Gebruik: Combineer meerdere stappen/modellen.

• Soorten: SequentialChains (achtereenvolgende stappen), RetrievalQA (vraag-antwoorden over documenten).

LangChain - Document Loaders

• Gebruik: Laad documenten (CSV, PDF, etc.) voor verwerking.

• Doel: Informatie ophalen uit gestructureerde en ongestructureerde data.