IDSV Generative AI

Hur genererar en språkmodell text?

Den beräknar en sannolikhetsfördelning över möjliga nästa tokens, väljer en token, lägger till den i texten och upprepar processen en token i taget.

Vad är en token?

En textbit som modellen arbetar med. En token kan vara ett helt ord eller en del av ett ord.

Varför kan språkmodeller ha svårt att räkna bokstäver i ord, till exempel antalet r i "strawberry"?

Modellen arbetar med tokens snarare än enskilda tecken, så ordets exakta stavning är inte direkt representerad i det modellen bearbetar.

Vad är en embedding?

En numerisk representation av en token, alltså en lång lista av tal.

Vad innebär det att liknande ord ligger nära varandra i embedding space?

Ord som används på liknande sätt tenderar att få numeriska representationer som ligger nära varandra.

Vad gör attention?

Attention låter varje token ta hänsyn till andra tokens och anpassa sin representation efter sammanhanget.

Förklara attention med meningen "we need to take action".

"Action" kan ha olika betydelser. Attention gör att "action" tar hänsyn till bland annat "need" och "take", vilket visar att det betyder att göra något och inte en filmgenre.

Vad är en transformer?

En modellarkitektur där attention-lager staplas på varandra. Varje lager uppdaterar tokenrepresentationerna och till slut får möjliga nästa tokens olika scores.

Vad är multi-head attention?

Flera attention-operationer som arbetar parallellt och kan fokusera på olika relationer mellan tokens.

Hur tränas en språkmodell med self-supervised learning?

Modellen försöker förutsäga nästa token i befintlig text. Förutsägelsen jämförs med den verkliga nästa tokenen och modellens weights justeras.

Varför kallas träningen self-supervised?

Texten fungerar både som input och facit eftersom den verkliga nästa tokenen redan finns i texten. Ingen behöver därför manuellt märka varje exempel.

Vad är modellens weights?

De justerbara numeriska parametrar som modellen lär sig under träningen.

Vad gör softmax?

Softmax omvandlar modellens scores för möjliga nästa tokens till sannolikheter som tillsammans summerar till 1.

Vad gör temperature?

Temperature påverkar hur skarp sannolikhetsfördelningen är när nästa token väljs.

Vad innebär låg temperature?

Fördelningen blir skarpare och modellen tenderar att välja de mest sannolika tokens. Det passar exempelvis programkod där mindre variation ofta är önskvärd.

Vad innebär hög temperature?

Fördelningen blir plattare och mindre sannolika alternativ får större chans, vilket ger mer variation.

Vad är skillnaden mellan open weights och closed weights?

Open weights kan laddas ner och modellen kan köras lokalt, medan closed weights normalt bara används genom leverantörens tjänst.

Vad avgör vad man får göra med en modell med open weights?

Modellens licens.

Vad är en språkmodells context window?

Den text modellen kan ta hänsyn till när den svarar, till exempel prompten, konversationen och bifogade dokument.

Vad står RAG för?

Retrieval-Augmented Generation.

Vad är RAG?

Relevant information hämtas från externa källor och läggs i modellens context innan den genererar sitt svar.

Förändrar RAG själva språkmodellen?

Nej. Informationen läggs i context window utan att modellens weights förändras.

Ge exempel på information som RAG kan hämta.

Information från dokument, webben, databaser eller andra externa informationskällor.

Vad är skillnaden mellan zero-shot och few-shot?

Zero-shot innebär att modellen får instruktionen utan exempel. Few-shot innebär att den också får några exempel i prompten.

Varför fungerar few-shot bättre än zero-shot för helt nya, påhittade kategorier?

Exemplen visar modellen vilket mönster de nya kategorierna följer, medan kategorinamnen ensamma inte finns beskrivna i träningsdatan.

Vad är fine-tuning?

Att fortsätta träna modellen på egen eller särskild data så att modellens weights förändras.

Vad är LoRA?

En metod där grundmodellen fryses och en mindre mängd extra parametrar tränas.

Vad är den viktigaste skillnaden mellan RAG och fine-tuning?

RAG tillför information till modellens aktuella context utan att ändra modellen, medan fine-tuning förändrar modellens weights genom ytterligare träning.

Vad är model routing?

Att olika requests skickas till olika modeller beroende på exempelvis uppgift, kostnad, hastighet och datahantering.

Vad står MCP för?

Model Context Protocol.

Vad är grundidén med MCP?

Att ge ett definierat interface som gör att AI-system kan använda externa system, data och funktioner.

Varför ska man vara försiktig med benchmark-resultat för AI-modeller?

Ett högt benchmark-resultat betyder inte automatiskt att modellen är bäst på den uppgift man själv ska utföra.

Vad är benchmark contamination?

När benchmark-frågor hamnar i modellens träningsdata, vilket kan göra resultatet mindre representativt för verklig generalisering.

Vad rekommenderar föreläsningen när man vill jämföra modeller för sin egen uppgift?

Testa modellerna på egna representativa exempel med svar man litar på.

Vad är deduction?

Att använda en redan känd regel för att dra en slutsats.

Vad är induction?

Att försöka hitta en generell regel utifrån flera exempel.

Vad är abduction?

Att föreslå en möjlig förklaring till en observation.

Hur börjar en diffusion model generera en bild?

Den börjar med random noise och tar sedan gradvis bort noise tills en bild framträder.

Hur tränas en diffusion model att ta bort noise?

En känd mängd noise läggs till riktiga bilder och modellen tränas att identifiera och ta bort det.

Vad är latent space i diffusion models?

Ett komprimerat representationsrum där modellen kan arbeta med en förenklad representation av bilden i stället för varje enskild pixel.

Vad är grundidén bakom en VAE?

Att komprimera en bild till en latent representation och sedan rekonstruera den.

Vad är grundidén bakom en GAN?

En generator skapar kandidater medan en discriminator försöker avgöra om de är genererade.

Vad är grundidén bakom en diffusion model?

Att lära sig att gradvis ta bort noise.

Vad är ett spectrogram?

En bildrepresentation av ljud där tid, frekvens och ljudstyrka representeras visuellt.

Hur kan generativa modeller generera ljud med hjälp av spectrogram?

Ljud representeras som ett spectrogram som modellen kan generera, och resultatet kan sedan omvandlas tillbaka till ljud.

Vilka fem etiska områden tar föreläsningen upp?

Ownership, consent, correctness, privacy och environment.

Vad innebär ownership som AI-fråga?

Frågor om vad modellen tränats på, vem som har rättigheter till materialet och vilken status modellens output har.

Vad innebär consent som AI-fråga?

Frågor om exempelvis deepfakes och om material används för träning utan skaparens samtycke.

Vad innebär correctness som AI-fråga?

Problem som hallucinationer, bias i träningsdata och begränsningar i vad modellen producerar.

Vad innebär privacy som AI-fråga?

Frågor om vem som får tillgång till användarens data, hur länge den sparas och om den används för träning.

Vad innebär environment som AI-fråga?

AI-systemens användning av elektricitet och deras CO2-påverkan på datacenternivå.

Hur kan bias i träningsdatan påverka en språkmodell?

Modellen lär sig mönster från sin träningsdata, så bias i datan kan föras vidare till det modellen genererar.