Når vi taler om at få det maksimale ud af kunstig intelligens, har fokus længe været på prompt engineering – kunsten at skrive den perfekte instruktion. Men ifølge Jeff Dean, Chief Scientist hos Google DeepMind og en af hovedarkitekterne bag moderne AI, er vi på vej mod et paradigmeskifte. Fremtiden handler i højere grad om “context engineering”.
Begrebet dækker over, hvordan vi strukturerer og leverer de enorme mængder data, som en sprogmodel skal navigere i for at give præcise svar. For virksomheder og specialister inden for markedsføring betyder det, at evnen til at kuratere relevant information bliver vigtigere end selve formuleringen af spørgsmålet.
Fra simple prompts til avanceret kontekst-engineering
Jeff Dean påpeger, at de nuværende sprogmodeller (LLM’er) bliver stadig bedre til at håndtere store mængder data på én gang. Tidligere var vi begrænset af korte “kontekstvinduer”, hvilket betød, at AI’en hurtigt glemte starten af en samtale eller ikke kunne overskue et helt dokument. Med teknologier som Gemini 1.5 Pro er vi nu i stand til at indføre millioner af tokens – svarende til tusindvis af sider eller mange timers video – direkte i modellens hukommelse.
Kontekst-engineering handler om at udnytte dette vindue strategisk. Ved at fodre modellen med specifikke datasæt, interne retningslinjer og historiske cases, kan man eliminere mange af de generiske svar, som AI ofte kritiseres for. Det handler ikke længere om blot at bede om en tekst, men om at designe det informationsmiljø, som teksten skal springe ud af.
RAG-teknologi vs. store kontekstvinduer
Et centralt emne i Jeff Deans optræden var debatten mellem Retrieval-Augmented Generation (RAG) og store kontekstvinduer.
RAG fungerer som et opslagsværk: AI’en søger i en database efter relevante informationer og henter dem kun ind, når der er brug for dem. Det er effektivt og omkostningsbesparende. Omvendt tillader de nye store kontekstvinduer, at man lægger hele databasen direkte ind i modellens “arbejdshukommelse”.
Ifølge Dean er fordelen ved de store vinduer, at modellen kan se sammenhænge på tværs af hele materialet, som en søgefunktion (RAG) måske overser. For markedsføringsfolk betyder det, at man kan uploade samtlige kampagneanalyser fra de sidste fem år og bede AI’en om at finde den røde tråd, fremfor blot at søge efter specifikke søgeord.
Multimodale muligheder og fremtidens AI-strategi
En af de mest spændende udviklinger inden for kunstig intelligens i markedsføring er multimodalitet. Jeff Dean fremhæver, at kontekst ikke kun er tekst. Det er også video, lyd og billeder. Ved at bruge context engineering kan virksomheder lade AI’en analysere timevis af videomateriale for at identificere visuelle tendenser eller transskribere og analysere kundemøder med ekstrem høj præcision.
For at få succes med denne tilgang bør virksomheder fokusere på tre ting:
- Datakvalitet: Sørg for at den information, I fodrer modellen med, er opdateret og struktureret.
- Hybridløsninger: Brug RAG til hurtige opslag i store arkiver og store kontekstvinduer til dybdegående analyse af komplekse problemstillinger.
- Multimodal integration: Tænk i billeder og video som en del af jeres data-input, ikke kun tekst.
Det handler i sidste ende om at gøre AI’en til en ekspert i netop jeres forretning ved at give den de rette briller at se verden igennem.
Hvordan adskiller context engineering sig fra prompt engineering?
Hvor prompt engineering fokuserer på selve instruktionen til AI’en, handler context engineering om at optimere den datamængde og de rammer, modellen arbejder indenfor. Det er forskellen på at stille et godt spørgsmål og at give AI’en adgang til det rigtige bibliotek, før den svarer.
Hvad er fordelen ved RAG-teknologi til erhvervslivet?
RAG (Retrieval-Augmented Generation) er særligt effektivt til at sikre, at AI-modeller baserer deres svar på specifikke, faktuelle data fra virksomhedens egne kilder. Det minimerer risikoen for “hallucinationer” og sikrer, at indholdet altid er relevant og korrekt.
Hvorfor er store kontekstvinduer vigtige for fremtidens AI-prompts?
Store kontekstvinduer gør det muligt for sprogmodeller at analysere massive mængder information (som hele bøger eller lange videoer) på én gang. Det giver en dybere forståelse for komplekse sammenhænge, som ellers ville gå tabt, hvis informationen blev delt op i mindre stykker.
Kan man bruge video som kontekst i moderne AI-modeller?
Ja, med multimodale modeller som Gemini 1.5 Pro kan man indsætte video direkte som en del af konteksten. AI’en kan herefter analysere både det visuelle indhold og lyden for at besvare spørgsmål eller generere nyt indhold baseret på videoen.