Jeg er dykket ned i den fascinerende verden af kunstig intelligens (AI) og dens mange anvendelser. For professionelle som arkitekter, bygningskonstruktører og ingeniører kan AI tilbyde nye muligheder for innovation og effektivitet i projekter. Her er et lille overblik over hvad jeg har fundet ud af indtil videre, og hvordan det kan anvendes i det daglige arbejde.

Hvad er AI, og hvordan fungerer det?

Alle har nok brugt eller hvert fald hørt om AI, eller kunstig intelligens, og det er kort fortalt en teknologi, der gør det muligt for computere at udføre opgaver, som normalt kræver menneskelig intelligens. Dette inkluderer alt fra at genkende tale og forstå tekst til at spille spil og meget mere. Jeg har givet mig lidt kast med at forstå hvad der sker bagved liggende når vi chatter med en AI, og her bliver det meget teknisk og nørdet. Det fungerer ved at AI’en bruger nogle algoritmer og modeller til at analysere en given datamængde, finde mønstre og træffe beslutninger baseret på disse mønstre.

Når der snakkes om hvor udviklet eller “god” en AI er, har det noget at gøre med størrelsen af data AI’en er trænet i, her den mest populære reference generationerne af OpenAI’s ChatGPT.

Men hvad hvis en AI ikke er trænet i data eller så at sige, en “information”, man søger?

Som jeg har forstået det kan man her møde tre scenarier:

1. Generering af et usikkert svar

AI’en kan forsøge at generere et svar baseret på dens eksisterende viden og mønstre, selvom det måske ikke er helt præcist eller relevant. Dette kan resultere i:

• Vage eller generelle svar: AI’en kan give et bredt eller ikke-specifikt svar, der ikke direkte adresserer spørgsmålet.
• Fejlagtige oplysninger: AI’en kan komme med et svar, der er forkert eller misvisende, hvilket kan være problematisk.

2. Den indrømmer at den mangler viden

Nogle avancerede AI-modeller er designet til at indrømme, når de ikke har tilstrækkelig information til at besvare et spørgsmål korrekt. Dette kan ske på følgende måder:

• Direkte indrømmelse (min erfaring at være det mest hyppige): AI’en kan sige noget i retning af “Jeg ved desværre ikke svaret på det spørgsmål” eller “Jeg har ikke nok information til at besvare det”.
• Omdirigering: AI’en kan foreslå alternative kilder eller metoder til at finde svaret, såsom at søge på internettet eller konsultere en ekspert.

3. Hallucinationer

AI-hallucinationer er, når en AI kommer med svar eller informationer, der ikke er korrekte eller giver mening. Det er lidt som når en person dagdrømmer og begynder at finde på ting, der ikke er virkelige. AI-modeller er trænet på store mængder data og lærer at genkende mønstre og sammenhænge. Nogle gange, når de bliver spurgt om noget, de ikke har nok information om, kan de begynde at “gætte” og skabe svar, der ikke er baseret på virkeligheden.

Lille eksempel:

Her kommer den med et svar som er lidt en blanding af scenarie 1 & 2.

Men hvordan kan vi arbejde med AI, hvis vi ønsker svar eller hjælp til opgaver som AI’en ikke er trænet i, så vi undgår disse tre scenarier?

Fodring af AI: Metoder og Overvejelser

Som jeg nævnte før er en AI trænet i store mængder af data sæt som den har analyseret med algoritmer og diverse modeller. Lad os kalde dette for AI’ens interne data. Hvis den interne data ikke er tilstrækkelig, kan vi “fodre” den med ekstern data, forsimplet er der tre muligheder:

1. Upload af dokumenter direkte i chatten: En simpel metode, hvor dokumenter uploades direkte til AI’en for analyse.
2. Embedding af dokumenter i en agent: En mere avanceret metode, hvor dokumenter konverteres til numeriske repræsentationer, som AI’en kan bruge til at forbedre sine svar.
3. Træning af en AI-model: En omfattende proces, hvor AI’en trænes med store mængder data for at lære og forbedre sine præstationer.

Hver metode har sine fordele og ulemper, afhængigt af behov og ressourcer.

Retrieval-Augmented Generation (RAG)

“Embedding” også mere kendt som Retrieval-Augmented Generation (RAG). RAG kombinerer informationssøgning i eksterne data med tekstgenerering for at forbedre nøjagtigheden og relevansen af AI’ens svar. Dette kan være særligt nyttigt for arkitekter, bygningskonstruktører og ingeniører, der ofte har brug for at hente og anvende specifik information fra store datasæt og dokumenter (her har jeg tit tænkt på alment teknisk fælleseje).

Hvordan fungerer RAG?

RAG består af to hoved faser: retrieval (søgning) og generation (generering).

1. Retrieval (Søgning):
   • Når en bruger stiller et spørgsmål, søger RAG-systemet efter relevante oplysninger i en ekstern vidensbase. Dette kan være databaser, dokumenter, API’er eller andre informationskilder.
2. Generation (Generering):
   • De relevante oplysninger fra retrieval-fasen kombineres med brugerens forespørgsel og sendes til en stor sprogmodel (LLM) som GPT-4.
   • Sprogmodellen bruger både de eksterne oplysninger og sin interne viden til at generere et præcist og relevant svar.

Implementering af RAG med AI: OpenAI og Lokale Løsninger

Jeg har udforsket to forskellige tilgange til at oprette AI-agenter med RAG:

OpenAI: En Cloud-baseret Løsning (Kræver betallingsabonnement)

Med OpenAI kan du hurtigt komme i gang med at oprette AI-agenter. Processen indebærer at oprette en konto, og købe OpenAI’s ChatGPT Plus abonnement som giver adgang til “Opret og brug brugerdefinerede GPT’er”. Fordelen ved denne metode er, at du ikke behøver at bekymre dig om hardwarekrav, da alt kører i skyen. Ulempen kan være omkostningerne.

LM Studio og AnythingLLM: En Lokal Løsning ()

For dem, der foretrækker at have fuld kontrol over deres data og AI-processer, er LM Studio og AnythingLLM en fremragende løsning. Du kan downloade og installere softwaren på din egen computer og køre AI-modeller lokalt. Dette kræver en computer med en smule muskler, men giver dig fleksibilitet og kontrol. Processen indebærer at downloade modeller, “fodre” dokumenter og teste AI-agenten manuelt. Fordelen er, at du undgår løbende omkostninger til cloud-tjenester, men det kræver mere teknisk viden og ressourcer. En ulempe jeg oplever er forskellen i kvaliteten af de tilgængelige modeller i LM Studio. Lige nu har jeg mest succes med Meta-Llama-3.1-8B.

Jeg har selv afprøvet LM Studio sammen med AnythingLLM for at vise forskellen i at bruge en AI med og uden ekstern data og RAG (Af ekstern data har jeg “fodret” AI’en med min hjemmeside):

Uden ekstern data:

Med ekstern data:

Praktiske Anvendelser for Arkitekter og Ingeniører

AI kan revolutionere måden, hvorpå arkitekter og ingeniører arbejder. Her er nogle eksempler på, hvordan AI kan anvendes i jeres felt:

• Navigering og søgning i virksomhedens egne dokumenter og paradigmer: AI kan hjælpe med at finde relevante dokumenter og information hurtigt, hvilket sparer tid og øger produktiviteten.
• Projektstyring: AI kan finde lignende tidligere projekter baseret på en beskrivelse af byggesagen. Derefter kan den analysere disse projekters tendenser til variation i pris og tid samt omfanget af udarbejdet projektmateriale.
• Udvikling af automatiseringsværktøjer: AI kan hjælpe med at udvikle automatiseringsværktøjer i Excel eller kodning af makroer til Revit, Dynamo eller Pyrevit, hvilket kan forbedre effektiviteten og nøjagtigheden i design- og byggeprocesser.

Afrunding

Uanset om du vælger en cloud-baseret løsning som OpenAI eller en lokal løsning som LM Studio og AnythingLLM, er mulighederne for innovation og effektivitet uendelige. Ved at forstå og implementere AI kan arkitekter, bygningskonstruktører og ingeniører drage gavn af AI i fremtiden, RAG kan specielt være en hurtig og nem overgang til AI for SMV’er som ikke har mulighed for selv at træne AI’s (Umildbart vil det kun være meget store virksomheder, dette vil være muligt for, i den kommende fremtid). En ting er dog klart for mig, AI-verdenen er ikke simpel og uden retningslinjer for brug af AI i de enkelte virksomheder skal man passe på, OG ALDRIG BLINDT BASERE SINE BESLUTNINGER PÅ SVAR FRA EN AI, de kan hallucinere og give ukorrekte svar, vær altid kildekritisk.