Generelle tips
- Engelsk vil ofte fungere best, da det er mer materiale for modellen trene på
- Det er unødvendig å bruke for mange ord, trenger ikke høfligheter som ‘hei’ og ‘takk’ - vær heller tydelig
- Sterke, tydelige imperativer og verb fungerer ofte bedre (ikke ‘could you?’, men ‘do this’)
- Bruk positive fraser, heller enn negative (‘write ‘)
- Bruk separasjon via “”” (trippel quotes), eller XML-tags for å skille seksjoner av tekst
Råd til å få best effekt ut av LLM’er
For å få gode svar fra LLM’er, så må man spørre på riktig måte. Man må være presis og tydelig, gi nok informasjon til at det kan utføres, og vite hva slags svar man forventer. Enkelte typer prompts gir bedre svar enn andre, og dette er noe som vil endres over tid, etterhvert som LLM’er blir utviklet.
Konsepter man kan vurdere å ha med i et gitt prompt:
- Klassifisering - hva er problemet vi ønsker å adressere?
- Kontekst - hva er bakgrunnen for problemet?
- Motivasjon - hvorfor er det viktig å løse problemet?
- Konsepter - hvilke konsepter og idéer er viktig for å tilnærme problemet?
- Eksempler - finnes det noen eksempler på hvilken løsning man forventer?
- Konsekvenser - ønsker man å vite tradeoffs ved en gitt løsning?
En LLM som ChatGPT, som er trent på internett, vil nøvendigvis gi bedre svar dersom promptet spør om noe som er veldig vanlig. For eksempel, så vil det å spørre om veldig vanlige biblioteker i veldig vanlige språk (som for eksempel Java og Spring), gi veldig gode resultater, siden det finnes veldig mange guider, tutorials, og Stack Overflow-tråder (og lignende) som den er trent på.
Men dess mer obskurt og uvanlig språket eller biblioteket er, dess større er sjangsen for at man ender opp med hallusinasjoner.
En utfordring kan være størrelsen på svaret, da det er begrenset hvor mange tegn man kan få ut fra gratisversjonen av ChatGPT, for eksempel. Gjerne får man bare så-så mange svar før man må starte en ny samtale, så ChatGPT mister konteksten. Ofte kan det være greit at hver samtale er atomisk, og bare omhandler en liten bit av puslespillet. Men en del av puslespillet kan for eksempel være en samtale på et høyere nivå, om hvordan man bryter et problem ned i mindre biter, og hvordan man kan angripe det.
Forstå problemet du prøver å løse så godt som mulig. Da kan du på en tydelig måte forklare til språkmodellen hva du prøver å oppnå.
På denne måten kan du bruke flere samtaler til å løse et større problem. Med andre ord, så bryt ned problemet i mindre problemer.
Det hjelper å gi så mye kontekst som du kan.
Se på samtalen som en iterativ prosess, regn med å stille oppfølgningsspørsmål for å komme frem til et godt svar.
Alltid se over og tenk på svarene du får. Ikke stol blindt på svarene.
Prøv å eksperimenter, gjerne still det samme spørsmålet på flere måter. Ofte kan en omformulering gi et svar som er betydelig annerledes enn det opprinnelige. Språkmodeller reagerer ofte godt på å få konkrete eksempler på hvilket type svar du forventer.
Vær obs på å ikke dele sensitiv informasjon.
Husk at AI-verktøy er verktøy, og vil ikke erstatte egen tenkning. De vil hjelpe deg, men du selv må forstå og løse problemene. Målet med denne workshopen er å trene på å bruke disse verktøyene.