Husk den sunde fornuft
På Aalborg Universitet maner en ekspert til besindighed og grundighed, når det kommer til udviklingen af chatbots.
“Sprogmodellerne kan betragtes som en nyansat studentermedhjælper. Vedkommende er meget flittig, men der går noget tid, før vedkommende er der, hvor man har tillid til, at vedkommende kan kommunikere på vegne af virksomheden. Det er en rent ikke-teknisk overvejelse, man bør gøre sig,” siger Roman Jurowetzki, der er lektor på Aalborg Universitet og projektleder i det nationale projekt ‘AI Denmark’.
Rent teknisk er der andre overvejelser:
“Hvis man bygger en chatbot, vil man nok bruge RAG-teknologi (Retrieval Augmented Generation, red.). Viden, der fører til et svar, ligger nødvendigvis ikke i sprogmodellen, men i en database, som man tilføjer modellen,” siger Roman Jurowetzki.
Han understreger, at der skal bruges substantiel tid på at samle og rense data.
“Og man skal være sikker på, at der ikke er modsigende oplysninger, som kan føre til modsigende svar på det samme spørgsmål og så videre,” siger Roman Jurowetzki, som opfordrer til, at man entrerer med en dygtig udvikler, der samler det hele for en, inden man afprøver og tester.
“Risikoen er, at der er nogen derude, som provokerer chatbotten, så den giver forkerte svar. Det kan være, at der er nogle, der synes, at det er sjovt at få en chatbot til at svare noget, der slet ikke passer. Derfor skal systemet bygges på en måde, så det ikke sker,” siger Roman Jurowetzki.