Jeg har en lidt speciel fetich. Jeg kan godt lide idiomer, eller hvis vi skal kalde en spade for en spade, så hedder det ”talemåder” på dansk.
Og først i går indså jeg, at talemåder er det hotteste, hotteste indenfor kunstig intelligens. Jeg kan ikke få armene ned. Jeg har en fest. De to ting, som jeg har brugt mest tid på at lære de sidste 30 år, nemlig sprog og softwareproduktudvikling, konvergerer i øjeblikket i de store sprogmodeller (LLMs). På sin vis er de store sprogmodeller som ChatGPT og Claude gode til talemåder, idet omfang de er blevet trænet i dem, men i går fandt jeg deres akilleshæl!
Først en lille detour: I 1995 tog jeg ”Japansk for meget øvede” (上級日本語) på Sophia Universitet i Tokyo. Jeg ville have krammet på de 2.136 kanjitegn, som alle Japanske gymnasieelever skal kunne. Hvor svært kan det være. Professor Junko Suzuki havde identificeret, at sprog og kultur defineres gennem de talemåder, som vi bruger hver eneste dag. Talemåder er genveje gennem kultur til at ramme andres hjerter. De er kernen i meget humor. De beskriver stemninger og følelser, som er specifikke til den kultur, som de er en del af. På Japansk opstilles talemåderne oftest som fire sammensatte kanjitegn. Det er en af de sværest kurser, jeg nogensinde har taget, men jeg fik en god forståelse for talemåders funktion i sproget. Det blev starten på min fetich.
Da jeg for et par måneder siden skulle til at skrive produktledelse.dk besluttede jeg mig for at skrive på dansk. Jeg har aldrig skrevet på dansk. Alle anbefaler faktisk at skrive om softwareudvikling og startups på engelsk. ”Du kommer længere ud med dit budskab” er mantraet. Men ideer udtrykkes gennem sprog, og jeg er nysgerrig på, hvad softwareudvikling er i en dansk kontekst. Min hypotese er at det gøres bedst på dansk, og det gav mig også en mulighed for at komme tættere på de danske talemåder.
Om jeg er kommet bedre rundt om emnet end tilsvarende engelske tekster, må andre vurdere, men i går blev jeg nysgerrig på, hvor mange talemåder jeg faktisk har brugt, og hvorvidt de store sprogmodeller er gode til at identificere dem.
Det er de ikke. Som i overhovedet ikke. Det bedste resultat kom fra Claude, men det var ikke godt. ChatGPT skød helt forbi. Se samtalerne her og her.
Og årsagen er ret oplagt. De store sprogmodeller er gode til at genere tekst. På baggrund af mange, mange tekster, er de trænet til at identificere hvad det næste ord eller stavelse (også kaldet token på LLM-sprog) er i en sætning. De er faktisk også rimeligt godt trænet til at bruge talemåder. Se her og her.
De store sprogmodeller har til gengæld ingen chance, når det kommer til tekstanalyse. De forstår ikke sprog på samme måde som os. De har ikke en abstrakt kategori, som hedder ”talemåder”. De har ikke en tilgængelig database over alle talemåder.
Mit spørgsmål om hvor mange talemåder, der på produktledelse.dk, skal besvares med en klassisk software funktion. På https://sprogteknologi.dk/ kan man finde en database over 1.000 danske talemåder og i næste skridt ville jeg gennem funktionen kunne bruge sprogmodellerne til at skabe alle grammatiske variationer, finde dem, og tælle dem.
Hvis man kigger ind i mange AI-startups, så er det faktisk kombinationen af sprogmodellernes evne til at genere tekst, som kombineres med klassisk databehandling og beregning.
Ingen kender dagen, før solen går ned, men jeg er forsat ikke bekymret for at sprogmodellerne skal stjæle mit job. Jeg håber, at I vil læse produktledelse.dk og give mig feedback på både indhold og form, om man så må sige. 😊
