糖心直播

Marco Kuhlmann 盲r professor vid Link枚pings universitet och utvecklar metoder f枚r att f枚rst氓 och producera m盲nskligt spr氓k med datorer. Han 盲r del av ett projekt som koordineras av Link枚ping universitet och som precis beviljats cirka 70 miljoner kronor.

Foto Magnus Johansson 鈥� Alla blev lite slagna med h盲pnad n盲r ChatGPT och senare GPT-4 sl盲pptes. Det var v盲ldigt fascinerande att de blev s氓 bra n盲r de tr盲nades p氓 s氓 stora datavolymer. Helt pl枚tsligt kunde de l枚sa uppgifter som de inte s盲rskilt tr盲nats f枚r, s盲ger han.

Men f枚r att komma 氓t samh盲llsnyttan finns det stora problem som beh枚ver l枚sas. Man ska kunna lita p氓 modellerna, de ska l盲mna fakta och f氓r inte hitta p氓 saker. ChatGPT 盲r v盲ldigt bra p氓 att producera grammatiskt korrekt och 枚vertygande text, men modellen 盲r inte tr盲nad f枚r att skapa text som 盲r faktam盲ssigt korrekt. Korrekthet och tillf枚rlitlighet 盲r d盲rf枚r bland det viktigaste som forskarna ska l枚sa i det tre氓riga forskningsprojektet som d盲rf枚r f氓tt namnet TrustLLM. LLM st氓r f枚r Large Language Model och 盲r ben盲mningen p氓 stora spr氓kmodeller som ChatGPT.

Det g氓r att j盲mf枚ra med s枚kmotorer f枚r att f枚rtydliga problemet. Anv盲nder du en s枚kmotor beh枚ver du fortfarande vara kritisk mot de resultat du f氓r tillbaka. Med en s枚kmotor f氓r du 盲nd氓 flera alternativ och kan g氓 igenom listan med s枚kresultat och se vad som ser skumt ut, kanske n氓gon op氓litlig k盲lla och s氓 vidare. Du kan sj盲lv g枚ra ett urval, men n盲r du anv盲nder ChatGPT och de andra modellerna, f氓r du inte alls n氓gon m枚jlighet att p氓 ett lika differentierat s盲tt fatta ett eget beslut om vilken k盲lla du litar p氓.

Projektet ska komma till nytta b氓de f枚r inv氓nare och industri och utf枚rs i samarbete med organisationer fr氓n Tyskland, Island, Danmark, Norge och Nederl盲nderna. Finansieringen kommer fr氓n EU:s nyckelfinansieringsprogram f枚r forskning och innovation; Horizon Europe.

Spr氓kmodellerna ska vara 枚ppna

Ett stort problem med spr氓kmodellerna som ChatGPT och andra 盲r att de 盲gs av stora f枚retag, ofta amerikanska, vilket skapar ett problem b氓de ur ett samh盲llsperspektiv och ett vetenskapligt perspektiv.

鈥� I takt med att spr氓kmodellerna blir mer och mer kommersialiserade, har vi sett att f枚retagen publicerar f盲rre och f盲rre detaljer kring hur de tr盲nar modellerna, vilken data de anv盲nder f枚r att tr盲na dem och vilka metoder de anv盲nder. Det 盲r d盲r vi kan komma in med det h盲r projektet nu, s盲ger Marco Kuhlmann.

Han ser att forskarna nu kanske kan 氓terskapa metoder som f枚retagen eventuellt redan anv盲nder och framf枚r allt att metoderna projektet utvecklar ska publiceras f枚r att sedan bli kritiskt granskade av vetenskapssamh盲llet.

Foto: Thor Balkhed Marco Kuhlmann tror att en av anledningarna till att EU vill satsa p氓 TrustLLM-projektet 盲r f枚r att inte halka efter f枚r mycket i utvecklingen. Projektet kan mynna ut i en nyckelteknologi som Europa kanske inte har lika mycket kompetens inom i dagsl盲get j盲mf枚rt med exempelvis USA, framf枚r allt inte i offentlig sektor. Kompetensen finns fr盲mst hos stora internationella f枚retag som inte alltid 盲r s氓 transparenta. Hans f枚rhoppning 盲r att TrustLLM bidrar till att EU n氓r upp till samma niv氓, eller till och med f氓r ett f枚rsteg.

Tekniken i projektet ska bli 枚ppen och tillg盲nglig s氓 att tekniken ska komma till nytta i m氓nga l盲nder, p氓 m氓nga f枚retag och p氓 en m盲ngd olika s盲tt. N氓got som ocks氓 盲r b盲ttre ur ett ekonomiskt perspektiv, p氓pekar han. F枚r att utveckla stora spr氓kmodeller efter verkliga behov tittar projektet p氓 ett antal konkreta till盲mpningar inom medicin, media, fordon och mobilitet samt myndigheter.

鈥� Vi har partners fr氓n b氓de akademin och industrin och de kan dra 氓t samma h氓ll h盲r. Den h盲r 枚ppenheten 盲r verkligen n氓gonting som ang氓r alla. Att vi deltar med industrin i projektet tror jag ocks氓 盲r en anledning till att EU vill satsa p氓 det h盲r, s盲ger Marco Kuhlmann.

Snabbt och h氓llbart verktyg som drar minimal m盲ngd energi

Superdator. Foto: Thor Balkhed Att tr盲na spr氓kmodeller kr盲ver mycket energi. Det 盲r ocks氓 dyrt att sk枚ta driften av spr氓kmodeller. Projektet kommer utveckla modellen s氓 den blir s氓 effektiv som m枚jligt f枚r att det ska bli ett snabbt och h氓llbart verktyg som drar minimal m盲ngd energi.

鈥� Att effektivisera och f氓 ner energibehovet under tr盲ning och fortsatt utveckling efter att en modell har tr盲nats, tror jag 盲r v盲ldigt viktigt med tanke p氓 b氓de milj枚p氓verkan samt ur ett ekonomiskt perspektiv. Europeiska f枚retag har inte samma resurser som de amerikanska stora f枚retagen inom omr氓det, s盲ger Marco Kuhlmann.

Etiskt f枚rh氓llningss盲tt till tr盲ningsdata

Forskarna kommer tr盲na spr氓kmodellen p氓 den st枚rsta m盲ngden text hittills inom europeisk artificiell intelligens, AI. Ett viktigt fokus f枚r projektet 盲r att ha ett etiskt f枚rh氓llningss盲tt genom att ha koll p氓 hur personuppgifter och upphovsr盲tt skyddas i textm盲ngderna som anv盲nds.

鈥� Vi jobbar p氓 att l枚sa problem som hela forskarsamh盲llet jobbar p氓 och 盲r intresserade av att komma vidare inom, vilket g枚r projektet sp盲nnande f枚r mig. Jag kommer fr盲mst med forskningsperspektivet. Det 盲r v盲ldigt mycket grundforskning som beh枚ver g枚ras samtidigt som det finns starka ekonomiska incitament s氓 det 盲r verkligen en win-win, s盲ger Marco Kuhlmann.

Avancerat ekosystem f枚r n盲sta generations europeiska spr氓kmodell

Teknikerna som projektet kommer utveckla ska egentligen vara spr氓koberoende men i slutet av projektet kommer forskarna ha tagit fram en modell f枚r de germanska spr氓ken svenska, danska, isl盲ndska, tyska och holl盲ndska. Projektet skapas i ett sorts avancerat 枚ppet ekosystem s氓 att andra forskare sedan ska kunna ta vid, 氓teranv盲nda och utveckla vidare spr氓kmodeller f枚r andra europeiska spr氓k. Ett m氓l 盲r ocks氓 att TrustLLM-projektet och det omgivande ekosystemet ska bidra till att g枚ra interaktion mellan m盲nniska och maskin mer kontextmedveten, vilket kommer kunna anv盲ndas i en stor m盲ngd till盲mpningar.

M氓let 盲r att de utvecklade modellerna ska bli de mest kraftfulla och p氓litliga spr氓kmodellerna i Europa och att projektet ska bli ett stort genombrott inom AI. Forskarna vill p氓 s氓 s盲tt bidra till att s盲kra Europas sj盲lvst盲ndighet inom viktiga AI-tekniker och skapa ett nytt ramverk f枚r europeiskt samarbete om stora spr氓kmodeller. De vill skapa grunden f枚r ett europeiskt centrum f枚r stora spr氓kmodeller och storskalig AI f枚r att maximera den vetenskapliga, sociala och ekonomiska effekten.

Fredrik Heintz, professor i datavetenskap vid LiU menar att det 盲r avg枚rande f枚r Europa att utveckla egna stora spr氓kmodeller:

鈥� Vi m氓ste leda genom innovation, inte bara genom reglering. TrustLLM 盲r ett viktigt steg mot storskaliga investeringar i Europa f枚r att s盲kerst盲lla att vi tar en aktiv del och driver v氓ra v盲rderingar i form av nya spr氓kmodeller.

De tv氓 professorerna Marco Kuhlmann och Fredrik Heintz, p氓 avdelningen Artificiell intelligens och integrerade datorsystem vid Link枚pings universitet, 盲r med och driver TrustLLM-projektet. Foto Lena Tasse.