Hurtige fremskridt inden for kunstig intelligens har gjort det vanskeligere at se forskel på profiler lavet af mennesker og robotter. Derfor besluttede forskere fra CBS sig for at udføre en undersøgelse med 375 respondenter. De ville undersøge, hvor svært det er at se forskel på ægte og falske profiler på sociale medier.
De fandt, at deltagerne var ude af stand til at se forskel på de ægte og de kunstigt genererede profiler på Twitter, og faktisk opfattede mange de falske profiler som værende ’mindre sandsynligt falske’ end de ægte profiler.
”Vores resultater antyder, at den teknologi, der anvendes til at generere falske profiler har udviklet sig i en sådan grad, at det er svært at skelne dem fra de ægte profiler,” siger Sippo Rossi, ph.d.-studerende fra grundforskningscentret Centre for Business Data Analytics ved Institut for Digitalisering på CBS.
Forskerne skabte deres egne falske Twittertråde, hvor emnet var krigen i Ukraine. Tråden omfattede både ægte og genererede profiler samt tweets, der støttede begge sider. De falske profiler brugte computergenererede syntetiske profilbilleder, skabt med hjælp fra StyleGAN, og opslag, som blev genereret af GPT-3; den samme sprogmodel, som står bag ChatGPT.
”Interessant nok var de konti, der blev stillet flest spørgsmål ved i forhold til akkuratesse og sandsynlighed, dem med virkelig mennesker bag. En af de ægte profiler blev fejlagtigt kategoriset som falsk af 41,5% af de deltagere, som så den. Imidlertid blev en af de falske profiler, der klarede sig bedst, kun kategoriseret som bot af 10%,” siger Sippo Rossi.
Forskningsresultaterne blev udgivet i The Hawaii International Conference on System Sciences (HICSS).
