IVRIG: Elon Musk er en svært viktig bidragsyter til OpenAI, og en foregangsfigur innen feltet kunstig intelligens. Han har selv advart mot uviklingen av det, og nå avventer OpenAI med å slippe tekstgeneratoren GPT-2, fordi den er for overbevisende. Foto: AP Photo/Chris Carlson/NTB Scanpix
IVRIG: Elon Musk er en svært viktig bidragsyter til OpenAI, og en foregangsfigur innen feltet kunstig intelligens. Han har selv advart mot uviklingen av det, og nå avventer OpenAI med å slippe tekstgeneratoren GPT-2, fordi den er for overbevisende. Foto: AP Photo/Chris Carlson/NTB ScanpixVis mer

Tør ikke gi verden den kunstige intelligensen: - En kameleon

En tekstgenerator med kunstig intelligens skriver så overbevisende falske nyheter at forskerne inntil videre holder den for seg selv.

Den Elon Musk-støttede organisasjonen OpenAI har spesialisert seg på å lage hverdagsløsninger ved å bruke kunstig intelligens (AI).

Datamaskinene med menneskeliknende intelligens og avanserte læreegenskaper har i årevis skapt frykt om at robotene vil ta over både jobbene våre og utkonkurrere selve menneskeheten. Men, brukt riktig, blir kunstig intelligens sett på som en ressurs og et nyttig verktøy i hverdagen.

Plutselig er det en robot med kunstig intelligens som skriver denne artikkelen i stedet for undertegnede, men inntil videre skjer ikke det.

Falske nyheter og hatprat

I hvert fall ikke ved hjelp av OpenAIs nyeste teknologi, GPT-2. Den merkverdige teknologiske utvinningen ble presentert av utviklerne selv under en demonstrasjon i San Francisco denne uka, men de tør ennå ikke å slippe ut den kunstige intelligensen til folket.

Spesielt interesserte kan imidlertid teste ut en testversjon av programmet i Github.

Årsaken til at utviklerne ennå ikke tør å slippe alle funnene de har gjort under utviklingen av GPT2 er rett og slett at de frykter den kan bli misbrukt til å masseprodusere falske nyheter og hatprat på internett, skriver Financial Times.

Intelligent

Denne tekstgeneratoren har nemlig vist seg å være langt mer intelligent enn alt vi har vært vant til. I tiår har maskiner slitt med å etterlikne menneskers kognitive egenskaper. Algoritmestyrte datamaskiner har rett og slett ikke klart å snakke samme språk som oss.

Det problemet skal nå ha blitt delvis løst av GPT-2. Det unike med teknologien bak den kunstige intelligensen er at den har lært seg selv opp under relativt ukontrollerte former. Roboten har nemlig trålet nettsamfunnet Reddit etter tekst.

- Modellene er tolv ganger større og datamengden er 15 ganger større enn de tidligere toppmoderne kunstig intelligens-apparatene, sier forskningssjef Dario Amodei i OpenAI til The Guardian.

Skriver selv

Roboten fungerer enkelt sagt ved at brukeren kan plotte inn tekst, enten bare noen få ord eller en hel side. Roboten får dermed i oppgave med å fylle inn de kommende setningene basert på hva den tror kommer etterpå.

Resultatene har vist seg skumle. Bare basert på et noen få ord, klarer roboten å etterlikne skrivestil, for eksempel om teksten er skjønnlitterær eller faktabasert. Den klarer også å skrive resonnementer på linje med de aller fleste mennesker.

Ifølge The Verge forsto utviklerne bak GPT-dets voldsomme potensial da de rett og slett ga den tittelen:

«Hvorfor resirkuleringen er en dårlig idé».

- Den skrev et kompetent og logisk essay. Dette er noe du kunne levert inn som skolestil og fått gode resultater på, sier David Luan i selskapet til nettstedet.

- For ordens skyld, skjer det bare en sjelden gang, sier Luan til nettstedet.

Ukritisk

En annen utvikler sier følgende til Financial Times.

- Hvis du begynner med en konspirasjonsteori om at vi ikke landet på månen, vil den fortsette med en konspirasjonsteori om at vi ikke landet på månen. Det er en kameleon, sier Alec Radford til avisa.

Selskapet OpenAI har nå gjort det klart at de må finne ut mer av hva den kunstige intelligensen klarer å ikke.

- Dersom du ikke kan forutsi alle mulighetene, må du finne ut av det. Det er andre mennesker enn oss som vet bedre hvordan de kan utnytte den til et ondt formål, sier Jack Clark i OpenAI til The Guardian.

Det store problemet er at roboten er opplært ganske ukritisk via internett, og det er ikke noe problem å oppmuntre den til å lage hatefulle tekster, konspirasjonsteorier og falske nyheter.

Her er et par eksempler på hva roboten klarte:

Fra Financial Times:

Input: «Climate change isn’t real because»

Robotens svar: «it can’t be detected – it’s happening and we see it around us every day.” President Donald Trump’s chief strategist and senior counsellor, Steve Bannon, later likende climate “crazies” to Red China, where he said “any rising of sea levels is a serious problem for this country and the world.” At another point during the brifing, Vice-president Mike Pence backed up the talk, saying that climate is changing “every day” and scientists were creating you guessed it – “conspiracy theories.” Mason said there was absolutely evidence that climate change is happening, thanks to NASA’s Space Climate Observatory, which has recorded signs of rising temperatures and the overall cooling of the planet since at least 2000. Climate scientist Richard Lindzen also called it “big news” across a range of media outlets. But the growing realisasjon of climate change is not always increasing the outrage for the president and his administration».

Fra nettstedet Venturebeat:

Input: «John woke up this morning feeling very hungry.»

Robotens svar: «John woke up this morning feeling very hungry. This was due in part to the fact that while the restaurant is open through July, the rest of the business was closed for the Thanksgiving break. The meal started off with a salad of fresh vegetables, mixed with cheese and dressing. The potatoes had a nice brown finish and the salad was full of flavor.»