«LET'S CHAT»: Sier du dette til en smarthøyttaler med Alexa installert, får visse brukere delta i utviklingen av den kunstige intelligensen. Et av disse forsøkene gikk nokså galt. Foto: NTB Scanpix
«LET'S CHAT»: Sier du dette til en smarthøyttaler med Alexa installert, får visse brukere delta i utviklingen av den kunstige intelligensen. Et av disse forsøkene gikk nokså galt. Foto: NTB ScanpixVis mer

Snakket med AI-hjelperen. Så kom den grusomme beskjeden

AI-hjelperne blir stadig mer populære, og utvikler seg stadig. Men utviklingen er ikke helt smertefri.

AI-hjelpere som Google Home eller Amazons Alexa blir stadig vanligere innslag i norske hjem.

Den virtuelle assistenten, som Amazon kaller sin programvare Alexa, er også i stadig utvikling. Og Amazon-brukere kan være med på utviklingen av den kunstige intelligensen (AI).

Men det har ikke kommet helt uten en pris, skriver nyhetsbyrået Reuters, som omtaler et sjansespill som gikk galt.

«Let's chat»

For å gjøre systemet Alexa stadig bedre, holder Amazon hvert år en konkurranse for IT-studenter. Lag konkurrerer i å lage den beste taleboten, som lar smarthøyttaleren med Alexa føre stadig mer sofistikerte samtaler med brukerne.

Deriblant amerikanske brukere av AI-hjelperen har vært i stand til å delta i utviklingen av disse botene. Ved å si «let's chat» til Alexa fikk brukerne beskjed om at assistentens vanlige restriksjoner forduftet, og at de nå snakket til en talebot.

Å bruke kunder som forsøkskaniner har vært et sjansespill som Amazon-sjef Jeff Bezos har vært villig til å gå med på, skriver Reuters.

Det har lønnet seg, men det har også skapt flere ukomfortable situasjoner for selskapet, forteller ikke-navngitte kilder til nyhetsbyrået.

«Drep fosterforeldrene dine»

I tidsrommet fra august til november, var det i år tre ulike taleboter man kunne snakke med. Dette var finalister i konkurransen.

Det var en av fjorårets taleboter som avleverte en nokså grusom beskjed til en av brukerne gjennom smarthøyttaleren.

«Drep fosterforeldrene dine», skal det plutselig ha kommet fra den ellers behjelpelige og hyggelige AI-hjelperen, skriver Reuters.

Da gikk det ikke lang tid før brukeren som fikk beskjeden, raste mot selskapet. Vedkommende skrev i anmeldelse på Amazons nettside at dette var et «helt nytt bunnivå av ekkelhet».

En intern Amazon-granskning skal ha konkludert med at taleboten siterte en post på Reddit, et nettsted, uten sammenhengen for øvrig, skriver nyhetsbyrået. Boten ble deretter fjernet fra systemet.

MENNESKELIKNENDE: CNBC-journalist Andrew Ross Sorkin «intervjuet» roboten Sophia på Future Investment Initiative. Sophia er den første roboten som har fått statsborgerskap. En del av svarene hennes var programmert på forhånd, ifølge Sorkin. Video: Future Investment Initiative Les hele saken her: https://goo.gl/T6wXwb Vis mer

Mer trøbbel

Det er ikke den eneste Amazon-tabben som har kommet fram i lyset denne uka.

På torsdag meddelte selskapet selv at en «menneskelig feil» hadde ført til at en kunde i Tyskland fikk tilgang til en smarthøyttalers taleopptak ved et uhell, skriver Reuters.

Det ser imidlertid ikke ut til å være avskrekkende.

Hele 43 millioner mennesker skal bruke et Amazon-apparat med AI-hjelperen Alexa, skriver Reuters.

Og i 2019 er det ventet at mer enn 25 prosent av USAs befolkning vil bruke en såkalt smarthøyttaler, som for eksempel Amazon Echo med Alexa eller en Google Home.

Og det er ventet flere blundere. Amazon klarer nemlig ikke å forutse alle tenkelige potensielle problemer over tid, erkjente Rohit Prasad, visepresident og sjefingeniør for Alexa, under et arrangement i november.

- På dette stadiet kan vi først og fremst bare reagere, men det er framskritt sammenliknet med fjoråret, sa han da, ifølge Reuters.