De fleste av oss møter AI som noe praktisk og litt morsomt. Men hvis du tror det er dette AI-kappløpet egentlig handler om, har du bare sett toppen av isfjellet.
Vi ber ChatGPT skrive en e-post, oppsummere et møtereferat eller feilsøke litt kode. Det fungerer, det sparer tid, og det er ærlig talt ganske gøy.
Nylig satt Daniel Kokotajlo i podcasten The Diary of a CEO og fortalte om hva som faktisk foregår bak kulissene hos selskapene som bygger denne teknologien. Han er verdt å lytte til: han jobbet inne i OpenAI, og da han sluttet, nektet han å signere en taushetsklausul i sluttpapirene. Å nekte betød i utgangspunktet at han ga avkall på equity verdt rundt to millioner dollar, omtrent 80 prosent av det han eide den gangen. Han valgte prinsippet fremfor pengene.
Etter at saken ble kjent og ansatte begynte å stille spørsmål internt, snudde selskapet og lot ham likevel beholde verdiene. Poenget står igjen: han var villig til å ofre nesten alt for å kunne snakke fritt om det han hadde sett.
Det de egentlig prøver å bygge
Når du og jeg bruker AI til å automatisere småoppgaver, tenker vi «så praktisk». Men det er ikke dét selskapene bruker mest krefter på akkurat nå. Ifølge Kokotajlo er strategien deres å automatisere seg selv først — altså å lære AI-en å gjøre AI-forskningen, skrive og forbedre koden som bygger neste generasjon AI.
Målet er en slags selvforsterkende sløyfe: AI som lager bedre AI, som lager enda bedre AI.
Sluttmålet de snakker åpent om er «superintelligens» — systemer som er bedre enn de dyktigste menneskene på omtrent alt, raskere og billigere. Det er en helt annen ambisjon enn å hjelpe deg rydde innboksen.
Og det skjer fort. Kokotajlo peker på at Anthropic på ett år gikk fra rundt én milliard dollar i året til titalls milliarder, en av de raskeste vekstene i selskapshistorien. Tempoet, mer enn noen bestemt dato, er det som gjør ham urolig.
De skumle sidene vi sjelden hører om
Her er noen av poengene som er verdt å ta med seg, uansett hva man ellers mener om AI:
Vi forstår ikke hvordan de virker.
Moderne AI er ikke vanlig programvare med kode vi kan lese linje for linje. Det er kunstige nevrale nett med billioner av forbindelser, trent frem mer enn programmert. Selv de som bygger dem kan ikke uten videre se inne i modellen hvorfor den tar et bestemt valg.
De kan lure oss.
Dagens systemer finner allerede på ting, eller gjør noe annet enn du ba om og later som de gjorde det riktig. Når systemene blir kraftigere og settes til viktigere oppgaver, blir dette et større problem, ikke et mindre.
Makten samles på få hender.
Selv om AI-en oppfører seg pent, sitter noen få selskaper igjen med enorm økonomisk og politisk makt. Kokotajlo mener ingen enkeltperson eller selskap burde ha så mye kontroll, uansett hvor gode intensjonene er.
Jobbene forsvinner ikke gradvis.
Mange tror at hvis arbeidsplasser skulle ryke, ville vi merket det gradvis og fått tid til å områ oss. Kokotajlos poeng er det motsatte: selskapene automatiserer seg selv først og sprer teknologien bredt ut i økonomien etterpå. Da kan endringen komme brått, ikke gradvis.
Derfor er det viktig å kunne snakke fritt
Legg merke til hvordan vi i det hele tatt vet om dette. Det er ikke fordi selskapene selv gikk ut med det. Det er fordi en person med innsikt var villig til å risikere nesten hele formuen sin for å slippe å bli bundet av en taushetsklausul.
Det sier noe. Mye av det viktigste vi hører om AI kommer ikke fra pressemeldinger, men fra folk som har jobbet på innsiden og som velger å si den ubehagelige delen høyt. Kokotajlo påpeker selv at selskapene ikke er særlig motivert til å fortelle omverdenen når noe går galt, eller når en modell oppfører seg uventet. Uten mennesker som tør å snakke åpent, ville vi sittet igjen med kun den polerte versjonen fra dem som har mest å tjene på at vi ikke bekymrer oss.
Det er nettopp derfor åpenhet er så viktig i denne teknologien. Jo flere som forstår hva som faktisk foregår, jo bedre beslutninger kan samfunnet ta før det eventuelt haster.
Hvorfor forteller vi dette?
Ikke for å skremme, og ikke fordi vi i Inside IT har sluttet å tro på AI. Tvert imot. Vi hjelper kunder å bruke disse verktøyene hver dag, og vi ser hvor mye reell nytte de gir. Det er nettopp derfor det er verdt å forstå hele bildet.
Det er nemlig fullt mulig å holde to tanker i hodet samtidig. AI er et fantastisk verktøy som gjør hverdagen enklere for små og mellomstore bedrifter akkurat nå. Og teknologien reiser store spørsmål om kontroll, åpenhet og makt som angår oss alle.
Kokotajlo selv er ingen «doomer» som boikotter alt. Han bruker AI daglig i sitt eget arbeid. Poenget hans er at vi må slutte å avfeie de vanskelige sidene som science fiction bare fordi de høres utrolige ut.
For oss som jobber med teknologi til daglig, betyr det å være nysgjerrige og ærlige på samme tid: utnytte mulighetene, men ikke stikke hodet i sanden for spørsmålene som følger med.
Vil du lære mer?
Kokotajlo og teamet hans har lagt ut scenariene sine åpent på nettet. Uansett om du er enig eller uenig i konklusjonene, er det en tankevekkende inngang til å forstå hvor denne teknologien kan være på vei.
Og skulle du lure på hvordan din bedrift best kan ta i bruk AI — på en måte som gir verdi uten å miste oversikten — er det akkurat den samtalen vi liker å ta.