Advarsler om at kunstig intelligens kan utslette menneskeheten, kan også fungere som markedsføring og et middel til å stenge konkurrenter ute, mener Matt Walsh. Flere forskere og teknologiprofiler har fremmet lignende kritikk. Men Walsh understreker samtidig at reelle farer ved teknologien må tas på alvor.
Den amerikanske kommentatoren Matt Walsh retter skarp kritikk mot både KI-selskapene, mediedekningen og politikernes reaksjoner i episoden «The Artificial Panic Generated By AI Companies», publisert 10. september.
Hans hovedspørsmål er enkelt: Hvorfor fortsetter selskaper å utvikle og selge en teknologi som deres egne ansatte samtidig advarer om kan ødelegge menneskeheten?
I episoden av The Matt Walsh Show argumenterer han for at de dramatiske advarslene kan tjene to formål. De fremstiller selskapenes produkter som nærmest grenseløst mektige, og de kan skape støtte for reguleringer som gir de største aktørene enda sterkere kontroll over markedet.
«Det står kolossale mengder penger og makt på spill», sier Walsh.
Saken fortsetter under.
Oppsigelse utløste debatten
Bakgrunnen er at KI-forskeren Jacob Coxon kunngjorde at han sluttet i Anthropic, selskapet bak Claude. Han hadde tidligere arbeidet i OpenAI og opplyste at han til sammen hadde brukt tre år på forskning knyttet til trening av KI-modeller i de to selskapene.
Coxon anklaget begge for å opptre uansvarlig i kappløpet om å utvikle systemer som kan forbedre seg selv. Han skrev at de «gambler med livene våre». Oppsigelsen og advarslene ble omtalt av blant andre ABC7 9. september.
Walsh reagerer på hvor raskt saken fikk omfattende medieoppmerksomhet og ble brukt som argument for politiske inngrep. I sendingen viser han blant annet til reaksjoner fra Bernie Sanders og andre amerikanske politikere som ønsker å bremse utviklingen.
Han understreker likevel at advarsler fra personer som arbeider med teknologien, fortjener oppmerksomhet. Hans innvending gjelder særlig spranget fra konkrete sikkerhetsproblemer til påstander om at hele menneskeheten kan bli utslettet innen få år.
Walsh etterlyser en konkret forklaring på hvordan slike katastrofer skal kunne oppstå, og mener mediene i for liten grad stiller kritiske spørsmål.
Frykter at sikkerhetsregler blir et vern mot konkurranse
Et sentralt begrep i Walshs kritikk er «regulatory capture». Det beskriver en situasjon der myndighetenes regulering i praksis blir formet av interessene til aktørene som skal kontrolleres.
I Walshs fremstilling kan mekanismen fungere slik: Et stort KI-selskap advarer om ekstreme farer, presenterer seg selv som den ansvarlige aktøren og får innflytelse over hvilke sikkerhetskrav myndighetene innfører. Kravene kan deretter bli så kostbare eller omfattende at mindre konkurrenter ikke klarer å oppfylle dem.
Resultatet kan bli at noen få selskaper får dominere teknologien som stadig flere bruker til å finne informasjon, skrive tekster og utføre arbeidsoppgaver.
For Walsh er dette også et spørsmål om ytringsfrihet. Dersom brukerne kan velge mellom flere modeller, kan de bytte leverandør når de møter politisk slagside eller sensur. Han frykter at denne muligheten svekkes dersom myndighetene bidrar til å konsentrere markedet rundt noen få godkjente selskaper.
Andrew Ng og Marc Andreessen har advart om samme mekanisme
KI-forskeren og gründeren Andrew Ng advarte allerede i et intervju med Eric Topol i november 2023 mot regulering som store teknologiselskaper har ressurser til å etterleve, mens mindre aktører faller utenfor.
Ng fremhevet særlig faren for å ramme åpen kildekode. Slike verktøy gjør det mulig for flere å bygge egne løsninger, uten å være avhengige av de største leverandørene. Han mente også at argumentene for nært forestående menneskelig utslettelse var for vage.
Investoren Marc Andreessen beskrev en tilsvarende interessekonflikt i «Why AI Will Save the World» fra juni 2023. Han skilte mellom mennesker som oppriktig frykter katastrofer, og aktører som kan tjene på restriksjoner som beskytter dem mot konkurranse.
Ifølge Andreessen kan de to gruppene trekke i samme retning selv om motivene er forskjellige. Han advarte mot et marked dominert av noen få selskaper med myndighetenes velsignelse. Samtidig understreket han at sikkerhetsargumentene må vurderes på sitt innhold, uavhengig av avsendernes motiver.
Dette er tidligere uttalelser som støtter deler av Walshs resonnement, ikke reaksjoner på den aktuelle episoden. Både Ng og Andreessen har dessuten selv interesser i utviklingen av KI.
Yann LeCun har etterlyst åpenhet
En lignende advarsel finnes i en fellesuttalelse publisert av Mozilla i oktober 2023, som både Yann LeCun og Andrew Ng undertegnet.
Underskriverne advarte om at feil regulering kan samle makt hos noen få og skade konkurransen. De argumenterte for at innsyn, uavhengig forskning og bredere tilgang kan styrke sikkerheten.
Uttalelsen erkjente samtidig at åpne modeller kan misbrukes. Poenget var at lukkede systemer også har risiko, og at stram kontroll hos noen få private selskaper ikke i seg selv garanterer trygghet.
Ben Goertzel kritiserer kampanjen rundt Coxon
KI-forskeren Ben Goertzel kommenterte den konkrete Coxon-saken i et innlegg 15. september. Han mener oppmerksomheten ble forsterket gjennom et etablert nettverk av aktivister og organisasjoner opptatt av KI-risiko.
Samtidig mener Goertzel at Coxons bekymring er oppriktig, og han tviler på at forskeren ble betalt for å publisere innlegget. Han anerkjenner også Coxons tekniske kompetanse. Goertzels forklaring er organisert påvirkningsarbeid, snarere enn en betalt iscenesettelse.
Walsh går lenger og fremstiller hendelsesforløpet som en samordnet påvirkningsoperasjon. Han viser blant annet til forskeren Parker Thayers gjennomgang av raske delinger og økonomiske forbindelser mellom aktører i debatten.
Slike forbindelser og sammenfall i tid dokumenterer imidlertid ikke alene at Anthropic bestilte eller styrte Coxons oppsigelse. Påstanden om en selskapsstyrt operasjon må derfor skilles fra den mer generelle kritikken av bransjens økonomiske interesser.
Cal Newport: Katastroferetorikk kan skjule mer konkrete problemer
Informatikeren og forfatteren Cal Newport har også reagert kraftig på uttalelsene fra Anthropic-miljøet. I et innlegg 9. september kritiserte han ansatte som beskrev utviklingen som potensielt dødelig for menneskeheten, samtidig som arbeidet fortsatte.
Newport mener oppmerksomheten bør rettes mot bestemte systemer som får handle lenge på egen hånd, med kraftige digitale verktøy og utilstrekkelige begrensninger. Han argumenterer for inngrep mot farlig praksis og avviser at skeptisisme til dommedagsfortellingene betyr at selskapene bør få frie hender.
I et oppfølgingsinnlegg 10. september hevdet Newport at dagens språkmodeller ikke gir grunnlag for å erklære ukontrollerbar superintelligens som nært forestående.
Samtidig advarte han om at jakten på slike systemer kan føre til uforsvarlige eksperimenter og reell skade. Hans argument er at man kan stille strengere krav til selskapenes arbeidsmåter uten å stanse hele KI-feltet. Dette er Newports vurdering, og den står i klar motsetning til risikovurderingen hos Anthropic.
Anthropic mener sikkerhetsarbeidet trenger mer tid
Anthropics leder Dario Amodei begrunner ønsket om lavere tempo med at sikkerhetsarbeidet må holde tritt med modellenes evner. I «We Must Pace the Frontier», publisert etter Walshs sending, foreslår han eksterne kontrollører med omfattende innsyn, felles sikkerhetsstandarder og internasjonalt samarbeid.
Amodei presiserer at målet er å sikre tilstrekkelig tid til testing og kontroll, ikke å stanse all teknisk fremgang. Han mener kommersielt konkurransepress kan forsterke risikoen.
Uenigheten gjelder dermed både hvor farlig teknologien er, og hvem som skal få definere tiltakene.
Walsh vil ha kontroll med både selskaper og myndigheter
Walsh plasserer seg selv blant KI-skeptikerne. Han peker på mulige farer knyttet til datainnbrudd, overvåking, personvern, arbeidsplasser og systemer som handler på måter utviklerne ikke ønsker.
Samtidig mener han debatten blir dårligere når den låses mellom løfter om grenseløs velstand og spådommer om menneskehetens undergang.
«Å la KI-selskaper verdt billioner av dollar gjøre hva de vil, uten noen form for kontroll eller regulering, er heller ikke en klok vei», sier han, oversatt til norsk.
Mot slutten av sendingen vender han argumentet tilbake mot dem som avfeier katastrofeadvarslene som ren markedsføring: Hvis et selskap er villig til å skremme med menneskehetens utslettelse for å øke markedsandelen, er det også grunn til å undersøke hvordan selskapet bruker makten sin.
Walshs krav er at både de dramatiske advarslene og løftene om en problemfri KI-fremtid må møtes med kritiske spørsmål. Selskapenes egne fortellinger bør ikke alene avgjøre hvem som får kontroll over teknologien.
