AI er langt farligere enn kvanteberegning

Vivek Wadhwa og Mauritz Kop skrev nylig en uttalelse som oppfordrer regjeringer over hele verden til å komme i forkant av trusselen som utgjøres av den nye teknologien kjent som kvantedatabehandling. De gikk til og med så langt som å titulere artikkelen sin “Hvorfor Quantum Computing er enda farligere enn kunstig intelligens.”

Foran: Denne får en veldig respektfull hardt uenig fra meg. Selv om jeg tror at kvanteberegning utgjør en eksistensiell trussel mot menneskeheten, er grunnene mine veldig forskjellige fra de som ble foreslått av Wadhwa og Kop.

Punkt

Wadhwa og Kop åpner artikkelen sin med en beskrivelse av AIs feil, potensielle misbruk, og hvordan medias fortelling har forverret faren for AI før den slår seg på en kraftig ledelse:

Verdens unnlatelse av å tøyle demonen til kunstig intelligens – eller rettere sagt, de rå teknologiene som maskerer seg som sådan – burde være en dyp advarsel. Det er en enda kraftigere fremvoksende teknologi med potensial til å skape kaos, spesielt hvis den kombineres med AI: kvantedatabehandling. Vi trenger snarest å forstå denne teknologiens potensielle innvirkning, regulere den og forhindre at den kommer i feil hender før det er for sent. Verden må ikke gjenta feilene den gjorde ved å nekte å regulere AI.

Duoens artikkel fortsetter deretter med å beskrive naturen til kvantedatamaskiner og den nåværende forskningstilstanden før de bestemmer seg for neste viktige punkt:

Gitt det potensielle omfanget og mulighetene til kvanteteknologi, er det helt avgjørende å ikke gjenta feilene som er gjort med AI – der regulatorisk svikt har gitt verden algoritmisk skjevhet som hyperlader menneskelige fordommer, sosiale medier som favoriserer konspirasjonsteorier og angrep på institusjonene til demokrati drevet av AI-genererte falske nyheter og innlegg på sosiale medier. Farene ligger i maskinens evne til å ta beslutninger autonomt, med feil i datakoden som resulterer i uventede, ofte skadelige, utfall.

De beskriver også problemet med gjeldende krypteringsstandarder og behovet for kvantebestandig teknologi og nye standarder for å forhindre at bedriftens og nasjonale hemmeligheter blir utsatt for USAs motstandere:

Patenter, forretningshemmeligheter og relaterte immaterielle rettigheter bør sikres tett – en tilbakevending til den typen teknologikontroll som var et viktig element i sikkerhetspolitikken under den kalde krigen. Det revolusjonerende potensialet til kvantedatabehandling øker risikoen forbundet med tyveri av intellektuell eiendom fra Kina og andre land til et nytt nivå.

Til slutt avsluttes artikkelen med en oppfordring til sunn fornuftslovgivning:

Regjeringer må snarest begynne å tenke på reguleringer, standarder og ansvarlig bruk – og lære av hvordan land håndterte eller mishandlet andre revolusjonerende teknologier, inkludert AI, nanoteknologi, bioteknologi, halvledere og kjernefysisk fisjon.

Kontrapunkt

Jeg har skrevet mye om kvanteberegning. Jeg tror den har potensialet til å være den mest transformative teknologien i historien. Men trusselen den utgjør er, etter min mening, nærmere knyttet til fusjon enn for eksempel en kniv.

Som Wadhwa og Kop påpeker, har den fullstendige unnlatelsen av den amerikanske regjeringen med å etablere selv en liten del av menneskesentrerte reguleringer eller retningslinjer angående misbruk av AI, resultert i et utviklingsmiljø hvor skjevhet ikke bare er akseptabelt, det er gitt.

Men ingen mengde statlig tilsyn og håndhevelse av politikk kommer til å endre det faktum at alle med internettilgang og vilje til å lykkes kan lage, trene og distribuere modeller.

Det er litt vanskeligere å bygge en funksjonell kvantedatamaskin som er i stand til å utføre motstridende dekrypteringsoppgaver.

Wadhwa og Kop har helt rett i sine krav om en viss regulering – selv om jeg er sterkt imot ideen om at USA, eller et hvilket som helst land, på noen måte bør “tilbake til den typen teknologikontroll som var et viktig element i sikkerhetspolitikken under den kalde krigen” når det kommer til kvanteberegning. Fysikk er ikke en handels- eller militærhemmelighet.

Kryptering, av sin natur, krever ikke hemmelighold. Og kvantedatamaskiner, til tross for alt håpet de representerer, lover bare å få fart på sakene. Verden er allerede tar skritt til redusere trusselen om kvantedekryptering.

Sannheten er at AI og kvantedatabehandling utgjør en nøyaktig like stor trussel som menneskehetens evne til å bruke dem for ondskap.

Akkurat nå blir milliarder av mennesker aktivt manipulert av partiske algoritmer i alle tenkelige sektorer, fra sosiale medier og jobbsøking til helsevesen og rettshåndhevelse.

Som tidligere nevnt kan alle med internettilgang og vilje til å lykkes lære å bygge og distribuere AI-modeller.

Det koster millioner – til og med milliarder – å bygge en kvantedatamaskin. Og selskapene og laboratoriene som bygger dem står allerede overfor et langt strengere regelverk i USA enn deres motparter som kun er maskinlæring.

Når det gjelder den potensielle skaden kvantedatamaskiner kan forårsake? Bortsett fra parets bekymringer om kvantekryptering, ser det ut til at deres største bekymring er at kvantedatamaskiner vil forverre de eksisterende problemene med ulikhet og algoritmisk skjevhet.

Til det vil jeg hevde at kvantedatamaskiner representerer vårt største håp om å bryte fri fra “bullshit inn, bullshit ut”-paradigmet som dyp læring har sugd hele feltet av kunstig intelligens inn i.

I stedet for å stole på veggstørrelsesstabler med GPU-er til brutale slutninger fra bøtter på størrelse med umerket data og håpe at prime rib og filet mignon vil komme ut i den andre enden, kan kvantedatamaskiner åpne opp for helt nye beregningsmetoder for håndtering med mindre mengder data mer effektivt.

Oppsummering

Jeg tror at “trusselen” fra kunstig intelligens kunne blitt dempet noe med strengere reguleringer (det er aldri for sent for USA og andre aktører å følge EUs ledelse). Men tilgjengeligheten til AI-teknologi gjør den til en klar og nåværende trussel mot hvert enkelt menneske på jorden.

Kvantedatateknologi er klar til å hjelpe oss med å løse mange av problemene skapt av “skala er alt du trenger” publikum.

Til syvende og sist tror jeg det handler om å legge rett teknologi i riktige hender til rett tid. Kunstig intelligens er en kniv, det er et verktøy som kan brukes på godt og ondt av omtrent alle. Kvantedatabehandling er som fusjon, det kan potensielt forårsake massive skader i enestående skala, men kostnadene for å komme inn er høye nok til å hindre de aller fleste mennesker på planeten fra å få tilgang til den.

Historisk sett er det ikke fornuftig å fordømme fusjon eller kvanteberegning basert på de hypotetiske tingene som kan gå galt – hvor ville vi vært uten atomenergi? Kravet om større tilsyn og sunn fornuftsregulering er nødvendig, men sammenblandingen med AI-teknologi virker uberettiget.

AI er helt klart farlig, og det er der jeg mener reguleringsorganer, media og allmennheten bør fokusere sine bekymringer.