The Economist om AI, del 6

AI og regulering: Hvad, hvordan og hvor meget?

Efter årtiers langsom fremgang og skepsis har kunstig intelligens (AI) nu skabt bekymring om, at udviklingen går for hurtigt. Mens nogle frygter fremtidige "Terminator-lignende" scenarier med superintelligent AI, fokuserer andre på de mere presserende risici, som AI allerede udgør, herunder bias, disinformation og krænkelse af ophavsret.

To tilgange til AI-regulering: X-risici og etiske risici

Den såkaldte "AI-sikkerhedslejr" advarer om eksistentielle risici, hvor AI udvikler sig selv til en superintelligent enhed, der kan true menneskeheden. Elon Musk og Nick Bostrom er prominente fortalere for denne tilgang. Kritikerne, herunder "AI-etik-lejren," mener dog, at sådanne scenarier er spekulative og peger i stedet på aktuelle problemer som diskrimination, deepfakes og AI-bias. Denne etiske tilgang har vundet indpas blandt politikere og førte fx til en række love mod deepfakes og krav om audits af AI-systemer i offentlige myndigheder.

Globale forskelle i AI-regulering

Lande håndterer AI-regulering forskelligt:

  • USA favoriserer selvregulering og frivillige aftaler, med undtagelse af præsident Bidens bekendtgørelse fra 2023, der pålægger sikkerhedskrav til de mest kraftfulde modeller.
  • Kina har en streng tilgang, hvor AI’s træningsdata og output skal være "sandfærdige" og afspejle socialisme. Reglerne bruges til at kontrollere informationsstrømme.
  • EU har vedtaget verdens første omfattende AI-lov, AI Act, der regulerer applikationer efter deres risikoniveau og forbyder visse anvendelser som ansigtsgenkendelse i offentlige rum.

Internationale initiativer

Flere globale initiativer arbejder på at etablere fælles retningslinjer:

  • AI-sikkerhedstopmøder og nationale AI-institutter.
  • Hiroshima-processen, ledet af G7 og OECD, søger at harmonisere regler.
  • FN’s rådgivende organ udarbejder en rapport forud for et AI-topmøde.

Disse initiativer kan føre til en ny international organisation. Forslag spænder fra et "AI-atomenergiagentur" til et organ, der minder om IPCC’s arbejde med klimaforskning.

Udfordringer og vejen frem

I mellemtiden er situationen fragmenteret. USA's stater, især Californien, arbejder på egne regler, herunder krav om en "kill switch" i AI-systemer, hvilket vækker debat i tech-industrien. Spørgsmål om innovationens omkostninger, hvem der skal regulere, og hvordan regler skal udformes, forbliver uløste.

Regulering af AI er et globalt eksperiment, hvor forskellige tilgange kan forme fremtidens teknologi og dens indflydelse på samfundet.

Kommentarer

Send en kommentar

Populære opslag fra denne blog

Lav verdens bedste prompt i o3 og brug den til Deep Research

Jeg fik pludselig den idé, at hvis man som første step beder enten GPT4o eller o3 om at svare på et spørgsmål, så får man jo som regel et pænt grundigt og brugbart svar. Men hvad nu hvis man bruger dét svar som udgangspunkt for en forespørgsel eller prompt til Deep Research – også kaldet grundig research – for at få lavet en meget mere tilbundsgående undersøgelse af de temne, som man i første omgang spurgte den normale model om? Så hvis jeg skal prøve at opsummere teknikken: 1. Spørg den normale model om et eller andet. 2. Kopier svaret. 3. Aktiver grundig research og indlede med ordene "Jeg har spurgt ChatGPT om <emne> og på baggrund af dens svar skal du lave en grundig undersøgelse, der afdækker alle aspekter i forbindelse med <her angiver du så yderligere detaljer om, hvad du ønsker>. Her kommer det svar, som du skal bruge til at lave undersøgelsen for mig:<og så indsætter du svaret du kopierede i step 2>. 4. Nu vil den komme med et eller flere spørgsmål for a...
Læs mere

Deep Research ("Grundig Research") er nu tilgængelig i ChatGPT (men kun 10 af dem per måned).

 Jeg stod og underviste i går, og opdagede, at der er kommet en ny option i ChatGPT: "Grundig research", som er den "Deep Research"-ting man har talt om i et stykke tid. Man kan anvende den 10 gange om måneden. Hvis man køber den store option af ChatGPT, som koster 200 USD om måneden, kan man fyre den af 120 gange.  Vi testede den på et par ting i går, og den gjorde indtryk. Jeg spurgte den f.eks.: er der opdateringer af Newtons tre love ift quantum og andre fysik-fremskridt? og den svarede: Er du interesseret i en generel gennemgang af, hvordan Newtons love er blevet påvirket af kvantemekanik og moderne fysik, eller søger du specifikke eksempler og eksperimentelle resultater? Vil du gerne have det forklaret på et populærvidenskabeligt niveau eller mere teknisk? og jeg svarede: generel gennemgang, gerne teknisk, tak. Så tænkte den i syv minutter og anvendte 11 kilder (man kan følge dens overvejelser og opslag forskellige steder ude i højre side) og så leverede den e...
Læs mere

Tredje-generations-AI ("Gen3") forklaret, så man forstår, at der virkelig sker noget nu

  BLUF (Bottom-Line Up Front): De to modeller Grok 3 (fra xAI/Elon Musk) og Claude 3.7 Sonnet repræsenterer en mindre revolution indenfor AI, fordi de kan meget mere end forgængerne ("Gen2"). Det skyldes to ting: De trænes MEGET mere end Gen2 og de får lov til at tænke længere over tingene.  Det har Ethan Mollick skrevet (endnu) en drøngod artikel om: https://open.substack.com/pub/oneusefulthing/p/a-new-generation-of-ais-claude-37 Generation 3 (“Gen3”) af AI og forskellige tolkning af en artikel Jeg testede to af ChatGPT’s modeller (GPT4o og o3) for, hvordan de håndterer en prompt om at lave et referat. Begge svar var gode og brugbare, men jeg fik en del mere ud af at læse selve artiklen.  Her er min prompt: Her kommer et link til en virkelig interessant artikel om generation tre af A i modeller. Artiklen er på engelsk. Vil du venligst lave et fyldigt dansk referat? Her kommer linket: https://open.substack.com/pub/oneusefulthing/p/a-new-generation-of-ais-claude-37?r=22vhx...
Læs mere