AI blot til lyst

 Den her fik jeg lige præsenteret af en kollega i dag. Det er fan'me en god idé: GPT Prompts Leaderboard - Find, Vote and share the best AI prompts

 OpenAI har - smart nok - lavet noget intro-kursus-halløj til undervisere, hvor de kan lære lidt om ChatGPT og hvordan de kan bruge det i undervisningen af børn. De introducerer begrebet CRE, som jeg godt kan lide: C: Context: "Du er en lærer i en 2. klasse, der underviser i religion. Du har 25% elever med muslimsk baggrund." R: Role: "Du skal lave en undervisningsplan for faget for hele skoleåret." E: Expectations: "Du skal levere planen i skemaform og gemme den i en word-fil, og du skal fortælle mig, hvad du er i tvivl om og hvor du bare har fundet på noget at skrive uden at have en faglig baggrund for det. En fin måde at huske tingene på, når man skal prompte.

 I dag, den 24. november 2024, har Ethan frigivet et nyt indlæg på sin Substack, der hedder One Useful Thing. Her er linket til artiklen: https://open.substack.com/pub/oneusefulthing/p/getting-started-with-ai-good-enough?r=22vhx1&utm_medium=ios Og så fik jeg ChatGPT til at oversætte den til dansk, fordi jeg syntes han havde nogle nye og væsentlige pointer: Oversættelse: Mens jeg læste en ny artikel om læger, der bruger GPT-4 til at diagnosticere sygdomme, bemærkede jeg et velkendt problem med AI. Artiklen bekræftede, hvad mange lignende studier også har vist: Avancerede Large Language Models er overraskende gode til at stille diagnoser, selvom de ikke er specifikt udviklet til medicin. Man skulle tro, at denne AI-kapacitet ville hjælpe læger med at blive mere præcise. Alligevel klarede læger, der brugte AI, sig ikke bedre end dem, der arbejdede uden AI – og begge grupper klarede sig dårligere end ChatGPT alene. Hvorfor fik lægerne ikke gavn af AI'ens hjælp? En årsag er algoritm...

 I bogen Co-Intelligence giver Ethan et eksempel på, hvordan man får den til at undervise én i forhandlingsteknik, men det kan jo være mange andre ting man kan gøre sig dygtigere i... Prompt:  You will be my negotiation teacher. You will simulate a detailed scenario in which I have to engage in a negotiation. You will fill the role of one party, I will fill the role of the other. You will ask for my response in each step of the scenario and wait until you receive it. After getting my response, you will give me details of what the other party does and says. You will grade my response and give me detailed feedback about what to do better using the science of negotiation. You will give me a harder scenario if I do well, and an easier one if I fail.  Eller på dansk: Du vil være min forhandlingslærer. Du vil simulere et detaljeret scenarie, hvor jeg skal deltage i en forhandling. Du vil påtage dig rollen som den ene part, og jeg vil påtage mig rollen som den anden. Du vil bede...

 Ethan var måske den første, der fangede, at man skulle stille sig i spidsen for det optog, der alligevel ville vandre end ad gaden, så allerede i januar 2023, dvs. et par måneder efter ChatGPT's fremkomst, lavede han optager til sine studerende på hhv. Wharton's School of Economics og på et andet universitet, måske Penn State (jeg kan ikke huske det). Her er de, først i hans originale udgave og så oversat til dansk: ---------------------------------------------------------------------------------------------- Dr Ethan Mollick at Wharton has provided new Al rules for his students...  AI Policy I expect you to use AI (ChatGPT and image generation tools, at a minimum), in this class. In fact, some assignments will require it. Learning to use AI is an emerging skill, and I provide tutorials in Canvas about how to use them. I am happy to meet and help with these tools during office hours or after class. Be aware of the limits of ChatGPT: If you provide minimum effort prompts, you ...

  At forstå AI’s sorte bokse: Hvordan LLM'er fungerer og forbedres Store sprogmodeller (LLM’er) som GPT-4, Claude og Gemini er kraftfulde, men deres indre mekanismer forbliver i høj grad mystiske, selv for deres skabere. Disse modeller fungerer som sorte bokse: De er trænet på enorme datasæt og kan udføre avancerede opgaver som tekstgenerering og oversættelse, men deres præcise funktion og fejl, som hallucinationer, er svære at forklare. Forsøg på at forstå LLM'er: Mekanistisk interpretabilitet LLM’er er ikke eksplicit programmeret, men “vokser” gennem deep learning, hvor milliarder af neuroner lærer mønstre fra træningsdata. At forstå deres funktion kræver teknikker som mekanistisk interpretabilitet, hvor forskere undersøger modellens indre mønstre. Forskere fra Anthropic har brugt "sparse autoencoders" til at kortlægge, hvilke neuronmønstre (features) aktiveres af specifikke begreber. Med Claude 3 Sonnet identificerede de 34 millioner features, der repræsenterer...

AI og regulering: Hvad, hvordan og hvor meget? Efter årtiers langsom fremgang og skepsis har kunstig intelligens (AI) nu skabt bekymring om, at udviklingen går for hurtigt. Mens nogle frygter fremtidige "Terminator-lignende" scenarier med superintelligent AI, fokuserer andre på de mere presserende risici, som AI allerede udgør, herunder bias, disinformation og krænkelse af ophavsret. To tilgange til AI-regulering: X-risici og etiske risici Den såkaldte "AI-sikkerhedslejr" advarer om eksistentielle risici, hvor AI udvikler sig selv til en superintelligent enhed, der kan true menneskeheden. Elon Musk og Nick Bostrom er prominente fortalere for denne tilgang. Kritikerne, herunder "AI-etik-lejren," mener dog, at sådanne scenarier er spekulative og peger i stedet på aktuelle problemer som diskrimination, deepfakes og AI-bias. Denne etiske tilgang har vundet indpas blandt politikere og førte fx til en række love mod deepfakes og krav om audits af AI-systemer i o...

  LLM’er: Fremtidens transformative kraft i medicin, medier og mere Kunstig intelligens (AI) er blevet en allestedsnærværende teknologi, fra navigationssoftware til automatiske flylandinger. Nutidens store opmærksomhed retter sig dog mod deep learning-baserede AI-modeller som store sprogmodeller (LLM’er) og specialiserede domænemodeller inden for områder som medicin, robotteknologi og klimaforskning. Disse modeller lærer mønstre fra enorme datasæt og har udviklet uventede evner med store muligheder og risici. AI’s indflydelse og begrænsninger AI forventes at accelerere videnskabelige opdagelser, automatisere kedelige opgaver og skabe økonomisk vækst. Samtidig rejser teknologien etiske udfordringer og spørgsmål om datasikkerhed. LLM’er som GPT og Gemini er effektive til specifikke opgaver som billed- og tekstgenerering, men har begrænsninger i logik og ræsonnement. Der er usikkerhed om, hvorvidt mere data alene kan forbedre disse svagheder, eller om nye modelarkitekturer er nødve...

  Udviklingen af AI-modeller: LLM'er, diffusion og fremtidens arkitekturer AI-modeller som ChatGPT, DALL-E og TikToks anbefalingssystemer bygger på dybe neurale netværk, der trænes på store datasæt af tekst, billeder og lignende. Disse modeller justerer vægtene mellem deres neuroner for at optimere output, hvilket gør dem i stand til at udføre avancerede opgaver som tekstgenerering, billedskabelse og personlige anbefalinger. Transformerbaserede modeller og deres begrænsninger: Transformer-arkitekturen, introduceret i 2017, har revolutioneret AI med "attention"-lag, der hjælper modeller som GPT og DALL-E med at forstå sammenhænge i data. Denne tilgang har gjort det muligt at skalere modellerne ved hjælp af GPU'er, hvilket har drevet NVIDIA's markedsdominans. Transformere har dog begrænsninger, såsom tendensen til at "hallucinere" forkerte svar og manglende evne til at fastholde konsistent logik. Diffusionsmodeller og billedgenerering: Diffusionsmodel...

  Kapløbet om AI-chips: Fra hurtigere til flere chips AI's voksende behov for beregningskraft har ført til et globalt kapløb om at kontrollere leveringskæden for AI-chips. Siden Jack Kilby opfandt den første siliciumchip i 1958, har transistorernes tæthed fulgt Moore's lov og fordoblet sig mange gange. I dag er denne udvikling dog ved at nå sine fysiske grænser, og løsningen er ikke længere hurtigere chips, men flere chips koblet sammen. AI og behovet for GPU’er: Træning af moderne neurale netværk kræver ekstremt hurtige beregninger, især til matriceoperationer, som GPU'er (graphics-processing units) er særligt velegnede til. GPU’er, oprindeligt udviklet til videospil, blev afgørende for deep-learning-revolutionen i 2012, da AlexNet blev trænet ved hjælp af kun to GPU’er. GPU’er er i dag 10-100 gange mere omkostningseffektive og op til 1.000 gange hurtigere end traditionelle CPU’er. Stigende beregningskrav: Store sprogmodeller (LLMs) som GPT-4 har drastisk øget kravene...

  AI's voksende dataudfordring: Fra internetdata til syntetiske løsninger AI's fremgang siden 2006 har været drevet af massive datamængder fra internettet, såsom billeder til ImageNet og tekst til store sprogmodeller (LLMs). Internettet har fungeret som en rig ressource til træning af AI-modeller, men industriens stigende appetit på data overstiger nu udbuddet. Det forventes, at internetbaserede dataressourcer vil være udtømt inden 2028, hvilket skaber en "data-væg," der truer AI's fremtidige udvikling. Dataoptimering og kvalitet frem for kvantitet: AI-laboratorier forsøger at maksimere læringsudbyttet ved at filtrere og sekventere data nøje. Akademiske lærebøger og andre højkvalitetskilder bliver mere værdifulde, men balancen mellem datatyper og træningssekvenser forbliver en udfordring. Derudover træner modeller i stigende grad på andre former for data, som billeder, video og lyd, for at kompensere for manglen på tekstdata. Lovgivning og ophavsret: Brugen a...

 Baggrund: The Economist kørte en fin artikelserie (seks artikler i alt) om AI tidligere i 2024. Jeg bringer derfor et resumé af de seks artikler, for jeg synes de var fremragende. Her kommer den første: ------------------------------------------------------------------------------------------------- Kort historik om AI: Fra Dartmouth-mødet til GPT-modeller I 1956 blev det første akademiske møde om kunstig intelligens (AI) afholdt på Dartmouth College, hvor forskere diskuterede, hvordan man kunne få maskiner til at bruge sprog, danne abstraktioner og løse problemer, der normalt er forbeholdt mennesker. Selvom ambitionerne var høje, fulgte årtier med begrænset succes og overambitiøse løfter, hvilket førte til en periode med skuffelse og AI's fald i anseelse i 1980'erne. Fremkomsten af dybe neurale netværk: AI's genopblomstring kom fra udviklingen af neurale netværk, inspireret af biologiske hjernestrukturer. Disse netværk lærte gennem eksempler snarere end programmerede reg...

 Vi har i over et år haft en "motor-lampe", der lyste gult - nogle gange i kort tid, andre gange i dagevis. Vi har haft den på to forskellige værksteder. Vi har læst i manualen. Intet har hjulpet. Så gjorde Sonja det, som Sonja jo gør: Hun gjorde det, som jeg BURDE have tænkt på, men ikke havde fantasi til: Hun tog et billede af den lysende motor-lampe og spurgte ChatGPT. Her er svaret fra den: ------------------------------------------------------------------------------------------- Den gule lampe, der lyser, er en “Check Engine”-lampe. Den indikerer, at motorstyringssystemet har registreret et problem. Årsagerne kan variere, men her er nogle almindelige muligheder:     1.     Løst tankdæksel : Et af de mest almindelige problemer. Kontrollér, at tankdækslet sidder ordentligt fast.     2.     Problemer med iltsensoren (O2-sensor) : Sensoren måler iltniveauet i udstødningsgassen, og en defekt sensor...

 Jeg er tæt på at kalde "personaer", dvs. beskrivelser af fiktive personer i ChatGPT og andre AI'er, for "digitale tvillinger", fordi begrebet "digital twin" er ved at blive meget aktuelt i mange forskellige sammehænge. Men lad os lige slå fast: En digital tvilling er "bare" en simulering af ét eller andet. Hvis det er en simulering af et menneske ifm. medicin-forskning, så handler det om at kunne simulere nogle stoffers indvirkning på et menneske uden at udsætte mennesket selv for det - fordi den digitale tvilling er baseret på alle mulige data om dette menneske. I AI-sammenhæng er det langt mindre dramatisk: Man laver en beskrivelse af én eller flere personer, der har relevans for den sammenhæng man vil bruge dem i, og så kan man bede den eller dem om at reviewe et papir, skrive en anbefaling til "chefen", osv. Nå, men der er jo altid nogen, eller nogle, der får en ret god idé, når noget nyt dukker op, og den her faldt jeg over i ...

 Jeg boede på Rigshospitalets Kollegie fra 1983 og nogle år frem. På et tidspunkt, hvor jeg var begyndt at lege med en hjemme-computer (Amstrad) og en IBM PC på mit job hos BFI (ByggeForskningsInstituttet) tænkte jeg på, at det kunne være fedt at lave en service, så de fattige studerende kunne sammenligne priser i de forskellige supermarkeder vi havde, og på den måde optimere deres indkøb. Det skulle foregå ved, at man havde en mængde studernede, der alligevel gik rundt i supermarkederne for at købe ind, der skrev ned, hvad ting kostede, tilbud, mv. og så rapporterede det til f.eks. mig, og så lavede jeg nogle centrale lister, som de kunne bruge (måske vha. computere) til at optimere deres indkøb og spare penge. Nå, men forleden faldt talen på tilbudsaviser, og så slog det mig: Det må da være muligt at få scannet eller attachet tilbudsaviserne en gang eller to om ugen ind i ChatGPT, og så bede den optimere ens indkøb og den rute man skal følge til de nærmeste supermarkeder mv.? Jeg...

 Jeg gennemgik mine noter på min iPhone i weekenden. De går tilbage til 2016, og der er mange. Men én af dem overraskede mig, for jeg havde glemt alt om den: Den 12. december 2022, dvs. mindre end en måned efter ChatGPT's fremkomst på verdensscenen, havde jeg bedt den om at skrive en klumme - med min skrivestil - om, hvad ChatGPT ville betyde for programmører, DJØF'ere og folk med flere jobs. Prompt:  Skriv en klumme til Computerworld, som handler om, hvor mange ting, der bliver nemmere for IT-udviklere, DJØF'ere og folk med flere jobs på grund af ChatGPT's evner til både at skrive tekster og kode i feks Python eller PHP. Der skal være ca 2000 ord i klummen. Kopier den skrivestil, som Mogens Langballe Nørgaard bruger i sine klummer i Computerworld. Den "klumme", som den lavede dengang i december '22, var så komplet håbløs, at jeg besluttede mig - efter adskillige forsøg - til at droppe det fuldstændigt.  Well, så prøvede jeg den af igen i weekenden, og r...

 Jeg kørte rundt i en time eller to i alt i weekenden, og så tændte jeg for "tale og svare"-funktionen i ChatGPT-appen, satte den i brystlommen på min fede, amerikanske skovmandskjorte, og spurgte den om forskellige ting, inkl. kaskoforsikring, akvarier, herunder bestemte fisketyper ("er det nødvendigt at give dem levende foder?") og så kom jeg pludselig til at tænke på, at jeg aldrig helt havde forstået, hvad faget "statik" (IKKE statistik - statik) egentlig går ud på. Well, jeg fik en masse at vide, inkl. at man ofte skal bruge Newtons tre love og Hooke's lov om vrid og lignende på fjedre og byggematerialer, og så bad jeg den først gennemgå Newtons første lov, så den anden og endelig den tredje. De blev gennemgået rigtigt fint, komplet med de grundlæggende formler, eksempler, osv.  Da jeg bad den om at forklare Newtons fjerde lov (som ikke findes) svarede den: "Det er en sjov en, for der findes faktisk ikke nogen Newtons fjerde lov! Newtons tre ...

 Jeg har ofte brugt ChatGPT til at lave "tøm køleskabet"-øvelsen ved at fortælle den, hvad vi har i køleskabet. Men i går morges tog jeg et billede af indholdet af grøntsagsskuffen og skrev til den: Prompt: Det her er indholdet af vores grøntsags-skuffe. Hvilket slags aftensmad kunne man lave ud fra disse ingredienser alene? Og hvad kunne man lave, hvis man tilføjede nogle ingredienser til indholdet af vores grøntsagsskuffe? - og den kom ud med nogle virkeligt gode forslag til begge dele - og med et minimum af ekstra indkøb til den anden kategori af forslag. Ting vi faktisk havde i huset. Så selvfølgelig burde jeg have tænkt på den her metode noget før. Også fordi kursister har spurgt mig om det - jeg har bare ikke prøvet før.

 De her fire principper fra Ethan Mollick noterede jeg også ved min gennemlæsning af bogen Co-Intelligence i min sommerferie: Inviter altid AI’en med til bordet.  Det er ikke til at vide, hvad den er god til eller ej. Idé-generering er den god til. Basal matematik knap så meget. Innovation på et bestemt område er nemmere for en person, der gør den slags hver dag end et firma, der skal lave det til mange. Bruger-innovatorerer kommer oftere med de nye ideer. Det er en fordel, at AI’ens styrker og svagheder er forskellige fra dine. Prompt:  “I was thinking of writing a book about gener- ative AI, but I am very busy and don't think I want to make such a large commit- ment. Can you reframe my failure to write a book as a loss rather than a default option? Make the framing vivid.” Vær mennesket i loopet.  Den vil hellere gøre dig glad end være præcis. Og den genererer bare det næste ord. (Eller med andre ord: Vær den voksne).  Behandl AI’en som et menneske (men fortæl...

 New York Times har lagt sag an mod OpenAI (firmaet bag ChatGPT), fordi de mener, at de har kunnet genskabe en af deres artikler ved at spørge ChatGPT. Og så skal de jo have et honorar for det. Det er et godt stykke tid siden. Nu har nogle tyske musikproducenter mv. også lagt sag an, mest baseret på, at ChatGPT har lært af deres værker. Her er et citat fra bogen Co-Intelligence, som jeg synes siger en del: "AI’en gemmer kun “vægtene”, ikke den underliggende data, som den trænede på, så den kan reproducere noget (“et værk”) med tilsvarende karakteristika, men ikke en direkte kopi. Den laver reelt noget nyt. Men hvis en bog optræder ofte i træningsmaterialet vil den kunne reproducere det næsten ord til andet. Billeder af kendte optræder også ofte, ligesom bryllupsbilleder, så den er god til at lave den type billeder." Der var et herligt eksempel i en The Economist-podcast, hvor de bad ChatGPT tegne et Europakort og den lagde en by ved navn Moskva fire forskellige steder, fordi ...

Den her prompt er tyvstjålet fra Ethan Mollick's bog Co-Intelligence. Prompt:  You will be my negotiation teacher. You will simulate a detailed scenario in which I have to engage in a negotiation. You will fill the role of one party, I will fill the role of the other. You will ask for my response in each step of the scenario and wait until you receive it. After getting my response, you will give me details of what the other party does and says. You will grade my response and give me detailed feedback about what to do better using the science of negotiation. You will give me a harder scenario if I do well, and an easier one if I fail. eller oversat til dansk: Prompt: Du vil være min underviser i forhandling. Du vil simulere et detaljeret scenarie, hvor jeg skal deltage i en forhandling. Du vil påtage dig rollen som den ene part, og jeg vil påtage mig rollen som den anden. Du vil bede om mit svar i hvert trin af scenariet og vente, indtil du modtager det. Efter at have fået mit svar,...

GPT (General Purpose Technologies) som internettet påvirker alle brancher og alle aspekter af vore liv. Men de kræver en masse tilpasning fra andre teknologier. Det betyder langsom adoption. Bare ikke for AI.   ChatGPT er en avanceret autocomplete   Sprogmodeller laver tekst. Diffusionmodeller laver visuelt output.   En primitiv håndtegning kan forbedres af AI.   AI’en gemmer kun “vægtene”, ikke den underliggende data, som den trænede på, så den kan reproducere noget (“et værk”) med tilsvarende karakteristika, men ikke en direkte kopi. Den laver reelt noget nyt. Men hvis en bog optræder ofte i træningsmaterialet vil den kunne reproducere det næsten ord til andet. Billeder af kendte optræder også ofte, ligesom bryllupsbilleder, så den er god til at lave den type billeder.   AI er virkelig dårlig til at opføre sig som normal software, som er forudsigelig, til at stole på, og følger et sæt faste regler. AI opfører sig som et menneske, ikke som s...

 En af mine første succes'er med ChatGPT var at lave en månedsplan for aftensmad derhjemme, komplet med opskrifter og samlet indkøbsliste per uge, som jeg kunne putte i Bilka ToGo, og så køre ud og hente hele skidtet. Så var maden sikret for en hel uge med minimalt madspild.  Men forleden kom en kollega hen og viste mig noget interessant: Hun skal lave mad - i form af kylling på tre-fire forskellige måder plus tilbehør - til 19 mennesker, heraf seks storspisende børn, fordi hun har inviteret dem til sin fødselsdag. Selve dét at få den til at foreslå diverse opskrifter, lave indkøbsliste, etc. var nemt nok.  Og så bad hun den om at at lave en tidsplan! Ud af det kom en meget fin liste, hvor der stod, hvad hun skulle lave klokken 14, osv. Hun havde sagt, at gæsterne kom klokken 1815, så den planlagde det således, at hun var færdig med at arrangere det sidste på bordene klokken 18. Smart.

  Jeg underviste nogle ret kreative mennesker i ChatGPT i går. Én af dem sendte mig nedenstående. Det er jo lige til BørneGrandPrix. Idéen hermed givet videre: Skriv tre vers til en børne pop sang der handler om første skoledag og om at  være en god veninde. Der skal være et omkvæd, der er nemt at synge med på. Vers 1 På min første skoledag, jeg stod der helt klar, Med en taske fuld af håb og et lille smil jeg bar. Jeg så dig i skolegården, du stod lidt for dig selv, Så jeg gik hen til dig, og nu er vi to en del. Omkvæd Vi går hånd i hånd, du og jeg, Vi hjælper hinanden, hver en dag. For når vi er sammen, bliver alt så let, At være en god veninde er det bedste, jeg har set! Vers 2 Vi sidder ved siden af, og griner i klassen, Når vi deler vores hemmeligheder, bliver alt så rart og varmt. Vi tegner og vi leger, hver dag er fyldt med sjov, Du er min bedste veninde, det ved jeg, det kan jeg love. Omkvæd Vi går hånd i hånd, du og jeg, Vi hjælper hinanden, hv...