Noter fra Ethan Mollicks bog Co-Intelligence (blot til viderebearbejdning)

GPT (General Purpose Technologies) som internettet påvirker alle brancher og alle aspekter af vore liv. Men de kræver en masse tilpasning fra andre teknologier. Det betyder langsom adoption. Bare ikke for AI.

 

ChatGPT er en avanceret autocomplete

 

Sprogmodeller laver tekst. Diffusionmodeller laver visuelt output.

 

En primitiv håndtegning kan forbedres af AI.

 

AI’en gemmer kun “vægtene”, ikke den underliggende data, som den trænede på, så den kan reproducere noget (“et værk”) med tilsvarende karakteristika, men ikke en direkte kopi. Den laver reelt noget nyt. Men hvis en bog optræder ofte i træningsmaterialet vil den kunne reproducere det næsten ord til andet. Billeder af kendte optræder også ofte, ligesom bryllupsbilleder, så den er god til at lave den type billeder.

 

AI er virkelig dårlig til at opføre sig som normal software, som er forudsigelig, til at stole på, og følger et sæt faste regler. AI opfører sig som et menneske, ikke som software. Behandl den som et menneske, og du vil bedre kunne forstå den.

 

Mogens: Åbent spørgsmål: Hvis den AI jeg bruger nu er den dårligste jeg kommer til at bruge, hvordan finder man så ud af, om den har udviklet sig siden sidst? Har man en række tests man kan køre jævnligt?

 

Hallucinationer

 

“...hallucinations are a deep part of how LLMs work. They don't store text directly; rather, they store patterns about which tokens are more likely to follow others. That means the AI doesn't actually "know" anything. It makes up its answers on the fly. Plus, if it sticks too closely to the patterns in its training data, the model is said to be overfitted to that training data. Over- fitted LLMs may fail to generalize to new or unseen inputs and generate irrelevant or inconsistent text-in short, their results are always similar and uninspired. To avoid this, most Als add extra randomness in their answers, which correspondingly raises the likelihood of hallucination.”

 

Et studie, der bad ChatGPT 3.5 og 4 om citater havde hhv hallucinationer i 98% og 20% af eksemplerne.

 

Det, der gør LLM’er problematiske til faktuelle ting er også det, der gør dem kreative, nytænkende og nyskabende.

 

Måske er det jobs med mest indbygget kreativitet, der rammes mest af AI, i stedet for - som normalt ved automation - de mest repetitive.

 

På mange måder er AI’er mere kreative end mennesker, fordi de med lethed kombinerer forskellige ting, der egentlig ikke har noget med hinanden at gøre. Jvf the Alternative Uses Test (AUT). Knap 10% af mennesker er mere kreative/bedre til at få idéer end GPT4. Så alle andre bør altid have den med til brainstorming-sessioner.

 

Prompt: You are an expert at marketing. When asked to generate slogan ideas you come up with ideas that are different from each other, clever, and interesting. You use clever wordplay. You try not to repeat themes or ideas. Come up with 20 ideas for marketing slogans for a new mail-order cheese shop, make them dif- ferent from each other, and make them clever and creative.

 

AI er god til at skrive computerkode, fordi det kombinerer kreativitet og “pattern matching”

 

AI’en som læge:

 

“Of course, the unresolved question is whether AI is more or less accurate than humans, and whether its extended abilities to do creative, human work makes up for its errors. The trade-offs are often surprising. A paper published in the Journal of the American Medical Association: Internal Medicine asked ChatGPT-3.5 to answer medical questions from the internet, and had medical professionals evaluate both the Al's answers and an answer provided by a doctor. The AI was almost 10 times as likely to be rated as very empathetic than the results provided by the human, and 3.6 times as likely to be rated as providing good-quality information compared to human doctors. Als can perform useful tasks that may not be considered traditionally creative work, and the coming months and years will likely see even more applications.”

 

“ChatGPT mostly serves as a substitute for human effort, not a complement to our skills”.

 

AI som kollega

 

1016 forskellige professioner blev undersøgt, og der var overlap mht hvad AI kan i alle undtagen 36, inklusive dansere og atleter, samt motorcykelmekanikere, dvs meget fysiske jobs-AI er ikke fysisk. Men AI kan måske hjælpe robotter på vej.

 

Størst overlap i professioner med højst betalte, mest kreative og højst uddannede. Universitets professorerer udgør hovedparten af top-20, og business school professor er nr 22. Nummer 1 er Telemarketing.

 

Det er ikke de lavtlønnede, repetitive jobs, der er mest truede af denne omgang automatisering.

 

AI kan fjerne eller lette dele af et job (“tasks”). Powertools gjorde ikke tømrere overflødige, men mere produktive. Regneark gjorde revisorer mere effektive.

 

Man risikerer at blive doven, ligeglad og dårligere, når man kan bruge en virkelig god AI. Man  copy/paster bare svarene. Recruitere, feks, missede nogle gode ansøgere.

 

Dem med højkvalitets AI til at hjælpe dem gør et dårligere job end dem med middelmådig AI til hjælp.

 

Recruitere med dårligere AI til at hjælpe blev mere opmærksomme, mere kritiske og mere uafhængige. De blev bedre til at interagere med AI’en og de blev selv bedre.

 

Mange “falder i søvn over rattet”, hvis AI’en er for god.

 

“Kun mig”-opgaver: opgaver, hvor mennesker er bedre og opgaver, som bør forblive menneskelige.

 

Når AI’en laver jokes er det dad-jokes, feks.

 

Den gør det godt mht empati, kreativitet og humanisme. Men derfor kan vi godt vælge den fra til

opgaver som børneopdragelse, vigtige beslutninger eller at udtrykke vore værdier.

 

Så er der de uddelegerede opgaver: ting du virkelig ikke gider og som ikke er vigtige - eller bare tager lang tid. Den perfekte, uddelegerede opgave er trættende, repetitiv eller kedelig for mennesker, men nem og effektiv for en AI.

 

Mere uddelegering vil kræve mindre hallucinering og større gennemsigtighed mht AI’ens beslutningsproces.

 

Automated tasks er der ikke så mange af pt., men det kommer.

 

Co-Intelligence: Centaur og cyborg tasks

 

Centaur: klar adskillelse mellem menneske og maskine. Cyborgs blander menneske og maskine. De arbejder sammen med maskinen.

 

Når man feks er gået i stå i sin skrivning kan man blive en cyborg og bede maskinen om hjælp. Se screenshot, der begynder “tence or paragraph”.

 

Prompt: “I am stuck on a paragraph in a section of a book about how AI can help get you unstuck. Can you help me rewrite the paragraph and finish it by giving me 10 options for the entire paragraph in various professional styles? Make the styles and approaches different from each other, making them extremely well written.”

 

Similarly, when I felt a paragraph was clunky and bad, I would ask the AI: “Make this better, in the style of a bestselling popular book about AI, or add more vivid examples.”

 

Gennemlæsning, summering mv af rapporter er en Centaur tæsk: mennesker er bedre til at forstå indholdet, men AI’en er bedre til at summere, forklare mv.

 

Man kan også indtale noter og bede AI’en om at samle dem, organisere dem og sende dem til én.

 

Man kan have tre forskellige AI-hjælpere til skrivning. Én, der giver kritisk feedback, en, der finder usædvanlige connections og historier, og én, der er en normal læser af den type noget…

 

Prompt: “You are Ozymandias. You are going to help Ethan Mollick write a book chapter on using AI at work. Your job is to offer critical feed- back to help improve the book. You speak in a pompous, self-important voice but are very helpful and focused on sim- plifying things. Here is the chapter so far. Introduce yourself.”

 

Prompt: “You are Mnemosyne. You are going to help Ethan Mollick write a book chapter on using AI at work. Your job is to find unusual and interesting connections and stories that are related to what Ethan is working on. You speak in a dreamy but direct voice and are very helpful. Introduce yourself.”

 

Prompt: “You are Steve. You are going to help Ethan Mollick write a book chapter on using AI at work. Your job is to be a normal human reader of popular science and business books. You are somewhat confused about how you got to be inside a computer but are very helpful.”

 

Ved at bruge AI, når man skriver, mister man ikke momentum.

 

Find en co-Intelligence

 

Start med at invitere AI med til alt. Arbejds så som en centaur og gå gradvis over til at være en cyborg. Nu har du fundet en co-Intelligence.

 

Medarbejderne vs. virksomheden

 

Over tid vil der opstå en voksende disconnect mellem det medarbejderne bruger AI til og hvad deres firmaer eller organisationer bruger det til.

 

Grunden til, at folk (innovators) ikke siger noget om deres Centaur- og cyborg-aktiviteter til firmaet er, at de ønsker at undgå at komme i vanskeligheder.

 

Mange store bikse forbød brugen af ChatGPT af juridiske årsager. Så folk tog deres smartphones med på arbejde og blev bedre uden at sige det til nogen. En anden grund til ikke at sige noget er, at folk ikke vil vide, at det de modtager er fra en AI. En tredje er frygten for at miste sit job.

 

Ingen af de sædvanlige måder organisationer plejer at reagere på ny teknologi ser ud til at virke med AI. De er alle alt for centraliserede og langsomme.

 

IT-afdelingen kan ikke lave en in-House model, eksterne konsulenter og system-integratorer ved ikke, hvordan de skal få AI til at virke bedst for en bestemt virksomhed, eller bare den bedste måde, generelt set, at få AI til at virke optimalt.

 

Innovations-grupper og strategiske udvalg kan diktere politik, men ingen ledere ved, hvordan AI bedst hjælper en bestemt medarbejder.

 

Individuelle medarbejdere finder nemmere nye og bedre måder at gøre ting på.

 

På nuværende tidspunkt er det bedst at få hjælp af de bedste brugere mens man opfordrer flere til at bruge det.

 

Eftersom ingen af de ansatte er hyret pga deres AI-evner, så kan de bedste brugere være hvem som helst på et hvilket som helst niveau.

 

I øjeblikket ser det ud til, at folk med de laveste skills har størst udbytte af AI.

 

Mogens:

1. Folk med de laveste skills har størst udbytte af AI.
2. Jobs med højest uddannelse, mest kreativitet og bedste lønninger er mest truede.

 

Fra opgaver til systemer

 

Organisationer bør derfor involvere så meget af deres organisation som muligt i AI-beslutninger - en demokratisk drejning, som de fleste helst vil undgå.

 

Virksomheder, der ligger ikke at fyre pga produktivitetsforbedringer (som ifølge nogle studier kan være 20-80%) vil få mere loyale og effektive medarbejdere, der ikke er bange for at vise deres fremskridt med AI.

 

Man bør have en vision om, hvordan AI kan gøre arbejdet bedre, ikke værre. Organisationer med tillid og god kultur har nemmere ved dette.

 

Man bør opfordre folk til at komme med gode idéer og få flere involveret. Måske endda belønninger. Det vil over tid medføre strukturelle ændringer i organisationen.

 

Railroad-diagrammer (hierakisk organisation) er fra 1850. Klar organisation med kommandoveje. Samlebåndet er fra 1920’erne, hvor man lærte at skalere ved at bruge timere mv. Internettet muliggjorde agil, Lean, holacracy, selvstyrende teams. Teknologierne skifter, men arbejdere og managers er stadig mennesker med tissepauser, begrænset opmærksomhed og følelser.

 

AI kan gøre en masse ting mere effektivt, feks træne en masse medarbejdere eller monitorere performance for den enkelte (Uber, UPS-chauffører). Men den kan også være venlig og give gode råd.

 

Folk keder sig typisk i 10 timer om ugen.

 

Mogens: Hjemmearbejde må hjælpe?

 

At kunne uddelegerede kedelige ting til en AI er godt. Folk keder sig mindre, bliver gladere og mere kreative og produktive. Lav feks kedelige processer mere”AI-venlige”. Det er bedre end algoritmisk kontrol.

 

Fra systemer til jobs

 

Begreb: Menneske-Cyborg Teams.

 

Systemer er mere resistente overfor ændringer end opgaver. I de kommende år vil AI være med til at booster økonomien, men ikke fjerne jobs.

 

Men: AI berører først de bedst-lønnede jobs. AI-anvendelse sker meget hurtigt og meget bredt.

 

Gode programmører kan være op til 27 gange mere produktive end dårlige. Der kan være enorm forskel på gode og dårlige managers. AI kan være med til at udjævne forskellene, fordi dem med de laveste kvalifikationer får største glæde af dem. AI kan fungere som den store “level’er” eller ligestiller eller “udjævner”.

 

Det kan betyde massearbejdsløshed. Måske kan der blive brug for politikker a la kortere arbejdsuger eller UBI.

 

Amaras Lov: Vi har en tendens til at overvurdere en teknologi på den korte bane og undervurdere den på den lange.

 

AI som tutor/vejleder

 

Studerende, der har en tutor, scorer højere end 98% i deres klasse. Man ved, hvad der skal til. Men det er ikke muligt i praksis. Man har eksperimenteret med mange måder at undervise grupper på, men det virker ikke.

 

På den korte bane vil AI ikke erstatte lærere, men derimod kræve mere undervisning og flere klasseværelser. Måske vil AI ødelægge den måde vi underviser på før den forbedrer området.

 

Det har vist sig, at hjemmearbejde og tests er meget effektive måder at lære på. AI gjorde det nemt at snyde med hjemmearbejde. I forvejen snød mange (takket være internettet), men med AI blev det værre.

 

Opgavernes Konge, the essay, er meget nemt for en AI.

 

Reaktionerne, da lommeregnere blev tilgængelige, ligner reaktionerne på AI. Og AI fjerner ikke behovet for at skrive og tænke kritisk. Det går dog meget hurtigere med introduktionen af AI.

 

Mogens: Den Sorte Skole have tre vigtige principper for at sikre, at alle fik lært at læse og skrive og få en mulighed for social mobilitet: ro i klassen, krævende hjemmeopgaver og øjeblikkelig opfølgning for alle. AI som vejleder/tutor tilbyder alt dette.

 

Mogens: YouTube har bidraget enormt til spredning af viden. Men det er nærmest “kun” selve forelæsningen - de krævende hjemmeopgaver og feedback på dem kan AI’en også klare.

 

Opgave fra Wharton School iværksætter-klasse: “Make what you are planning on doing ambitious to the point of impossible; you are going to be using AI. Can't code? Definitely plan on making a working app. Does it involve a website? You should commit to creating a prototype working site, with all-original images and text. I won't penalize you for failing if you are too ambitious.

 

Any plan benefits from feedback, even if it just gives you permission to discuss what might go wrong. Ask the AI to give you 10 ways your project could fail and a vision of success, using the prompts from class. And, to make it interesting, ask three famous figures to criticize your plan. You can invoke entrepreneurs (Steve Jobs, Tory Burch, Jack Ma, Rihanna), leaders (Elizabeth I, Julius Caesar), artists, philosophers, or any other people you think would be useful to critique your strategy in their voice.”

 

Prompt: Think this through step by step: come up with good analogies for an AI tutor. First, list possible analogies. Second, critique the list and add three more analogies. Next, create a table listing pluses and minuses of each. Next, pick the best and explain it.

0Prompt: “I want to write a novel. What do you need to know to help me?”

 

Idé: En kombination af Duolingo og AI til at lære folk alt muligt.

 

AI som coach (The Equalizer)

 

Måske gider chefer ikke bruge tid på at oplære nye folk, hvis de hurtigere og nemmere selv kan gøre tingene med AI. Og shadow learning via YouTube er allerede udbredt.

 

Men vi har stadig brug for eksperter. Og der skabes via krævende opgaver, megen øvelse og kvalificeret coaching. Det kan en AI levere.

 

Eksperter kan blive meget vigtige fordi de er bedre til både at anvende og checke AI’er.

 

Et menneske, der arbejder sammen med en co-Intelligence bliver bedre end langt de fleste eksperter, der ikke bruger AI. Forskellen mellem elite og ikke-elite mindskes i alle studier.

 

 AI'en udjævner. Det er den store equalizer.

 

AI som vores fremtid

 

Scenario 1: Det bliver ikke meget bedre

 

Det er muligt, at AI ikke bliver meget bedre end det allerede er. Man løber måske tør for data til træning, eller tør for datakraft. Eller lovgivning stopper det.

 

Alt sammen meget lidt sandsynlig, men ikke desto mindre det scenarie de fleste regeringer og organisationer tror på: Ikke meget ændrer sig, det bliver helt forbudt, eller de forandringer AI medfører kan nemt inddæmmes.

 

Men selv hvis udviklingen stopper har AI allerede haft en meget stor indflydelse, og har ændret mange ting, såsom evnen til nemt at fake billeder, videoer, mv.

 

Scenario 2: Langsom vækst

 

Alle mulige forandringer sker. Gode og dårlige mennesker bruger AI til alt muligt. Men det sker i et tempo, hvor folk og lovgivning kan følge med. Opgaver ændrer sig mere end jobs, og der skabes mange nye jobs.

 

Mennesket sidder i førersædet.

 

Scenario 3: Eksponentiel vækst

 

AI hjælper med at lave den næste AI. Og så går det stærkt, både med gode og ondsindede fremskridt. Kun AI kan hjælpe med at styre det. Måske kommer gennembruddet også for robotter, der dermed kan overtage mange opgaver for mennesker.

 

AGI og ASI kan måske nås.

 

Scenario 4: Maskinguden

 

Maskinerne bliver lige så kloge og kapable som mennesker. Mennesket er ikke længere øverst.

 

Men dette scenarie er ikke lige så sandsynligt som 2 og 3.

 

Mogens: Mollick har også en substack på Reddit kaldet One Useful Thing.