Det 44:e avsnittet av SK-podden var ett rent experiment, motiverat av att både Richard och jag drabbats av influensa, med bland annat hosta och ont i halsen. En bekant till oss som är pionjär på detta med artificiella röster tog för en tid sedan fram våra profiler och nu behövde vi bara ge AI några huvudstolpar för att den skulle skapa en digital version av podden. Den låter anmärkningsvärt likt de äkta. Vilka var dina intryck och tankar kring inslaget?

Jag är humanist och måste tillstå att utvecklingen kring generativ AI bekymrar mig mycket. Möjligheterna är svindlande, men också riskerna. Det är så många sätt som det kan gå snett på, även om man menar väl. För att inte tala om vilka risker som finns om man har illvilliga intentioner..!

Jag har en längre tid experimenterat med ChatGPT rent journalistiskt. Det är imponerande att se hur snabbt verktyget utvecklas och vilka uppgifter generativ AI kan utföra. Samtidigt har jag en gnagande känsla av att de negativa aspekterna kan vara minst lika stora som de positiva. Ju mer vi får maskiner att utföra sysslor åt oss desto mer avlastning innebär det, rent teoretiskt. I praktiken blir det dock oftast så att vi bara tar på oss fler uppgifter istället och arbetar i slutänden lika mycket, eller mer än tidigare.

En annan av de farhågor jag ser med dessa nya verktyg är att vi blir allt mindre kapabla att själva fungera. Vem bryr sig om att kunna stava när vi har rättstavningsprogram, eller att göra kalkyler när vi har miniräknare? Dessa exempel är baserade på teknik som funnits i årtionden, så föreställ dig hur det blir när AI successivt klarar att göra allt fler av våra vardagssysslor och dessutom betydligt bättre än vi själva? Risken är stor att vi förvandlas till idioter som inte klarar att prestera något som helst utan digital hjälp.

På ett rent intellektuellt plan är jag också väldigt bekymrad över de uppenbara risker som generativ AI medför. När dessa verktyg snart blir kapabla att skriva perfekta romaner och musikstycken, vad kommer då att ske med den mänskliga kreativiteten? Och hur tillfredsställande kommer det egentligen att vara med konst och underhållning som är tekniskt fulländad, men helt saknar själ?

Till den här bloggen gav jag ChatGPT följande kommando:

Lista de fem största möjligheterna och de fem största farorna med generativ AI för mänskligheten

Detta fick jag till svar på mindre än en minut:

Möjligheter med generativ AI för mänskligheten

Innovation och Kreativitet
Generativ AI kan stimulera kreativitet genom att erbjuda nya perspektiv och idéer inom konst, design, musik och andra kreativa områden. Det kan hjälpa konstnärer att skapa verk som de annars inte skulle ha kunnat tänka sig.

Medicin och Hälsa
AI kan analysera stora mängder medicinska data för att upptäcka nya behandlingsmetoder och läkemedel. Det kan även hjälpa till med personlig medicin, genom att anpassa behandlingar baserat på individuella genetiska profiler.

Utbildning
AI-drivna verktyg kan anpassa sig efter varje students inlärningsstil och behov, vilket kan förbättra utbildningskvaliteten och göra lärandet mer tillgängligt och effektivt.

Effektivitet och Produktivitet
Genom att automatisera repetitiva och tidskrävande uppgifter kan AI frigöra tid för människor att fokusera på mer kreativa och strategiska uppgifter. Detta kan leda till ökad produktivitet i många branscher.

Miljö och Hållbarhet
AI kan användas för att optimera energiförbrukning, minska avfall och förbättra hållbarhetsinsatser inom olika industrier. Det kan även hjälpa till med att modellera och förutsäga klimatförändringar.

Faror med generativ AI för mänskligheten

Etiska och Moraliska Dilemma
Generativ AI kan skapa innehåll som är svårt att skilja från verkligt material, vilket kan leda till spridning av desinformation och falska nyheter. Detta kan undergräva tillit till medier och institutioner.

Jobbförlust och Ekonomisk Ojämlikhet
Automatisering av arbetsuppgifter kan leda till att många jobb försvinner, vilket kan öka arbetslösheten och förvärra ekonomisk ojämlikhet om inte nya jobb skapas i samma takt.

Sekretess och Datasäkerhet
Insamling och användning av stora mängder personuppgifter av AI-system kan leda till integritetskränkningar och missbruk av information. Säkerheten för dessa data blir en kritisk fråga.

Bias och Diskriminering
AI-system kan förstärka och reproducera befintliga bias och fördomar som finns i de data de tränas på. Detta kan leda till diskriminering och orättvisa behandlingar i allt från rättssystem till anställningsprocesser.

Existentiella Risker
Om AI-system utvecklas utan tillräcklig kontroll och förståelse, kan de potentiellt utveckla mål och beteenden som är oförenliga med mänskliga värderingar och säkerhet. Detta kan leda till oförutsägbara och potentiellt farliga situationer.

Sammanfattning
Generativ AI har potential att revolutionera många aspekter av mänskligt liv, men det är också förknippat med betydande risker. Det är viktigt att noggrant överväga både möjligheterna och farorna för att säkerställa en balanserad och ansvarsfull utveckling och användning av denna teknologi.

Så länge vi har kvar vår egen analytiska förmåga bör vi noggrant begrunda vart vi är på väg. För hur enastående möjligheterna med generativ AI än är så är det uppenbart att vi står inför en radikal omvandling av verkligheten som vi har känt till den de senaste årtusendena.

Lyssna på den "falska" podden i fredags: