Som en liten snäll leksak. Njae . . .
Jag brukar inte hemfalla åt dystopi, men nu kan jag inte låta bli.
Plötsligt skrivs det om AI, artificiell intelligens, precis överallt.
Mycket är gott. Den kan:
Bekämpa fattigdom genom stärkt beredskap vid torka och översvämningar så att hjälp snabbt sätts in.
Bidra till att identifiera sjukdomar, minska energianvändningen, reducera olyckor och utveckla nya läkemedel.
Blixtsnabbt analysera stora mängder komplexa data och skapa robotar som jobbar i farliga miljöer.
Hjälpa oss att uppnå 80 procent av FN:s globala mål för hållbar utveckling.
Och en massa annat.
Men det finns bekymmer.
• Vad är AI:s övergripande mål? Är det att alltid verka för det som gynnar mänskligheten?
• Hur formuleras i sådana fall ett sådant mål?
• Och hur garderar vi oss mot att det uppstår situationer vi inte tänkt på, där AI kan kringgå det formulerade målet?
Industrimagnaten Elon Musk har tillsammans med tusen forskare i techbranschen krävt en omedelbar paus för utvecklingen av AI eftersom företagens kapplöpning riskerar leda till att vi förlorar kontrollen över vår civilisation.
"Förlorar kontrollen över vår civilisation". Inga små ord direkt.
Faran är att AI håller på att bli så smart, långt smartare än vi själva, att den tar över och utplånar mänskligheten, varnade framlidne fysikern Stephen Hawking redan 2014.
Detta eftersom en mänsklig utplåning, logiskt sett, är det bästa för jordens fortlevnad. Vilket AI begriper eftersom den agerar rationellt, inte känslomässigt.
Så nej, jag är inte orolig för klimatet, bara för människan.
Jag tror att jorden klarar sig länge än, måhända med helt annat liv än idag, men likväl vid liv.
Vore det inte en ödets ironi, så säg. Att vi människor som alltid sett oss som överlägsna alla andra arter blir vår egen värsta fiende?
Vilket vi förvisso redan är genom att systematiskt förstöra livsvillkoren för både oss själva och allt annat levande.
Jorden har funnits i 4 miljarder år. I 500 miljoner år har det funnits liv.
Dinosaurierna levde i 250 miljoner år innan en asteroid utplånade dem.
Människan i 200 000 år, innan hon genom att uppfinna en intelligentare existens förintade sig själv.
Den rationellt tänkande AI:n kanske gör det som måste göras: Förgöra människan för att rädda jorden.
Vilken paradox!
Vilken grand finale för "skapelsens krona"!
Och rätt åt oss.
Människan – den mest invasiva arten av dem alla – som fick en chans.
Men som inte tog den.
Podden
Glennings gliringar, avsnitt 23: Unge, skaffa dig ett liv!