Den teknologiske udvikling kommer mod os med lynets hast. Kunstig intelligens, autonome våbensystemer, muligheder for at forbedre hjernen eller styre den, ufatteligt hurtige kvantum computere, sofistikerede overvågningssystemer og næsten uendelige muligheder for at manipulere med os alle.
Mennesker, der er lammet, får førligheden igen. Uønskede dele af din DNA kan blive klippet af. Butikker og annoncer tilbyder dig præcist det, du ønsker dig, mens de sociale medier giver dig præcist de informationer, der glæder eller forarger netop dig allermest.
Du er sjældent alene. De fleste af dine bevægelser og handlinger bliver registreret og mange af dem gemt. Af hensyn til din egen eller andres sikkerhed, for at fastholde kontrol og magt eller måske for at kunne ramme dig endnu bedre med det næste tilbud – hvad enten det er en politisk holdning eller den seneste nye dims, der med byttegaranti vil forbedre dit liv.
Autonome krigsmaskiner bestemmer selv – ud fra de data, de er blevet fodret med – hvem der skal leve eller dø, uden at blive forstyrret af menneskelige hensyn og tvivl. Den type droner blev for eksempel brugt i den seneste krig om enklaven Nagorno-Karabakh og i Libyen.
Meget af det er nutid. Der er meget mere på vej fra de lande og virksomheder, der mestrer og ejer teknologien, og der er meget få internationale, regionale eller nationale regler for, hvad der må udvikles, sælges og bruges, hvor og til hvad.
EU bruger overvågningsteknologi ved grænserne, som europæerne kritiserer andre for at bruge til at kontrollere befolkningen. FN’s generalsekretær, Antonio Guterres, kræver fuldt stop for brug af autonome våbensystemer. EU-kommissionen har præsenteret medlemslandene for et forslag til regler i Europa.
Men indtil videre er det ikke lykkedes at få hamret de hegnspæle i, der kan regulere og i nogle tilfælde bremse udviklingen og brugen af den nye teknologi. Den regulering, der skal fremme de bedste og forhindre de værste sider af især den kunstige intelligens.
“Det kan få hårene til at rejse sig på hovedet,” siger Michael Møller, der efter en lang karriere i FN-systemet som blandt andet undergeneralsekretær og generaldirektør for FN i Geneve, nu er leder af den diplomatiske del af GESDA. GESDA, der er et samarbejde mellem især forskere og diplomater. arbejder med at forudsige den teknologiske udvikling og udarbejde forslag til, hvordan den kan tøjles.
Den danske regering har sat fokus på teknologi og demokrati og holder en stor international konference om dette den 18. november. Den og en række optaktsmøder kan følges online. Der er tilmelding på hjemmesiden.
Og hvis Globalnyts læsere gerne vil have et koncentrat af nogle af de vigtigste problemstillinger, så kan man få det i den netop udkomne sæson to af Podcastserien 75 år med FN. Afsnit 10 handler om udfordringerne med den nye teknologi og med at regulere den.
Her skuer Michael Møller ind i fremtiden for både teknologien og mulighederne for at tøjle den. Forfatter og tek-konsulent Peter Svarre fortæller blandt andet om de sociale mediers algoritmer og diskussionen om, hvad vi stiller op med eventuel superintelligens.
Seriens sæson 2, FN for fremtiden, er produceret af Flemming Weiss Andersen og Kirsten Larsen for Radikale Venstres Internationalt Udvalg og finansieret af Lannung Fonden.
