Mens globale ledere mødes i Paris til et centralt topmøde med fokus på kunstig intelligens, kæmper eksperter på tværs af forskellige sektorer for behovet for robuste AI-regler for at opretholde menneskeligt tilsyn med denne kraftfulde teknologi.
Dette års sammenkomst, der er arrangeret af Frankrig og Indien, markerer et skift fra tidligere begivenheder, såsom samlingerne i Bletchley Park og Seoul, der overvejende omhandlede AI-sikkerhed.2024-topmødet har til formål at indkapsle et bredere perspektiv på AI’s styring, bæredygtighed og brancheansvar.
Et skift mod AI-styring og -muligheder
Frankrigs dagsorden understreger med vilje ikke kun risiciene, men også de muligheder, som AI giver.“Vi ønsker ikke kun at tale om risiciene. Der er også det meget reelle mulighedsaspekt, ” sagde Anne Bouverot, AI-udsending for den franske præsident Emmanuel Macron.
Alligevel er der skepsis omkring denne optimistiske opfattelse. Max Tegmark, formand for Future of Life Institute, advarer om, at selvom muligheder eksisterer, må de ikke overskygge akutte handlinger mod de voksende trusler fra AI.“Frankrig har været en vidunderlig forkæmper for internationalt samarbejde og har nu chancen for at lede det globale samfund, “ kommenterede den bemærkede MIT-fysiker.
Håndtering af AI-risici med globale initiativer
I et proaktivt træk har topmødet introduceret GRASP-rammen (Global Risk and AI Safety Preparedness).Dette initiativ, bakket op af Future of Life Institute, bestræber sig på at analysere og afbøde AI-relaterede risici ved at identificere effektive globale sikkerhedsløsninger.“Vi har identificeret omkring 300 værktøjer og teknologier til at håndtere disse risici, “ forklarede GRASP-koordinator Cyrus Hodes.
For nylig udgivet fremhæver den banebrydende International AI Safety Report – en samling af indsigter fra 96 eksperter og godkendt af nationer, herunder 30 lande, samt store organisationer som FN og OECD – forskellige risici lige fra misinformation til alvorlige trusler som biologiske angreb og cyberkrigsførelse.
Den fremtrædende AI-forsker og modtageren af Turing-prisen, Yoshua Bengio, udtrykte sin bekymring over risikoen for at miste kontrollen over AI-teknologier og hævdede, at “Beviset dukker støt på yderligere risici, og på lang sigt er der potentiale for AI til at udvikle sine overlevelsesinstinkter, hvilket fører til utilsigtede konsekvenser.”
Den truende trussel om kunstig generel intelligens
Blandt de største bekymringer for AI-specialister er den hurtige fremgang i retning af kunstig generel intelligens (AGI), der er i stand til at overgå menneskelig intellekt på tværs af et spektrum af domæner. Sam Altman, CEO for OpenAI, har sammen med Dario Amodei fra Anthropic foreslået, at AGI’s ankomst kunne falde sammen med de næste par år.
“Hvis du bare ser på fremskridtstempoet, får det dig til at tro, at vi når dertil i 2026 eller 2027, ” bemærkede Amodei i november. Tegmark udsendte dog en skarp advarsel om det potentielle scenario, hvor AI-ledere, især i USA og Kina, mister kontrollen over AGI, hvilket potentielt fører til en verden domineret af intelligente maskiner.
AI i krigsførelse: En voksende bekymring
En af de mest betydelige umiddelbare trusler ligger i området for autonome våben drevet af AI. Stuart Russell, professor ved UC Berkeley og koordinator for International Association for Safe and Ethical AI (IASEI), understregede sine bekymringer med hensyn til AI-systemer, der træffer beslutninger på slagmarken.“Den største frygt er AI, der træffer beslutninger på slagmarken – at vælge, hvem der skal angribe og hvornår – uden menneskelig opsyn, “ sagde han.
Eksperter hævder enstemmigt, at regeringer skal handle uden forsinkelse for at regulere kunstig intelligens med samme strenghed som andre højrisikoindustrier.“Hvis nogen vil bygge en atomreaktor, skal de bevise, at den er sikker før byggeriet. AI bør behandles på samme måde, ” understregede Tegmark.
Mens diskussionerne udspiller sig i Paris, forbliver det presserende spørgsmål: Hvordan kan verden udnytte AI’s enorme potentiale og samtidig sikre, at den ikke undslipper menneskelig kontrol? De kommende måneder er afgørende for, om effektiv AI-styring kan holde trit med den hurtige teknologiske udvikling, eller om menneskeheden vil risikere at komme bagud.
Ofte stillede spørgsmål
1. Hvorfor er Paris-topmødet om kunstig intelligens vigtigt?
Paris-topmødet er centralt, da det adresserer både potentialet og risiciene ved kunstig intelligens med fokus på at etablere internationale regler for at sikre, at AI forbliver under menneskelig kontrol og samtidig fremme innovative styringsstrategier.
2. Hvilke initiativer blev iværksat for at imødegå AI-sikkerhedsrisici?
Global Risk and AI Safety Preparedness (GRASP)-platformen blev lanceret for at analysere og afbøde risici forbundet med AI-teknologi. Det sigter mod at identificere omkring 300 værktøjer og strategier til effektivt at modvirke potentielle trusler.
3. Hvad er bekymringerne vedrørende kunstig generel intelligens (AGI)?
Eksperter udtrykker bekymring for, at AGI kan overgå menneskelig intelligens, hvilket fører til scenarier, hvor AI-systemer fungerer autonomt, hvilket potentielt kan resultere i utilsigtede konsekvenser og tab af kontrol over kritiske systemer.
Skriv et svar