Mens globale ledere samles i Paris for et sentralt toppmøte med fokus på kunstig intelligens, forkjemper eksperter på tvers av ulike sektorer behovet for robuste AI-regler for å opprettholde menneskelig tilsyn med denne kraftige teknologien.
Årets samling, arrangert av Frankrike og India, markerer et skifte fra tidligere arrangementer, som samlingene i Bletchley Park og Seoul, som hovedsakelig tok for seg AI-sikkerhet.2024-toppmøtet har som mål å innkapsle et bredere perspektiv på AIs styring, bærekraft og industriansvar.
Et skifte mot AI-styring og -muligheter
Frankrikes agenda understreker med vilje ikke bare risikoen, men også mulighetene AI gir.«Vi vil ikke bare snakke om risikoen. Det er det veldig reelle mulighetsaspektet også, sa Anne Bouverot, AI-utsending for Frankrikes president Emmanuel Macron.
Likevel er det skepsis rundt dette optimistiske synet. Max Tegmark, president for Future of Life Institute, advarer om at selv om det finnes muligheter, må de ikke overskygge akutte tiltak mot de økende truslene fra AI.«Frankrike har vært en fantastisk forkjemper for internasjonalt samarbeid og har nå sjansen til å lede det globale samfunnet, « kommenterte den kjente MIT-fysikeren.
Håndtere AI-risikoer med globale initiativ
I et proaktivt trekk har toppmøtet introdusert rammeverket Global Risk and AI Safety Preparedness (GRASP).Dette initiativet, støttet av Future of Life Institute, forsøker å analysere og redusere AI-relaterte risikoer ved å identifisere effektive globale sikkerhetsløsninger.«Vi har identifisert rundt 300 verktøy og teknologier for å takle disse risikoene, « forklarte GRASP-koordinator Cyrus Hodes.
Nylig utgitt, den banebrytende internasjonale AI-sikkerhetsrapporten – en samling av innsikter fra 96 eksperter og godkjent av nasjoner inkludert 30 land, samt store organisasjoner som FN og OECD – fremhever ulike risikoer som spenner fra feilinformasjon til alvorlige trusler som biologiske angrep og cyberkrigføring.
Den fremtredende AI-forskeren og mottakeren av Turing-prisen, Yoshua Bengio, ga uttrykk for sine bekymringer over risikoen for å miste kontrollen over AI-teknologier, og hevdet at «Bevis stadig dukker opp for ytterligere risikoer, og på lang sikt er det potensialet for AI til å utvikle sine overlevelsesinstinkter, noe som fører til utilsiktede konsekvenser.»
Den truende trusselen om kunstig generell intelligens
Blant de største bekymringene til AI-spesialister er den raske utviklingen mot kunstig generell intelligens (AGI), som er i stand til å overgå menneskelig intellekt på tvers av et spekter av domener. Sam Altman, administrerende direktør i OpenAI, sammen med Dario Amodei fra Anthropic, har antydet at AGIs ankomst kan falle sammen med de neste årene.
«Hvis du bare ser på tempoet i fremskritt, får det deg til å tro at vi vil komme dit innen 2026 eller 2027, » bemerket Amodei i november. Imidlertid ga Tegmark en sterk advarsel angående det potensielle scenariet der AI-ledere, spesielt i USA og Kina, mister kontrollen over AGI, noe som potensielt kan føre til en verden dominert av intelligente maskiner.
AI in Warfare: A Growing Concern
En av de viktigste umiddelbare truslene ligger i riket av autonome våpen drevet av AI. Stuart Russell, professor ved UC Berkeley og koordinator for International Association for Safe and Ethical AI (IASEI), understreket bekymringene sine angående AI-systemer som tar beslutninger på slagmarken.«Den største frykten er AI som tar beslutninger på slagmarken – å velge hvem som skal angripes og når – uten menneskelig tilsyn, « sa han.
Eksperter argumenterer enstemmig for at regjeringer må handle uten forsinkelser for å regulere AI med samme strenghet som andre høyrisikoindustrier.«Hvis noen ønsker å bygge en atomreaktor, må de bevise at den er trygg før bygging. AI bør behandles på samme måte, understreket Tegmark.
Mens diskusjonene utspiller seg i Paris, gjenstår det presserende spørsmålet: Hvordan kan verden utnytte det enorme potensialet til AI samtidig som det sikrer at det ikke unnslipper menneskelig kontroll? De kommende månedene er avgjørende for å avgjøre om effektiv AI-styring kan holde tritt med den raske teknologiske utviklingen, eller om menneskeheten vil risikere å falle på etterskudd.
Ofte stilte spørsmål
1. Hvorfor er Paris-toppmøtet om AI viktig?
Paris-toppmøtet er sentralt da det tar for seg både potensialet og risikoen ved kunstig intelligens, med fokus på å etablere internasjonale reguleringer for å sikre at AI forblir under menneskelig kontroll samtidig som det fremmer innovative styringsstrategier.
2. Hvilke initiativer ble lansert for å møte AI-sikkerhetsrisikoer?
Global Risk and AI Safety Preparedness (GRASP)-plattformen ble lansert for å analysere og redusere risiko knyttet til AI-teknologi. Den har som mål å identifisere rundt 300 verktøy og strategier for å motvirke potensielle trusler effektivt.
3. Hva er bekymringene angående kunstig generell intelligens (AGI)?
Eksperter uttrykker bekymring for at AGI kan overgå menneskelig intelligens, noe som fører til scenarier der AI-systemer opererer autonomt, noe som potensielt kan resultere i utilsiktede konsekvenser og tap av kontroll over kritiske systemer.
Legg att eit svar