Pasaulio lyderiams Paryžiuje susirenkant į pagrindinį viršūnių susitikimą, kuriame pagrindinis dėmesys skiriamas dirbtiniam intelektui, įvairių sektorių ekspertai pasisako už tai, kad reikia tvirtų dirbtinio intelekto taisyklių, kurios padėtų žmonėms prižiūrėti šią galingą technologiją.
Šių metų susirinkimas, kurį kartu rengia Prancūzija ir Indija, žymi perėjimą nuo ankstesnių renginių, tokių kaip susirinkimai Bletchley parke ir Seule, kuriuose daugiausia buvo kalbama apie DI saugumą.2024 m.aukščiausiojo lygio susitikime siekiama aprėpti platesnę AI valdymo, tvarumo ir pramonės atsakomybės perspektyvą.
Perėjimas prie AI valdymo ir galimybių
Prancūzijos darbotvarkėje sąmoningai pabrėžiama ne tik DI teikiama rizika, bet ir galimybės.„Mes nenorime kalbėti tik apie riziką. Taip pat yra ir labai realių galimybių aspektas“, – teigė Prancūzijos prezidento Emmanuelio Macrono dirbtinio intelekto pasiuntinė Anne Bouverot.
Tačiau šį optimistinį požiūrį supa skepticizmas. Maxas Tegmarkas, Future of Life instituto prezidentas, perspėja, kad nors galimybės egzistuoja, jos neturi užgožti skubių veiksmų prieš didėjančias AI keliamas grėsmes.„Prancūzija buvo nuostabi tarptautinio bendradarbiavimo čempionė ir dabar turi galimybę vadovauti pasaulinei bendruomenei“, – komentavo žymus MIT fizikas.
Dirbtinio intelekto rizikos mažinimas pasitelkus pasaulines iniciatyvas
Iniciatyviu žingsniu aukščiausiojo lygio susitikime buvo pristatyta pasaulinio pasirengimo rizikai ir dirbtinio intelekto saugos sistema (GRASP).Šia iniciatyva, kurią remia Future of Life institutas, siekiama analizuoti ir sumažinti su AI susijusią riziką, nustatant veiksmingus pasaulinius saugos sprendimus.„Mes nustatėme apie 300 įrankių ir technologijų, skirtų šiai rizikai įveikti“, – paaiškino GRASP koordinatorius Cyrusas Hodesas.
Neseniai išleistoje novatoriškoje tarptautinėje AI saugos ataskaitoje – 96 ekspertų įžvalgų rinkinyje, kurį patvirtino šalys, įskaitant 30 šalių, taip pat pagrindinės organizacijos, tokios kaip JT ir EBPO, – pabrėžiama įvairi rizika – nuo dezinformacijos iki rimtų grėsmių, tokių kaip biologinės atakos ir kibernetinis karas.
Žymus dirbtinio intelekto tyrinėtojas ir Turingo premijos laureatas Yoshua Bengio išreiškė nuogąstavimus dėl pavojaus prarasti AI technologijų kontrolę ir tvirtino, kad „nuolat atsiranda papildomų pavojų, o ilgainiui AI gali išsiugdyti savo išlikimo instinktus, o tai gali sukelti nenumatytų pasekmių“.
Gresia dirbtinio bendrojo intelekto grėsmė
Vienas didžiausių AI specialistų rūpesčių yra greitas pažanga link dirbtinio bendro intelekto (AGI), galinčio pranokti žmogaus intelektą įvairiose srityse. Samas Altmanas, OpenAI generalinis direktorius, kartu su Dario Amodei iš Anthropic teigė, kad AGI atėjimas gali sutapti su ateinančiais keleriais metais.
„Jei tik pažvelgsite į pažangos tempą, tai verčia galvoti, kad pasieksime iki 2026 ar 2027 m.“, – lapkritį pažymėjo Amodei. Tačiau Tegmarkas paskelbė griežtą įspėjimą dėl galimo scenarijaus, kai AI lyderiai, ypač JAV ir Kinijoje, praras AGI kontrolę, o tai gali sukelti pasaulį, kuriame dominuoja išmaniosios mašinos.
AI in Warfare: augantis susirūpinimas
Viena iš svarbiausių tiesioginių grėsmių kyla dėl autonominių ginklų, maitinamų AI. Stuartas Russellas, UC Berkeley profesorius ir Tarptautinės saugaus ir etiško AI asociacijos (IASEI) koordinatorius, pabrėžė savo susirūpinimą dėl AI sistemų, priimančių mūšio lauko sprendimus.„Didžiausia baimė yra tai, kad dirbtinis intelektas priima mūšio lauko sprendimus – pasirenka, ką ir kada pulti – be žmogaus priežiūros“, – pareiškė jis.
Ekspertai vieningai tvirtina, kad vyriausybės turi nedelsdamos imtis veiksmų, kad AI reguliuotų taip pat griežtai kaip ir kitos didelės rizikos pramonės šakos.„Jei kas nors nori statyti branduolinį reaktorių, prieš statydamas turi įrodyti, kad jis saugus. DI turėtų būti traktuojamas taip pat“, – pabrėžė Tegmarkas.
Paryžiuje vykstant diskusijoms, išlieka neatidėliotinas klausimas: kaip pasaulis gali panaudoti didžiulį AI potencialą ir užtikrinti, kad jis nepabėgtų nuo žmogaus kontrolės? Ateinantys mėnesiai yra labai svarbūs nustatant, ar veiksmingas AI valdymas gali neatsilikti nuo sparčios technologijų evoliucijos, ar žmonija rizikuos atsilikti.
Dažnai užduodami klausimai
1. Kodėl Paryžiaus aukščiausiojo lygio susitikimas dirbtinio intelekto klausimais yra svarbus?
Paryžiaus aukščiausiojo lygio susitikimas yra labai svarbus, nes jame sprendžiami ir dirbtinio intelekto potencialai, ir keliami pavojai, daugiausia dėmesio skiriant tarptautinių taisyklių nustatymui, siekiant užtikrinti, kad dirbtinis intelektas būtų kontroliuojamas žmogaus, kartu skatinant naujoviškas valdymo strategijas.
2. Kokios iniciatyvos buvo pradėtos siekiant spręsti AI saugos riziką?
Pasaulinės rizikos ir dirbtinio intelekto pasirengimo saugai (GRASP) platforma buvo paleista siekiant analizuoti ir sumažinti su AI technologija susijusią riziką. Juo siekiama nustatyti apie 300 priemonių ir strategijų, skirtų veiksmingai kovoti su galimomis grėsmėmis.
3. Kas kelia susirūpinimą dėl dirbtinio bendro intelekto (AGI)?
Ekspertai išreiškia susirūpinimą, kad AGI gali pranokti žmogaus intelektą, todėl gali atsirasti scenarijų, kai AI sistemos veikia autonomiškai, o tai gali sukelti nenumatytų pasekmių ir prarasti kritinių sistemų kontrolę.
Parašykite komentarą