Pařížský summit o umělé inteligenci: Odborníci požadují přísnější předpisy pro udržení kontroly nad vývojem umělé inteligence

Zatímco se světoví lídři scházejí v Paříži na stěžejním summitu zaměřeném na umělou inteligenci, odborníci z různých sektorů prosazují potřebu robustních regulací AI, aby byl lidský dohled nad touto výkonnou technologií zachován.

Letošní setkání, které společně pořádají Francie a Indie, znamená posun od předchozích akcí, jako jsou setkání v Bletchley Parku a Soulu, které se zabývaly především bezpečností umělé inteligence. Summit v roce 2024 si klade za cíl zapouzdřit širší pohled na řízení AI, udržitelnost a odpovědnost průmyslu.

Posun k AI Governance a příležitostem

Francouzská agenda záměrně zdůrazňuje nejen rizika, ale také příležitosti, které AI nabízí.„Nechceme mluvit jen o rizicích. Je tu také aspekt velmi reálné příležitosti, “ uvedla Anne Bouverotová, vyslankyně francouzského prezidenta Emmanuela Macrona pro AI.

Přesto panuje kolem tohoto optimistického pohledu skepse. Max Tegmark, prezident Future of Life Institute, varuje, že i když příležitosti existují, nesmí zastínit naléhavou akci proti rostoucím hrozbám, které AI představuje.„Francie byla úžasným šampionem mezinárodní spolupráce a nyní má šanci vést globální komunitu, “ komentoval známý fyzik z MIT.

Řešení rizik AI pomocí globálních iniciativ

Summit jako proaktivní krok představil rámec globální připravenosti na rizika a AI (GRASP).Tato iniciativa, podporovaná Future of Life Institute, se snaží analyzovat a zmírňovat rizika související s umělou inteligencí identifikací účinných globálních bezpečnostních řešení.„Identifikovali jsme přibližně 300 nástrojů a technologií, jak se s těmito riziky vypořádat, “ vysvětlil koordinátor GRASP Cyrus Hodes.

Nedávno zveřejněná průkopnická Mezinárodní zpráva o bezpečnosti umělé inteligence – kompilace postřehů od 96 odborníků a schválená národy včetně 30 zemí a také významnými organizacemi, jako je OSN a OECD – zdůrazňuje různá rizika, od dezinformací až po vážné hrozby, jako jsou biologické útoky a kybernetická válka.

Prominentní výzkumník umělé inteligence a držitel Turingovy ceny Yoshua Bengio vyjádřil své obavy z rizik ztráty kontroly nad technologiemi umělé inteligence a prohlásil, že „stále se objevují další rizika a z dlouhodobého hlediska existuje potenciál pro umělou inteligenci rozvíjet své instinkty přežití, což vede k nezamýšleným následkům.“

Hrozící hrozba umělé obecné inteligence

Mezi hlavní obavy specialistů na AI patří rychlý pokrok směrem k umělé obecné inteligenci (AGI), která je schopna překonat lidský intelekt v celé řadě oblastí. Sam Altman, generální ředitel OpenAI, spolu s Dariem Amodei z Anthropic navrhli, že příchod AGI by se mohl shodovat s několika příštími lety.

„Pokud se jen podíváte na tempo pokroků, budete si myslet, že se tam dostaneme v roce 2026 nebo 2027, “ poznamenal Amodei v listopadu. Tegmark však vydal ostré varování ohledně možného scénáře, kdy lídři AI, zejména v USA a Číně, ztratí kontrolu nad AGI, což může vést ke světu ovládanému inteligentními stroji.

AI ve Warfare: Rostoucí obavy

Jedna z nejvýznamnějších bezprostředních hrozeb leží v oblasti autonomních zbraní poháněných umělou inteligencí. Stuart Russell, profesor na UC Berkeley a koordinátor Mezinárodní asociace pro bezpečnou a etickou umělou inteligenci (IASEI), zdůraznil své obavy ohledně systémů umělé inteligence při rozhodování na bojišti.„Největším strachem je umělá inteligence, která dělá rozhodnutí na bojišti – vybírá si, na koho a kdy zaútočit – bez lidského dohledu, “ uvedl.

Odborníci jednomyslně tvrdí, že vlády musí neprodleně jednat, aby regulovaly umělou inteligenci se stejnou přísností jako jiná vysoce riziková odvětví.„Pokud chce někdo postavit jaderný reaktor, musí před výstavbou prokázat, že je bezpečný. S umělou inteligencí by se mělo zacházet stejně, “ zdůraznil Tegmark.

Jak se rozvíjejí diskuse v Paříži, naléhavá otázka zůstává: Jak může svět využít obrovský potenciál umělé inteligence a zároveň zajistit, aby neunikla lidské kontrole? Nadcházející měsíce jsou klíčové pro určení, zda efektivní řízení umělé inteligence dokáže držet krok s rychlým technologickým vývojem, nebo zda lidstvo bude riskovat zaostávání.

Často kladené otázky

1. Proč je pařížský summit o AI významný?

Pařížský summit je klíčový, protože se zabývá jak potenciálem, tak riziky umělé inteligence, se zaměřením na stanovení mezinárodních předpisů, které zajistí, že umělá inteligence zůstane pod lidskou kontrolou a zároveň prosadí inovativní strategie řízení.

2. Jaké iniciativy byly zahájeny k řešení bezpečnostních rizik AI?

Platforma Global Risk and AI Safety Preparedness (GRASP) byla spuštěna za účelem analýzy a zmírnění rizik spojených s technologií AI. Jeho cílem je identifikovat přibližně 300 nástrojů a strategií, jak účinně čelit potenciálním hrozbám.

3. Jaké jsou obavy týkající se umělé obecné inteligence (AGI)?

Odborníci vyjadřují obavy, že AGI by mohla překonat lidskou inteligenci, což vede ke scénářům, kdy systémy AI fungují autonomně, což může mít za následek nezamýšlené důsledky a ztrátu kontroly nad kritickými systémy.

Zdroj a obrázky