Докато глобалните лидери се събират в Париж за ключова среща на върха, фокусирана върху изкуствения интелект, експерти от различни сектори защитават необходимостта от стабилни регулации за изкуствения интелект, за да се поддържа човешкият надзор върху тази мощна технология.
Тазгодишното събиране, организирано съвместно от Франция и Индия, бележи промяна от предишни събития, като събиранията в Блечли Парк и Сеул, които се занимаваха предимно с безопасността на ИИ.Срещата на върха през 2024 г.има за цел да капсулира по-широка перспектива за управлението, устойчивостта и отговорността на индустрията на ИИ.
Преминаване към AI управление и възможности
Дневният ред на Франция нарочно набляга не само на рисковете, но и на възможностите, предоставени от ИИ.„Не искаме да говорим само за рисковете.Съществува и аспектът на много реалната възможност“, каза Ан Буверо, пратеник на AI на френския президент Еманюел Макрон.
И все пак има скептицизъм около тази оптимистична гледна точка.Макс Тегмарк, президент на Future of Life Institute, предупреждава, че въпреки че съществуват възможности, те не трябва да засенчват спешните действия срещу нарастващите заплахи, породени от ИИ.„Франция беше чудесен шампион на международното сътрудничество и сега има шанса да поведе световната общност“, коментира известният физик от MIT.
Справяне с рисковете от ИИ с глобални инициативи
В проактивен ход срещата на върха въведе рамката за готовност за глобален риск и AI Safety (GRASP).Тази инициатива, подкрепена от Future of Life Institute, се стреми да анализира и смекчи рисковете, свързани с ИИ, чрез идентифициране на ефективни глобални решения за безопасност.„Идентифицирахме около 300 инструмента и технологии за справяне с тези рискове“, обясни координаторът на GRASP Сайръс Ходес.
Наскоро публикуван новаторски Международен доклад за безопасността на изкуствения интелект – компилация от прозрения от 96 експерти и одобрен от нации, включително 30 държави, както и големи организации като ООН и ОИСР – подчертава различни рискове, вариращи от дезинформация до сериозни заплахи като биологични атаки и кибервойна.
Известният изследовател на изкуствен интелект и носител на наградата Тюринг, Йошуа Бенгио, изрази опасенията си относно рисковете от загуба на контрол над технологиите на изкуствения интелект, заявявайки, че „постоянно се появяват доказателства за допълнителни рискове и в дългосрочен план има потенциал за изкуствения интелект да развие своите инстинкти за оцеляване, което води до непредвидени последствия.“
Надвисналата заплаха от изкуствения общ интелект
Сред основните опасения на специалистите по ИИ е бързият напредък към изкуствен общ интелект (AGI), способен да надмине човешкия интелект в спектър от области.Сам Алтман, главен изпълнителен директор на OpenAI, заедно с Дарио Амодей от Anthropic, предположиха, че пристигането на AGI може да съвпадне със следващите няколко години.
„Ако просто погледнете скоростта на напредъка, това наистина ви кара да мислите, че ще стигнем до 2026 или 2027 г.“, отбеляза Амодей през ноември.Въпреки това Tegmark отправи строго предупреждение относно потенциалния сценарий, при който лидерите на AI, особено в САЩ и Китай, губят контрол над AGI, което потенциално води до свят, доминиран от интелигентни машини.
AI във Warfare: нарастваща загриженост
Една от най-значимите непосредствени заплахи е в сферата на автономните оръжия, захранвани от AI.Стюарт Ръсел, професор в Калифорнийския университет в Бъркли и координатор на Международната асоциация за безопасен и етичен ИИ (IASEI), подчерта загрижеността си относно системите с ИИ, които вземат решения на бойното поле.„Най-големият страх е изкуственият интелект да взема решения на бойното поле – да избира кого да атакува и кога – без човешки контрол“, каза той.
Експертите единодушно твърдят, че правителствата трябва да действат незабавно, за да регулират ИИ със същата строгост като другите високорискови индустрии.„Ако някой иска да построи ядрен реактор, трябва да докаже, че е безопасен преди изграждането.ИИ трябва да се третира по същия начин“, подчерта Тегмарк.
Докато дискусиите се развиват в Париж, належащият въпрос остава: Как може светът да оползотвори огромния потенциал на ИИ, като същевременно гарантира, че той няма да избяга от човешкия контрол? Предстоящите месеци са от решаващо значение за определянето дали ефективното управление на ИИ може да върви в крак с бързата технологична еволюция или човечеството рискува да изостане.
Често задавани въпроси
1.Защо Парижката среща на върха за ИИ е важна?
Срещата на върха в Париж е ключова, тъй като разглежда както потенциала, така и рисковете от изкуствения интелект, с акцент върху установяването на международни разпоредби, за да се гарантира, че ИИ остава под човешки контрол, като същевременно се насърчават иновативни стратегии за управление.
2.Какви инициативи бяха стартирани за справяне с рисковете за безопасността на ИИ?
Платформата Global Risk and AI Safety Preparedness (GRASP) стартира, за да анализира и смекчи рисковете, свързани с AI технологията.Той има за цел да идентифицира около 300 инструмента и стратегии за ефективно противодействие на потенциални заплахи.
3.Какви са опасенията относно общия изкуствен интелект (AGI)?
Експертите изразяват загриженост, че AGI може да надмине човешкия интелект, което води до сценарии, при които AI системите работят автономно, което потенциално води до непредвидени последици и загуба на контрол над критични системи.
Вашият коментар