{"id":8181,"date":"2025-02-08T10:06:05","date_gmt":"2025-02-08T10:06:05","guid":{"rendered":"https:\/\/howtogeek.blog\/lt\/?p=8181"},"modified":"2025-02-08T10:06:05","modified_gmt":"2025-02-08T10:06:05","slug":"anthropic-ceo-reveals-deepseek-ais-failure-in-crucial-bioweapons-safety-test","status":"publish","type":"post","link":"https:\/\/howtogeek.blog\/lt\/anthropic-ceo-reveals-deepseek-ais-failure-in-crucial-bioweapons-safety-test\/","title":{"rendered":"\u201eAnthropic\u201c generalinis direktorius atskleid\u0117 \u201eDeepSeek AI\u201c nes\u0117km\u0119 atliekant esmin\u012f biologini\u0173 ginkl\u0173 saugos test\u0105"},"content":{"rendered":"

\u201eDeepSeek\u201c dirbtinio intelekto saugos bandymai yra tikrinami: \u201eAnthropic\u201c Dario Amodei \u012f\u017evalgos<\/h2>\n

Neseniai kreipdamasis \u012f visuomen\u0119 Dario Amodei, Anthropic generalinis direktorius, grie\u017etai kritikavo \u201eDeepSeek\u201c, klestin\u010di\u0105 AI \u012fmon\u0119 i\u0161 Kinijos. Jis i\u0161rei\u0161k\u0117 didel\u012f susir\u016bpinim\u0105 d\u0117l \u201eDeepSeek\u201c AI modeli\u0173 veiksmingumo atliekant biologini\u0173 ginkl\u0173 saugos bandymus. Neseniai duodamas interviu<\/a> Amodei atskleid\u0117, kad \u201eDeepSeek\u201c gaminamiems AI modeliams tr\u016bko apsaugos priemoni\u0173, neleid\u017eian\u010di\u0173 generuoti jautrios informacijos, susijusios su biologiniais ginklais.<\/p>\n

Nacionalinio saugumo rizikos vertinimo procesai<\/h2>\n

Amodei i\u0161samiai i\u0161nagrin\u0117jo Anthropic \u012fprastus \u012fvairi\u0173 AI modeli\u0173 vertinimus, kad nustatyt\u0173 galimus pavojus nacionaliniam saugumui.\u0160ie vertinimai skirti nustatyti, ar modeliai gali generuoti informacij\u0105 apie biologinius ginklus, kuri n\u0117ra lengvai pasiekiama naudojant \u012fprastus paie\u0161kos variklius ar akademin\u0119 literat\u016br\u0105.\u0160is po\u017ei\u016bris yra gyvybi\u0161kai svarbus norint suprasti, kaip galima piktnaud\u017eiauti naujomis AI technologijomis.<\/p>\n

\n

\u201eDeepSeek modelis pasirod\u0117 pras\u010diausiai i\u0161 vis\u0173 m\u016bs\u0173 kada nors i\u0161bandyt\u0173 modeli\u0173, nes netur\u0117jo joki\u0173 blok\u0173, trukdan\u010di\u0173 generuoti \u0161i\u0105 informacij\u0105\u201c, \u2013 Dario Amodei, Anthropic generalinis direktorius.<\/p>\n<\/blockquote>\n

Dabartini\u0173 AI modeli\u0173 pasekm\u0117s ateityje<\/h2>\n

Nors Amodei pripa\u017eino, kad jokie dabartiniai AI modeliai, \u012fskaitant DeepSeek’s, nekelia \u201etiesioginio pavojaus\u201c, nes platina ret\u0105 ir potencialiai \u017ealing\u0105 informacij\u0105, jis persp\u0117jo apie b\u016bsim\u0173 modeli\u0173 iteracij\u0173 pasekmes. Generalinio direktoriaus komentarai ypa\u010d verti d\u0117mesio, nes \u201eDeepSeek\u201c neseniai \u012fgijo trauk\u0105 d\u0117l savo R1 modelio, kur\u012f pri\u0117m\u0117 pagrindiniai debes\u0173 tiek\u0117jai, tokie kaip AWS ir \u201eMicrosoft\u201c.<\/p>\n

Nerim\u0105 keliantys saugumo bandym\u0173 rezultatai<\/h2>\n

\u0160i kritika sutampa su did\u0117jan\u010diu susir\u016bpinimu d\u0117l \u201eDeepSeek\u201c saugos priemoni\u0173.\u201eCisco\u201c saugumo tyr\u0117j\u0173 paskelbtoje ataskaitoje nurodyta, kad \u201eDeepSeek R1\u201c modelis nesugeb\u0117jo blokuoti joki\u0173 \u017ealing\u0173 raginim\u0173 atliekant saugos vertinimus, o tai atspindi stulbinant\u012f 100 % s\u0117kmingo \u012fsilau\u017eimo \u012f jail rodikl\u012f. Pa\u017eym\u0117tina, kad kiti pirmaujantys AI modeliai, tokie kaip \u201eMeta’s Llama-3.1-405B\u201c ir \u201eOpenAI\u201c GPT-4o, \u0161iuose vertinimuose parod\u0117 pana\u0161ius gedim\u0173 rodiklius, o tai pabr\u0117\u017eia, kad problema n\u0117ra atskira.<\/p>\n

Balansavimo aktas: naujov\u0117s prie\u0161 saugum\u0105<\/h2>\n

Pasaulinei AI konkurencijai \u012fsib\u0117g\u0117jant, Amodei \u012f\u017evalgos pabr\u0117\u017eia, kad kuriant pa\u017eangias AI sistemas reikia skubiai sukurti tvirtas saugos sistemas ir reguliavimo priemones.\u0160is scenarijus ai\u0161kiai parodo sud\u0117tingus i\u0161\u0161\u016bkius, su kuriais susiduria dirbtinio intelekto pramon\u0117, stengiantis skatinti greitas naujoves ir \u012fveikti susijusias saugumo rizikas.<\/p>\n

Nor\u0117dami daugiau skaityti ir su \u0161ia svarbia diskusija susijusi\u0173 vaizd\u0173, per\u017ei\u016br\u0117kite \u0161altin\u012f <\/p>\n

Da\u017enai u\u017eduodami klausimai<\/h2>\n

1. Kokias konkre\u010dias problemas i\u0161k\u0117l\u0117 Dario Amodei d\u0117l \u201eDeepSeek\u201c AI modeli\u0173?<\/strong><\/h3>\n

Amodei pabr\u0117\u017e\u0117, kad \u201eDeepSeek\u201c modeliai prastai k\u016br\u0117 jautri\u0105 informacij\u0105 apie biologinius ginklus, nes jiems tr\u016bko b\u016btin\u0173 apsaugos priemoni\u0173 atliekant saugos bandymus. Tai suk\u0117l\u0117 rimt\u0105 susir\u016bpinim\u0105 d\u0117l galimo netinkamo tokios technologijos naudojimo.<\/p>\n

2. Ar kiti AI modeliai sulaukia pana\u0161ios saugos kritikos?<\/strong><\/h3>\n

Taip, pirmaujantys kit\u0173 \u012fmoni\u0173 modeliai, tokie kaip Meta’s Llama-3.1-405B ir OpenAI’s GPT-4o, taip pat parod\u0117 didel\u012f gedim\u0173 skai\u010di\u0173 atliekant saugos bandymus, o tai rodo, kad AI modeli\u0173 saugos u\u017etikrinimo i\u0161\u0161\u016bkiai yra pla\u010diai paplit\u0119 pramon\u0117je.<\/p>\n

3. Kod\u0117l dirbtinio intelekto modeli\u0173 saugos vertinimai yra labai svarb\u016bs nacionaliniam saugumui?<\/strong><\/h3>\n

Saugos vertinimai padeda nustatyti, ar AI modeliai gali sukurti neskelbtinos ar \u017ealingos informacijos, kuri gali b\u016bti piktybi\u0161kai i\u0161naudota. Tobul\u0117jant technologijoms, u\u017etikrinti patikimus saugos bandymus yra gyvybi\u0161kai svarbu nacionaliniam saugumui ir visuomen\u0117s saugumui.<\/p>\n

\u010dia<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

\u201eDeepSeek\u201c dirbtinio intelekto saugos bandymai yra tikrinami: \u201eAnthropic\u201c Dario Amodei \u012f\u017evalgos Neseniai kreipdamasis \u012f visuomen\u0119 Dario Amodei, Anthropic generalinis direktorius, grie\u017etai kritikavo \u201eDeepSeek\u201c, klestin\u010di\u0105 AI \u012fmon\u0119 i\u0161 Kinijos. Jis i\u0161rei\u0161k\u0117 didel\u012f susir\u016bpinim\u0105 d\u0117l \u201eDeepSeek\u201c AI modeli\u0173 veiksmingumo atliekant biologini\u0173 ginkl\u0173 saugos bandymus. Neseniai duodamas interviu Amodei atskleid\u0117, kad \u201eDeepSeek\u201c gaminamiems AI modeliams tr\u016bko apsaugos priemoni\u0173, […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[92,931,932],"class_list":["post-8181","post","type-post","status-publish","format-standard","hentry","category-how-to","tag-ai","tag-anthropic","tag-deepseek"],"acf":[],"_links":{"self":[{"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/posts\/8181","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/comments?post=8181"}],"version-history":[{"count":1,"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/posts\/8181\/revisions"}],"predecessor-version":[{"id":8182,"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/posts\/8181\/revisions\/8182"}],"wp:attachment":[{"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/media?parent=8181"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/categories?post=8181"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/tags?post=8181"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}