Neseniai \u201eOpenAI\u201c i\u0161leido sistemos kortel\u0119 savo GPT-4o modeliui, netrukus po to, kai \u201eChatGPT-4o\u201c i\u0161pl\u0117stinis balso re\u017eimas prad\u0117jo veikti alfa versijoje nedideliam skai\u010diui \u201eChatGPT Plus\u201c vartotoj\u0173.<\/p>\n
Prie\u0161 i\u0161leisdamas model\u012f anks\u010diau gegu\u017e\u0119 (be i\u0161pl\u0117stinio balso re\u017eimo), OpenAI naudojo i\u0161orini\u0173 raudon\u0173j\u0173 komand\u0173 komand\u0105, kad pasiekt\u0173 modeli\u0173 rizik\u0105 (kaip \u012fprasta dirbtinio intelekto modeliuose) ir paskelb\u0117 i\u0161vadas sistemos kortel\u0117je.<\/p>\n
Viena i\u0161 OpenAI nustatyt\u0173 pavoj\u0173 yra neteis\u0117tas balso generavimas. Kalb\u0117damas su skaitymo komandos nariu, GPT-4o klonavo j\u0173 bals\u0105 ir prad\u0117jo kalb\u0117ti garsu, pana\u0161iu \u012f raudonojo komandos nario bals\u0105, vartotojui net nepateikus tokio pra\u0161ymo. OpenAI pasidalintame garso klipe gird\u0117ti GPT-4o \u0161aukiant NE! ir tada t\u0119sdamas i\u0161vest\u012f pana\u0161iu \u012f raudonojo komandos nario balsu.<\/p>\n
\u201eOpenAI\u201c turi apsauginius tur\u0117klus, kad taip nenutikt\u0173, leid\u017eiant tik tam tikrus i\u0161 anksto patvirtintus GPT-4o balsus. Bet kokia \u201eChatGPT-4o\u201c sukurta balso i\u0161vestis yra suderinama su balso pavyzd\u017eiu sistemos prane\u0161ime kaip pagrindinis balsas.<\/p>\n
Ir siekiant dar labiau suma\u017einti rizik\u0105, modeliui nurodoma nutraukti pokalb\u012f, jei aptinkamas nety\u010dinis balso generavimas. J\u0173 balso i\u0161vesties klasifikatoriaus tikslumas yra 0,96 angl\u0173 kalba ir 0,95 ne angl\u0173 kalba (tod\u0117l ChatGPT-4o gali pernelyg atsisakyti balso u\u017eklaus\u0173 pokalbiuose ne angl\u0173 kalba).<\/p>\n
Ta\u010diau sistemos kortel\u0117s i\u0161vados rodo sud\u0117tingum\u0105, susijus\u012f su AI pokalbi\u0173 robot\u0173 k\u016brimu, kurie gali imituoti ka\u017ekieno bals\u0105 naudodami tik trump\u0105 pavyzd\u012f ir nereikalaujant i\u0161samaus \u0161io pavyzd\u017eio mokymo. Balso klonavimas gali b\u016bti naudojamas apsimetin\u0117ti kitu asmeniu ir suk\u010diauti. Ta\u010diau \u201eOpenAI\u201c nustat\u0117, kad neteis\u0117to balso generavimo rizika yra minimali.<\/p>\n
Net jei neatsi\u017evelgsite \u012f pavoj\u0173, kad jis bus naudojamas apsimetin\u0117jimui ir suk\u010diavimui d\u0117l taikom\u0173 saugumo priemoni\u0173, vis tiek b\u016bt\u0173 gana nerim\u0105, kai kalb\u0117site su aparatu, o aparatas pradeda kalb\u0117ti j\u016bs\u0173 balsu, netik\u0117tai. . Tam tikras X duomen\u0173 mokslininkas pavadino tai \u201ekito \u201eBlack Mirror\u201c sezono siu\u017eetu ir tikrai taip atrodo. Kitas naudotojas X teigia, kad jiems taip nutiko ChatGPT-4o alfa versijoje, ta\u010diau ne\u017einoma, ar tai tiesa, ar ne.<\/p>\n
Vis d\u0117lto yra tikimyb\u0117, kad tai nutiks kit\u0105 kart\u0105, kai kalb\u0117site su ChatGPT-4o. Ir tai yra PSA: nesijaudinkite, jei taip, arba per daug nesijaudinkite.<\/p>\n
\u201eOpenAI\u201c taip pat turi apsauginius tur\u0117klus, u\u017etikrinan\u010dius, kad GPT-4o atsisakyt\u0173 identifikuoti \u017emones ir generuoti autori\u0173 teisi\u0173 saugom\u0105 turin\u012f, o tai buvo kita rizika, kuri buvo aptikta vertinimo metu.<\/p>\n
Be kit\u0173 rizik\u0173, kurias bendrov\u0117 nustat\u0117 naudodama model\u012f, daugum\u0105 j\u0173 ji priskyr\u0117 \u017eemai kategorijai. Tai apima kibernetin\u012f saugum\u0105, biologines gr\u0117smes ir modelio autonomij\u0105. Ta\u010diau, siekiant \u012ftikinti, rizika yra vidutin\u0117: tai rei\u0161kia, kad kai kurie GPT-4o sukurti ra\u0161to pavyzd\u017eiai buvo \u012ftikinamesni nei \u017emogaus para\u0161ytas tekstas, svyruojantis \u017emoni\u0173 nuomones.<\/p>\n","protected":false},"excerpt":{"rendered":"
Neseniai \u201eOpenAI\u201c i\u0161leido sistemos kortel\u0119 savo GPT-4o modeliui, netrukus po to, kai \u201eChatGPT-4o\u201c i\u0161pl\u0117stinis balso re\u017eimas prad\u0117jo veikti alfa versijoje nedideliam skai\u010diui \u201eChatGPT Plus\u201c vartotoj\u0173. Prie\u0161 i\u0161leisdamas model\u012f anks\u010diau gegu\u017e\u0119 (be i\u0161pl\u0117stinio balso re\u017eimo), OpenAI naudojo i\u0161orini\u0173 raudon\u0173j\u0173 komand\u0173 komand\u0105, kad pasiekt\u0173 modeli\u0173 rizik\u0105 (kaip \u012fprasta dirbtinio intelekto modeliuose) ir paskelb\u0117 i\u0161vadas sistemos kortel\u0117je. Viena […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[177,123],"class_list":["post-3072","post","type-post","status-publish","format-standard","hentry","category-how-to","tag-chatgpt","tag-microsoft"],"acf":[],"_links":{"self":[{"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/posts\/3072","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/comments?post=3072"}],"version-history":[{"count":1,"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/posts\/3072\/revisions"}],"predecessor-version":[{"id":3073,"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/posts\/3072\/revisions\/3073"}],"wp:attachment":[{"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/media?parent=3072"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/categories?post=3072"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/howtogeek.blog\/lt\/wp-json\/wp\/v2\/tags?post=3072"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}