OpenAI julkaisi \u00e4skett\u00e4in j\u00e4rjestelm\u00e4kortin GPT-4o-mallilleen, pian sen j\u00e4lkeen, kun ChatGPT-4o:n Advanced Voice Mode -tila alkoi tulla alfaversioksi pienelle m\u00e4\u00e4r\u00e4lle ChatGPT Plus -k\u00e4ytt\u00e4ji\u00e4.<\/p>\n
Ennen kuin malli julkaisi aiemmin toukokuussa (ilman Advanced Voice -tilaa), OpenAI k\u00e4ytti ulkoisten punaisten tiimien tiimi\u00e4 p\u00e4\u00e4st\u00e4kseen k\u00e4siksi malleihin liittyviin riskeihin (kuten teko\u00e4lymalleissa on normaalia) ja julkaisi havainnot j\u00e4rjestelm\u00e4kortissa.<\/p>\n
Yksi OpenAI:n tunnistamista riskeist\u00e4 on luvaton puheen tuottaminen. Puhuessaan lukutiimin kanssa GPT-4o kloonasi heid\u00e4n \u00e4\u00e4nens\u00e4 ja alkoi puhua punaisen tiimin \u00e4\u00e4nen kaltaisella \u00e4\u00e4nell\u00e4 ilman, ett\u00e4 k\u00e4ytt\u00e4j\u00e4 edes teki t\u00e4llaista pyynt\u00f6\u00e4. OpenAI:n jakamassa \u00e4\u00e4nityksess\u00e4 GPT-4o kuuluu huutavan EI! ja sitten jatkamalla tulosta samanlaisella \u00e4\u00e4nell\u00e4 kuin punaisen tiimil\u00e4isen.<\/p>\n
OpenAI:ssa on suojakaiteet, jotka est\u00e4v\u00e4t t\u00e4m\u00e4n tapahtumisen sallimalla vain tietyt ennalta hyv\u00e4ksytyt \u00e4\u00e4net GPT-4o:lle. Mik\u00e4 tahansa ChatGPT-4o:n tuottama \u00e4\u00e4nil\u00e4ht\u00f6 verrataan j\u00e4rjestelm\u00e4viestin \u00e4\u00e4nin\u00e4ytteeseen perus\u00e4\u00e4neksi.<\/p>\n
Ja riskin minimoimiseksi edelleen mallia kehotetaan keskeytt\u00e4m\u00e4\u00e4n keskustelu, jos tahaton \u00e4\u00e4nen muodostus havaitaan. Heid\u00e4n puhe\u00e4\u00e4nen luokittelijan tarkkuus on 0,96 englanniksi ja 0,95 ei-englanniksi (siksi ChatGPT-4o saattaa kielt\u00e4yty\u00e4 liiallisesta puhepyynn\u00f6ist\u00e4 ei-englanninkielisiss\u00e4 keskusteluissa).<\/p>\n
Mutta System Cardin havainnot osoittavat edelleen, kuinka monimutkainen teko\u00e4ly-chatbottien luominen liittyy, jotka voivat simuloida jonkun \u00e4\u00e4nt\u00e4 vain lyhyell\u00e4 n\u00e4ytteell\u00e4 ilman, ett\u00e4 kyseisest\u00e4 n\u00e4ytteest\u00e4 ei tarvita laajaa koulutusta. \u00c4\u00e4nikloonausta voidaan k\u00e4ytt\u00e4\u00e4 toisena henkil\u00f6n\u00e4 esiintymiseen ja petoksen tekemiseen. OpenAI on havainnut, ett\u00e4 luvattoman \u00e4\u00e4nen tuoton riski on kuitenkin minimaalinen.<\/p>\n
Vaikka j\u00e4tt\u00e4isitkin syrj\u00e4\u00e4n riskit siit\u00e4, ett\u00e4 sit\u00e4 k\u00e4ytet\u00e4\u00e4n toisena henkil\u00f6n\u00e4 esiintymiseen ja petokseen olemassa olevien turvatoimien vuoksi, olisi silti melko ahdistavaa, kun puhut koneelle ja kone alkaa puhua takaisin \u00e4\u00e4nell\u00e4si. . Er\u00e4s X:n datatutkija kutsui sit\u00e4 “Black Mirrorin seuraavan kauden juoniksi”, ja silt\u00e4 se varmasti tuntuu. Toinen k\u00e4ytt\u00e4j\u00e4 v\u00e4itt\u00e4\u00e4 X:ll\u00e4, ett\u00e4 se tapahtui heille ChatGPT-4o alfassa, mutta ei tiedet\u00e4, onko se totuus vai ei.<\/p>\n
On kuitenkin mahdollista, ett\u00e4 se tapahtuu seuraavan kerran, kun keskustelet ChatGPT-4o:n kanssa. Ja t\u00e4m\u00e4 on PSA: \u00e4l\u00e4 s\u00e4ik\u00e4hd\u00e4, jos niin tapahtuu, tai \u00e4l\u00e4 s\u00e4ik\u00e4hd\u00e4 liikaa.<\/p>\n
OpenAI:lla on my\u00f6s suojakaiteet sen varmistamiseksi, ett\u00e4 GPT-4o kielt\u00e4ytyisi tunnistamasta ihmisi\u00e4 ja luomaan tekij\u00e4noikeudella suojattua sis\u00e4lt\u00f6\u00e4, jotka olivat muita arvioinnin aikana havaittuja riskej\u00e4.<\/p>\n
Muiden mallin yhteydess\u00e4 havaittujen riskien joukossa se sijoitti niist\u00e4 suurimman osan matalaan kategoriaan. N\u00e4it\u00e4 ovat kyberturvallisuus, biologiset uhat ja mallin autonomia. Taivuttelun riski on kuitenkin keskinkertainen: se tarkoittaa, ett\u00e4 jotkin GPT-4o:n tuottamat kirjoitusn\u00e4ytteet osoittautuivat vakuuttavammiksi kuin ihmisten kirjoittamat tekstit horjuttamaan ihmisten mielipiteit\u00e4.<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI julkaisi \u00e4skett\u00e4in j\u00e4rjestelm\u00e4kortin GPT-4o-mallilleen, pian sen j\u00e4lkeen, kun ChatGPT-4o:n Advanced Voice Mode -tila alkoi tulla alfaversioksi pienelle m\u00e4\u00e4r\u00e4lle ChatGPT Plus -k\u00e4ytt\u00e4ji\u00e4. Ennen kuin malli julkaisi aiemmin toukokuussa (ilman Advanced Voice -tilaa), OpenAI k\u00e4ytti ulkoisten punaisten tiimien tiimi\u00e4 p\u00e4\u00e4st\u00e4kseen k\u00e4siksi malleihin liittyviin riskeihin (kuten teko\u00e4lymalleissa on normaalia) ja julkaisi havainnot j\u00e4rjestelm\u00e4kortissa. Yksi OpenAI:n tunnistamista riskeist\u00e4 […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[183,130],"class_list":["post-3186","post","type-post","status-publish","format-standard","hentry","category-how-to","tag-chatgpt","tag-microsoft"],"acf":[],"_links":{"self":[{"href":"https:\/\/howtogeek.blog\/fi\/wp-json\/wp\/v2\/posts\/3186","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/howtogeek.blog\/fi\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/howtogeek.blog\/fi\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/fi\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/fi\/wp-json\/wp\/v2\/comments?post=3186"}],"version-history":[{"count":1,"href":"https:\/\/howtogeek.blog\/fi\/wp-json\/wp\/v2\/posts\/3186\/revisions"}],"predecessor-version":[{"id":3187,"href":"https:\/\/howtogeek.blog\/fi\/wp-json\/wp\/v2\/posts\/3186\/revisions\/3187"}],"wp:attachment":[{"href":"https:\/\/howtogeek.blog\/fi\/wp-json\/wp\/v2\/media?parent=3186"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/howtogeek.blog\/fi\/wp-json\/wp\/v2\/categories?post=3186"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/howtogeek.blog\/fi\/wp-json\/wp\/v2\/tags?post=3186"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}