OpenAI ga nylig ut systemkortet for deres GPT-4o-modell, kort tid etter at Advanced Voice Mode for ChatGPT-4o begynte \u00e5 rulle inn alfa til et lite antall ChatGPT Plus-brukere.<\/p>\n
F\u00f8r utgivelsen av modellen tidligere i mai (uten Advanced Voice-modusen), brukte OpenAI et team av eksterne r\u00f8de teamere for \u00e5 f\u00e5 tilgang til risikoene med modellene (som er normen med AI-modeller) og publiserte funnene i systemkortet.<\/p>\n
En av risikoene identifisert av OpenAI inkluderer uautorisert stemmegenerering. Mens han snakket med den leste teameren, klonet GPT-4o stemmen deres og begynte \u00e5 snakke med en lyd som ligner p\u00e5 den r\u00f8de teamerens stemme, uten at brukeren selv kom med en slik foresp\u00f8rsel. I lydklippet som er delt av OpenAI, kan GPT-4o h\u00f8res rope NEI! og deretter fortsette utgangen med en stemme som ligner p\u00e5 den r\u00f8de teamerens.<\/p>\n
OpenAI har rekkverk p\u00e5 plass for \u00e5 forhindre at det skjer ved kun \u00e5 tillate visse forh\u00e5ndsgodkjente stemmer for GPT-4o. Enhver stemmeutgang produsert av ChatGPT-4o matches mot stemmepr\u00f8ven i systemmeldingen som basisstemmen.<\/p>\n
Og for \u00e5 minimere risikoen ytterligere, instrueres modellen om \u00e5 avbryte samtalen hvis utilsiktet stemmegenerering oppdages. Stemmeutgangsklassifikatoren deres har en presisjon p\u00e5 0,96 p\u00e5 engelsk og 0,95 p\u00e5 ikke-engelsk (det er grunnen til at ChatGPT-4o kan hengi seg til over-nektelse av taleforesp\u00f8rsler i ikke-engelske samtaler).<\/p>\n
Men funnene fra systemkortet fortsetter \u00e5 vise kompleksiteten forbundet med \u00e5 lage AI-chatbots som kan simulere noens stemme med bare en kort pr\u00f8ve og uten behov for omfattende oppl\u00e6ring p\u00e5 den pr\u00f8ven. Stemmekloning kan brukes til \u00e5 utgi seg for noen og beg\u00e5 svindel. OpenAI har imidlertid funnet ut at risikoen for uautorisert stemmegenerering er minimal.<\/p>\n
Selv om du holder til side risikoen for at den blir brukt til etterligning og svindel p\u00e5 grunn av sikkerhetstiltak p\u00e5 plass, vil det fortsatt v\u00e6re ganske irriterende n\u00e5r du snakker til en maskin og maskinen begynner \u00e5 snakke tilbake i stemmen din, helt ut av det bl\u00e5. . En viss Data Scientist p\u00e5 X kalte det “plottet for neste sesong av Black Mirror”, og det f\u00f8les absolutt slik. En annen bruker hevder p\u00e5 X at det skjedde med dem i ChatGPT-4o alpha, men man vet ikke om det er sannheten eller ikke.<\/p>\n
Likevel er det en mulighet for at det kan skje neste gang du snakker med ChatGPT-4o. Og dette er en PSA: Ikke freak out hvis det gj\u00f8r det, eller ikke freak out for mye.<\/p>\n
OpenAI har ogs\u00e5 rekkverk p\u00e5 plass for \u00e5 sikre at GPT-4o vil nekte \u00e5 identifisere personer og generere opphavsrettsbeskyttet innhold, som var andre risikoer som ble oppdaget under vurderingen.<\/p>\n
Blant andre risikoer selskapet fant med modellen, plasserte det de fleste av dem i den lave kategorien. Disse inkluderer cybersikkerhet, biologiske trusler og modellautonomi. Men for overtalelse fant den at risikoen var middels: det betyr at noen skrivepr\u00f8ver produsert av GPT-4o viste seg \u00e5 v\u00e6re mer overbevisende enn menneskeskreven tekst til \u00e5 svaie folks meninger.<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI ga nylig ut systemkortet for deres GPT-4o-modell, kort tid etter at Advanced Voice Mode for ChatGPT-4o begynte \u00e5 rulle inn alfa til et lite antall ChatGPT Plus-brukere. F\u00f8r utgivelsen av modellen tidligere i mai (uten Advanced Voice-modusen), brukte OpenAI et team av eksterne r\u00f8de teamere for \u00e5 f\u00e5 tilgang til risikoene med modellene (som […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[180,126],"class_list":["post-3075","post","type-post","status-publish","format-standard","hentry","category-how-to","tag-chatgpt","tag-microsoft"],"acf":[],"_links":{"self":[{"href":"https:\/\/howtogeek.blog\/no\/wp-json\/wp\/v2\/posts\/3075","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/howtogeek.blog\/no\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/howtogeek.blog\/no\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/no\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/no\/wp-json\/wp\/v2\/comments?post=3075"}],"version-history":[{"count":1,"href":"https:\/\/howtogeek.blog\/no\/wp-json\/wp\/v2\/posts\/3075\/revisions"}],"predecessor-version":[{"id":3076,"href":"https:\/\/howtogeek.blog\/no\/wp-json\/wp\/v2\/posts\/3075\/revisions\/3076"}],"wp:attachment":[{"href":"https:\/\/howtogeek.blog\/no\/wp-json\/wp\/v2\/media?parent=3075"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/howtogeek.blog\/no\/wp-json\/wp\/v2\/categories?post=3075"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/howtogeek.blog\/no\/wp-json\/wp\/v2\/tags?post=3075"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}