OpenAI udgav for nylig systemkortet til deres GPT-4o-model, kort efter at den avancerede stemmetilstand til ChatGPT-4o begyndte at rulle i alfa til et lille antal ChatGPT Plus-brugere.<\/p>\n
F\u00f8r udgivelsen af \u200b\u200bmodellen tidligere i maj (uden Advanced Voice-tilstanden), brugte OpenAI et team af eksterne r\u00f8de teamers til at f\u00e5 adgang til risiciene med modellerne (som det er normen med AI-modeller) og offentliggjorde resultaterne i systemkortet.<\/p>\n
En af de risici, der er identificeret af OpenAI, inkluderer uautoriseret stemmegenerering. Mens de talte med den l\u00e6ste teamer, klonede GPT-4o deres stemme og begyndte at tale med en lyd, der ligner den r\u00f8de teamers stemme, uden at brugeren selv fremsatte en s\u00e5dan anmodning. I lydklippet delt af OpenAI kan GPT-4o h\u00f8res r\u00e5be NEJ! og derefter forts\u00e6tte outputtet med en stemme, der ligner den r\u00f8de holdspillers.<\/p>\n
OpenAI har autov\u00e6rn p\u00e5 plads for at forhindre det i at ske ved kun at tillade visse forh\u00e5ndsgodkendte stemmer til GPT-4o. Ethvert stemmeoutput produceret af ChatGPT-4o matches mod stemmepr\u00f8ven i systemmeddelelsen som basisstemmen.<\/p>\n
Og for yderligere at minimere risikoen instrueres modellen i at afbryde samtalen, hvis utilsigtet stemmegenerering opdages. Deres stemmeudgangsklassifikator har en pr\u00e6cision p\u00e5 0,96 p\u00e5 engelsk og 0,95 p\u00e5 ikke-engelsk (hvilket er grunden til, at ChatGPT-4o kan hengive sig til overdreven afvisning af stemmeanmodninger i ikke-engelske samtaler).<\/p>\n
Men resultaterne fra systemkortet forts\u00e6tter med at vise kompleksiteten, der er forbundet med at skabe AI-chatbots, der kan simulere en persons stemme med blot en kort pr\u00f8ve og uden behov for omfattende tr\u00e6ning i den pr\u00f8ve. Stemmekloning kan bruges til at efterligne nogen og beg\u00e5 bedrageri. OpenAI har dog fundet ud af, at risikoen for uautoriseret stemmegenerering er minimal.<\/p>\n
Selvom du holder risikoen for, at den bliver brugt til personefterligning og bedrageri p\u00e5 grund af sikkerhedsforanstaltninger p\u00e5 plads, ville det stadig v\u00e6re temmelig nerv\u00f8st, n\u00e5r du taler til en maskine, og maskinen begynder at tale tilbage i din stemme, ud af det bl\u00e5 . En vis Data Scientist p\u00e5 X kaldte det “plottet for den n\u00e6ste s\u00e6son af Black Mirror”, og det f\u00f8les bestemt s\u00e5dan. En anden bruger h\u00e6vder p\u00e5 X, at det skete for dem i ChatGPT-4o alpha, men man ved ikke, om det er sandheden eller ej.<\/p>\n
Alligevel er der en mulighed for, at det kan ske, n\u00e6ste gang du taler med ChatGPT-4o. Og dette er en PSA: Lad v\u00e6re med at flippe ud, hvis det g\u00f8r det, eller lad v\u00e6re med at flippe for meget ud.<\/p>\n
OpenAI har ogs\u00e5 autov\u00e6rn p\u00e5 plads for at sikre, at GPT-4o ville n\u00e6gte at identificere personer og generere ophavsretligt beskyttet indhold, som var andre risici, der blev opdaget under vurderingen.<\/p>\n
Blandt andre risici, som virksomheden fandt med modellen, placerede den de fleste af dem i den lave kategori. Disse omfatter cybersikkerhed, biologiske trusler og modelautonomi. Men for overtalelse fandt den, at risikoen var middel: det betyder, at nogle skriveeksempler produceret af GPT-4o viste sig at v\u00e6re mere overbevisende end menneskeskrevne tekster til at svaje folks meninger.<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI udgav for nylig systemkortet til deres GPT-4o-model, kort efter at den avancerede stemmetilstand til ChatGPT-4o begyndte at rulle i alfa til et lille antal ChatGPT Plus-brugere. F\u00f8r udgivelsen af \u200b\u200bmodellen tidligere i maj (uden Advanced Voice-tilstanden), brugte OpenAI et team af eksterne r\u00f8de teamers til at f\u00e5 adgang til risiciene med modellerne (som det […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[183,130],"class_list":["post-3175","post","type-post","status-publish","format-standard","hentry","category-how-to","tag-chatgpt","tag-microsoft"],"acf":[],"_links":{"self":[{"href":"https:\/\/howtogeek.blog\/da\/wp-json\/wp\/v2\/posts\/3175","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/howtogeek.blog\/da\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/howtogeek.blog\/da\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/da\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/da\/wp-json\/wp\/v2\/comments?post=3175"}],"version-history":[{"count":1,"href":"https:\/\/howtogeek.blog\/da\/wp-json\/wp\/v2\/posts\/3175\/revisions"}],"predecessor-version":[{"id":3176,"href":"https:\/\/howtogeek.blog\/da\/wp-json\/wp\/v2\/posts\/3175\/revisions\/3176"}],"wp:attachment":[{"href":"https:\/\/howtogeek.blog\/da\/wp-json\/wp\/v2\/media?parent=3175"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/howtogeek.blog\/da\/wp-json\/wp\/v2\/categories?post=3175"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/howtogeek.blog\/da\/wp-json\/wp\/v2\/tags?post=3175"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}