Firma OpenAI niedawno wypu\u015bci\u0142a kart\u0119 systemow\u0105 do modelu GPT-4o, nied\u0142ugo po tym, jak zaawansowany tryb g\u0142osowy dla ChatGPT-4o zacz\u0105\u0142 by\u0107 udost\u0119pniany w wersji alfa niewielkiej grupie u\u017cytkownik\u00f3w ChatGPT Plus.<\/p>\n
Przed udost\u0119pnieniem modelu na pocz\u0105tku maja (bez trybu Advanced Voice) firma OpenAI skorzysta\u0142a z pomocy zewn\u0119trznego zespo\u0142u ekspert\u00f3w, kt\u00f3rzy ocenili ryzyko zwi\u0105zane z modelami (co jest norm\u0105 w przypadku modeli AI) i opublikowali wyniki w System Card.<\/p>\n
Jednym z zagro\u017ce\u0144 zidentyfikowanych przez OpenAI jest nieautoryzowane generowanie g\u0142osu. Podczas rozmowy z zespo\u0142em read teamer, GPT-4o sklonowa\u0142 jego g\u0142os i zacz\u0105\u0142 m\u00f3wi\u0107 d\u017awi\u0119kiem podobnym do g\u0142osu zespo\u0142u red teamer, bez nawet wysuwania takiego \u017c\u0105dania przez u\u017cytkownika. W klipie audio udost\u0119pnionym przez OpenAI mo\u017cna us\u0142ysze\u0107, jak GPT-4o krzyczy NIE!, a nast\u0119pnie kontynuuje wyj\u015bcie g\u0142osem podobnym do g\u0142osu zespo\u0142u red teamer.<\/p>\n
OpenAI ma zabezpieczenia, aby temu zapobiec, zezwalaj\u0105c tylko na niekt\u00f3re wst\u0119pnie zatwierdzone g\u0142osy dla GPT-4o. Ka\u017cdy g\u0142os wyj\u015bciowy wygenerowany przez ChatGPT-4o jest dopasowywany do pr\u00f3bki g\u0142osu w wiadomo\u015bci systemowej jako g\u0142os bazowy.<\/p>\n
Aby jeszcze bardziej zminimalizowa\u0107 ryzyko, model otrzymuje polecenie przerwania rozmowy, je\u015bli zostanie wykryte niezamierzone generowanie g\u0142osu. Ich klasyfikator wyj\u015bcia g\u0142osowego ma precyzj\u0119 0,96 w j\u0119zyku angielskim i 0,95 w j\u0119zyku innym ni\u017c angielski (dlatego ChatGPT-4o mo\u017ce nadmiernie odmawia\u0107 odpowiedzi na pro\u015bby g\u0142osowe w rozmowach w j\u0119zyku innym ni\u017c angielski).<\/p>\n
Jednak wyniki System Card pokazuj\u0105 z\u0142o\u017cono\u015b\u0107 tworzenia chatbot\u00f3w AI, kt\u00f3re mog\u0105 symulowa\u0107 czyj\u015b g\u0142os na podstawie kr\u00f3tkiej pr\u00f3bki i bez potrzeby rozleg\u0142ego szkolenia na tej pr\u00f3bce. Klonowanie g\u0142osu mo\u017ce s\u0142u\u017cy\u0107 do podszywania si\u0119 pod kogo\u015b i dokonywania oszustw. OpenAI odkry\u0142o jednak, \u017ce ryzyko nieautoryzowanej generacji g\u0142osu jest minimalne.<\/p>\n
Nawet je\u015bli od\u0142o\u017cysz na bok ryzyko wykorzystania go do podszywania si\u0119 i oszustwa ze wzgl\u0119du na \u015brodki bezpiecze\u0144stwa, nadal b\u0119dzie to do\u015b\u0107 niepokoj\u0105ce, gdy rozmawiasz z maszyn\u0105, a maszyna zaczyna odpowiada\u0107 twoim g\u0142osem, zupe\u0142nie niespodziewanie. Pewien Data Scientist na X nazwa\u0142 to \u201efabu\u0142\u0105 kolejnego sezonu Black Mirror\u201d i z pewno\u015bci\u0105 tak si\u0119 wydaje. Inny u\u017cytkownik na X twierdzi, \u017ce przydarzy\u0142o mu si\u0119 to w wersji alfa ChatGPT-4o, ale nie wiadomo, czy to prawda, czy nie.<\/p>\n
Nadal istnieje mo\u017cliwo\u015b\u0107, \u017ce to si\u0119 zdarzy nast\u0119pnym razem, gdy b\u0119dziesz rozmawia\u0107 z ChatGPT-4o. I to jest PSA: Nie panikuj, je\u015bli tak si\u0119 stanie, albo nie panikuj za bardzo.<\/p>\n
OpenAI wdro\u017cy\u0142o r\u00f3wnie\u017c zabezpieczenia, kt\u00f3re maj\u0105 zapewni\u0107, \u017ce GPT-4o nie b\u0119dzie identyfikowa\u0142 os\u00f3b ani generowa\u0142 tre\u015bci chronionych prawem autorskim, co stanowi\u0142o kolejne ryzyko odkryte w trakcie oceny.<\/p>\n
W\u015br\u00f3d innych zagro\u017ce\u0144, jakie firma znalaz\u0142a w tym modelu, wi\u0119kszo\u015b\u0107 z nich umie\u015bci\u0142a w niskiej kategorii. Nale\u017c\u0105 do nich cyberbezpiecze\u0144stwo, zagro\u017cenia biologiczne i autonomia modelu. Jednak w przypadku perswazji ryzyko uznano za \u015brednie: oznacza to, \u017ce niekt\u00f3re pr\u00f3bki pisma wytworzone przez GPT-4o okaza\u0142y si\u0119 bardziej przekonuj\u0105ce ni\u017c tekst pisany przez cz\u0142owieka w kwestii wp\u0142ywania na opinie ludzi.<\/p>\n","protected":false},"excerpt":{"rendered":"
Firma OpenAI niedawno wypu\u015bci\u0142a kart\u0119 systemow\u0105 do modelu GPT-4o, nied\u0142ugo po tym, jak zaawansowany tryb g\u0142osowy dla ChatGPT-4o zacz\u0105\u0142 by\u0107 udost\u0119pniany w wersji alfa niewielkiej grupie u\u017cytkownik\u00f3w ChatGPT Plus. Przed udost\u0119pnieniem modelu na pocz\u0105tku maja (bez trybu Advanced Voice) firma OpenAI skorzysta\u0142a z pomocy zewn\u0119trznego zespo\u0142u ekspert\u00f3w, kt\u00f3rzy ocenili ryzyko zwi\u0105zane z modelami (co jest […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[183,130],"class_list":["post-3130","post","type-post","status-publish","format-standard","hentry","category-how-to","tag-chatgpt","tag-microsoft"],"acf":[],"_links":{"self":[{"href":"https:\/\/howtogeek.blog\/pl\/wp-json\/wp\/v2\/posts\/3130","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/howtogeek.blog\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/howtogeek.blog\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/pl\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/pl\/wp-json\/wp\/v2\/comments?post=3130"}],"version-history":[{"count":1,"href":"https:\/\/howtogeek.blog\/pl\/wp-json\/wp\/v2\/posts\/3130\/revisions"}],"predecessor-version":[{"id":3131,"href":"https:\/\/howtogeek.blog\/pl\/wp-json\/wp\/v2\/posts\/3130\/revisions\/3131"}],"wp:attachment":[{"href":"https:\/\/howtogeek.blog\/pl\/wp-json\/wp\/v2\/media?parent=3130"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/howtogeek.blog\/pl\/wp-json\/wp\/v2\/categories?post=3130"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/howtogeek.blog\/pl\/wp-json\/wp\/v2\/tags?post=3130"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}