OpenAI ha rilasciato di recente la System Card per il suo modello GPT-4o, poco dopo che la modalit\u00e0 vocale avanzata per ChatGPT-4o ha iniziato a essere distribuita in versione alpha a un numero limitato di utenti di ChatGPT Plus.<\/p>\n
Prima di pubblicare il modello all’inizio di maggio (senza la modalit\u00e0 Advanced Voice), OpenAI si \u00e8 avvalsa di un team di red teamer esterni per analizzare i rischi associati ai modelli (come avviene di norma con i modelli di intelligenza artificiale) e ha pubblicato i risultati nella System Card.<\/p>\n
Uno dei rischi identificati da OpenAI include la generazione di voce non autorizzata. Mentre parlava con il read teamer, GPT-4o ha clonato la sua voce e ha iniziato a parlare con un suono simile a quello del red teamer, senza che l’utente ne facesse nemmeno una richiesta. Nella clip audio condivisa da OpenAI, si pu\u00f2 sentire GPT-4o gridare NO! e poi continuare l’output con una voce simile a quella del red teamer.<\/p>\n
OpenAI ha delle protezioni per impedire che ci\u00f2 accada, consentendo solo determinate voci pre-approvate per GPT-4o. Qualsiasi output vocale prodotto da ChatGPT-4o viene confrontato con il campione vocale nel messaggio di sistema come voce di base.<\/p>\n
E per minimizzare ulteriormente il rischio, il modello riceve istruzioni di interrompere la conversazione se viene rilevata una generazione vocale involontaria. Il loro classificatore di output vocale ha una precisione di 0,96 in inglese e 0,95 in non inglese (motivo per cui ChatGPT-4o potrebbe indulgere in un rifiuto eccessivo di richieste vocali in conversazioni non in inglese).<\/p>\n
Ma i risultati della System Card continuano a mostrare le complessit\u00e0 coinvolte nella creazione di chatbot AI in grado di simulare la voce di qualcuno con solo un breve campione e senza bisogno di una formazione approfondita su quel campione. La clonazione vocale pu\u00f2 essere utilizzata per impersonare qualcuno e perpetrare frodi. OpenAI ha scoperto che il rischio di generazione di voci non autorizzate \u00e8 minimo, tuttavia.<\/p>\n
Anche se si mettono da parte i rischi di utilizzo per impersonificazione e frode a causa delle misure di sicurezza in atto, sarebbe comunque piuttosto snervante quando si parla con una macchina e questa inizia a rispondere con la tua voce, all’improvviso. Un certo Data Scientist su X l’ha definita “la trama per la prossima stagione di Black Mirror” e certamente sembra cos\u00ec. Un altro utente afferma su X che gli \u00e8 successo in ChatGPT-4o alpha, ma non si sa se sia la verit\u00e0 o no.<\/p>\n
Tuttavia, c’\u00e8 la possibilit\u00e0 che ci\u00f2 accada la prossima volta che parli con ChatGPT-4o. E questo \u00e8 un PSA: non agitarti se succede, o non agitarti troppo.<\/p>\n
OpenAI ha inoltre predisposto misure di sicurezza per garantire che GPT-4o si rifiuti di identificare le persone e di generare contenuti protetti da copyright, altri rischi scoperti durante la valutazione.<\/p>\n
Tra gli altri rischi che l’azienda ha trovato con il modello, ha collocato la maggior parte di essi nella categoria bassa. Questi includono sicurezza informatica, minacce biologiche e autonomia del modello. Tuttavia, per la persuasione, ha trovato il rischio medio: significa che alcuni campioni di scrittura prodotti da GPT-4o si sono dimostrati pi\u00f9 persuasivi del testo scritto da esseri umani nel influenzare le opinioni delle persone.<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI ha rilasciato di recente la System Card per il suo modello GPT-4o, poco dopo che la modalit\u00e0 vocale avanzata per ChatGPT-4o ha iniziato a essere distribuita in versione alpha a un numero limitato di utenti di ChatGPT Plus. Prima di pubblicare il modello all’inizio di maggio (senza la modalit\u00e0 Advanced Voice), OpenAI si \u00e8 […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[183,130],"class_list":["post-3172","post","type-post","status-publish","format-standard","hentry","category-how-to","tag-chatgpt","tag-microsoft"],"acf":[],"_links":{"self":[{"href":"https:\/\/howtogeek.blog\/it\/wp-json\/wp\/v2\/posts\/3172","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/howtogeek.blog\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/howtogeek.blog\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/it\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/it\/wp-json\/wp\/v2\/comments?post=3172"}],"version-history":[{"count":1,"href":"https:\/\/howtogeek.blog\/it\/wp-json\/wp\/v2\/posts\/3172\/revisions"}],"predecessor-version":[{"id":3173,"href":"https:\/\/howtogeek.blog\/it\/wp-json\/wp\/v2\/posts\/3172\/revisions\/3173"}],"wp:attachment":[{"href":"https:\/\/howtogeek.blog\/it\/wp-json\/wp\/v2\/media?parent=3172"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/howtogeek.blog\/it\/wp-json\/wp\/v2\/categories?post=3172"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/howtogeek.blog\/it\/wp-json\/wp\/v2\/tags?post=3172"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}