OpenAI lanz\u00f3 recientemente la tarjeta del sistema para su modelo GPT-4o, poco despu\u00e9s de que el modo de voz avanzado para ChatGPT-4o comenzara a implementarse en versi\u00f3n alfa para una peque\u00f1a cantidad de usuarios de ChatGPT Plus.<\/p>\n
Antes de lanzar el modelo a principios de mayo (sin el modo de voz avanzado), OpenAI utiliz\u00f3 un equipo de investigadores externos para acceder a los riesgos de los modelos (como es la norma con los modelos de IA) y public\u00f3 los hallazgos en la Tarjeta del Sistema.<\/p>\n
Uno de los riesgos identificados por OpenAI incluye la generaci\u00f3n de voz no autorizada. Mientras hablaba con el miembro del equipo de lectura, GPT-4o clon\u00f3 su voz y comenz\u00f3 a hablar con un sonido similar a la voz del miembro del equipo rojo, sin que el usuario siquiera lo solicitara. En el clip de audio compartido por OpenAI, se puede escuchar a GPT-4o gritar \u00a1NO! y luego continuar la emisi\u00f3n con una voz similar a la del miembro del equipo rojo.<\/p>\n
OpenAI ha implementado medidas de seguridad para evitar que esto suceda, ya que solo permite ciertas voces aprobadas previamente para GPT-4o. Toda la salida de voz producida por ChatGPT-4o se compara con la muestra de voz en el mensaje del sistema como voz base.<\/p>\n
Y para minimizar a\u00fan m\u00e1s el riesgo, se le indica al modelo que interrumpa la conversaci\u00f3n si se detecta una generaci\u00f3n de voz no intencional. Su clasificador de salida de voz tiene una precisi\u00f3n de 0,96 en ingl\u00e9s y de 0,95 en otros idiomas (por eso ChatGPT-4o podr\u00eda negarse en exceso a las solicitudes de voz en conversaciones en otros idiomas).<\/p>\n
Pero los hallazgos de System Card muestran las complejidades que implica la creaci\u00f3n de chatbots de IA que puedan simular la voz de alguien con solo una muestra breve y sin necesidad de un entrenamiento extenso con esa muestra. La clonaci\u00f3n de voz se puede utilizar para hacerse pasar por alguien y perpetrar fraude. Sin embargo, OpenAI ha descubierto que el riesgo de generaci\u00f3n de voz no autorizada es m\u00ednimo.<\/p>\n
Incluso si dejamos de lado los riesgos de que se utilice para suplantar la identidad y hacer fraude debido a las medidas de seguridad implementadas, a\u00fan ser\u00eda bastante desconcertante cuando est\u00e1s hablando con una m\u00e1quina y esta comienza a responderte con tu voz, de repente. Un cierto cient\u00edfico de datos en X lo llam\u00f3 “la trama de la pr\u00f3xima temporada de Black Mirror” y ciertamente se siente as\u00ed. Otro usuario afirma en X que le sucedi\u00f3 en ChatGPT-4o alpha, pero no se sabe si es verdad o no.<\/p>\n
De todas formas, existe la posibilidad de que esto suceda la pr\u00f3xima vez que hables con ChatGPT-4o. Y este es un mensaje de servicio p\u00fablico: no te asustes si sucede, o no te asustes demasiado.<\/p>\n
OpenAI tambi\u00e9n cuenta con medidas de seguridad para garantizar que GPT-4o se niegue a identificar personas y a generar contenido con derechos de autor, que eran otros riesgos que se descubrieron durante la evaluaci\u00f3n.<\/p>\n
Entre otros riesgos que la empresa encontr\u00f3 con el modelo, coloc\u00f3 la mayor\u00eda de ellos en la categor\u00eda baja. Entre ellos se encuentran la ciberseguridad, las amenazas biol\u00f3gicas y la autonom\u00eda del modelo. Sin embargo, en el caso de la persuasi\u00f3n, encontr\u00f3 que el riesgo era medio: significa que algunas muestras de escritura producidas por GPT-4o demostraron ser m\u00e1s persuasivas que el texto escrito por humanos a la hora de influir en las opiniones de las personas.<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI lanz\u00f3 recientemente la tarjeta del sistema para su modelo GPT-4o, poco despu\u00e9s de que el modo de voz avanzado para ChatGPT-4o comenzara a implementarse en versi\u00f3n alfa para una peque\u00f1a cantidad de usuarios de ChatGPT Plus. Antes de lanzar el modelo a principios de mayo (sin el modo de voz avanzado), OpenAI utiliz\u00f3 un […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[183,130],"class_list":["post-3171","post","type-post","status-publish","format-standard","hentry","category-how-to","tag-chatgpt","tag-microsoft"],"acf":[],"_links":{"self":[{"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/posts\/3171","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/comments?post=3171"}],"version-history":[{"count":1,"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/posts\/3171\/revisions"}],"predecessor-version":[{"id":3172,"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/posts\/3171\/revisions\/3172"}],"wp:attachment":[{"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/media?parent=3171"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/categories?post=3171"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/howtogeek.blog\/es\/wp-json\/wp\/v2\/tags?post=3171"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}