Desde Meta han mencionado que su nueva herramienta de Inteligencia Artificial (IA) generadora de voz, es demasiado peligrosa para lanzar. Y es que según se ha conocido, Meta ha presentado una nueva herramienta de IA, conocida como “Voicebox”, que, según alega, representa un gran avance en la generación de voz impulsada por IA. Sin embargo, la compañía ha especificado que, no lo lanzará al público todavía, porque hacerlo podría ser bastante desastroso. A continuación, brindaremos todos los detalles sobre esta nueva herramienta de IA.
Herramienta de IA Voicebox
Según se ha podido conocer, la herramienta Voicebox actualmente puede producir clips de audio de voz en seis idiomas que según se ha descubierto (todos son de origen europeo), e incluso, según una publicación de blog de Meta, se trata del primer modelo de IA de este tipo capaz de poder completar o consumar tareas más allá de lo que era. Desde Meta afirman que, Voicebox supera muy fácilmente a las diversas IA de generación de voz de la competencia en prácticamente todas las áreas.
Según han dejado claro, esta herramienta tiene la capacidad de poder arrojar réplicas de texto a voz suficientemente precisas de la voz de una persona utilizando un archivo de audio de muestra de tan solo dos segundos, lo que evidentemente podría ser algo destructivo en manos equivocas.
Ahora bien, debemos mencionar que la mayoría de las figuras públicas importantes, en el que podemos incluir a los políticos, tienen muchas grabaciones de audio circulando por Internet. Por lo que, no sería para nada difícil recopilar algunos fragmentos de discursos de un líder político en ejercicio por ejemplo, y hacer uso de la herramienta “Voicebox” para producir una réplica sorprendentemente realista de su voz, algo que posteriormente, podría usarse para propósitos desfavorables.
Desde Meta creen que su nueva herramienta es lo suficientemente buena como para engañar a la mayoría de las personas, porque explícitamente no lanza Voicebox al público, sino que la misma logra publicar un trabajo de investigación, asimismo, detalla una herramienta clasificadora que puede identificar el habla generada por Voicebox de la voz real. Según se ha podido conocer, habla humana Meta representa el clasificador como “altamente efectivo”, aunque notablemente no perfectamente efectivo.
Beneficios potenciales de la herramienta en un futuro
Meta reconoce el potencial de uso indebido y daño no intencional que rodea a herramientas como Voicebox, sin embargo, destaca que no se deben pasar por alto los beneficios potenciales que la generación de voz de IA podría tener en el futuro.
Según se ha conocido, la herramienta denominada “Voicebox”, podría proporcionar un habla mucho más natural a aquellas personas con dificultades para hablar (por causa de una discapacidad física u otro), eliminando así, algunas de las barreras a la interacción causadas por la “voz de robot” de texto a voz existente que se hizo popular por el físico Stephen Hawking. Asimismo, la herramienta incluso podría realizar la traducción en tiempo real y muchos más aspectos interesantes.
Por otro lado, en la publicación de blog, Meta ha explicado que incluso, Voicebox se puede llegar a utilizar para editar y optimizar el discurso grabado. Esto quiere decir que sí grabó algún audio pero pronunció mal alguna palabra o fue interrumpido por el ruido de fondo, Voicebox tiene la capacidad de poder aislar el segmento ofensivo y “volver a grabar” un fragmento de voz utilizando su voz, algo que sin lugar a dudas, es bastante aterrador pero impresionante.
Pero si hay algo que resaltar es que, es bastante bueno observar como Meta ha adoptado un enfoque bastante serio y considerado con respecto a esta herramienta, algo que muchos no han tomado en cuenta por entrar rápidamente en la carrera de la IA.
