A controvérsia das vozes da IA ​​e dos direitos

No mundo em rápida evolução da IA, a OpenAI enfrentou recentemente um desafio significativo: a remoção de uma voz chamada “Sky” do ChatGPT devido à sua notável semelhança com a voz de Scarlett Johansson no filme “Her”. Apesar de ter sido gravada por um dublador, “Sky” soava muito semelhante a Johansson, levantando questões sobre direitos pessoais e o uso ético de vozes geradas por IA.

A ascensão das vozes da IA

A tecnologia de voz AI fez avanços substanciais, permitindo a criação de vozes altamente realistas e versáteis. Essas vozes são usadas em diversas aplicações, desde assistentes virtuais e atendimento ao cliente até entretenimento e educação. No entanto, à medida que as vozes da IA ​​se tornam mais realistas, a linha entre as vozes humanas e sintéticas torna-se mais confusa, levando a questões jurídicas e éticas complexas.

A questão dos direitos pessoais

O caso de “Sky” destaca a potencial violação dos direitos pessoais quando as vozes geradas pela IA imitam de perto indivíduos reais. A voz de Scarlett Johansson, retratada em “Her”, é distinta e reconhecível. O uso de uma voz de IA com som semelhante pode ser visto como uma forma de personificação, o que pode violar os direitos do proprietário original da voz à privacidade e ao controle sobre sua voz.

Atores de voz e vozes com sons semelhantes

Em contraste, os dubladores há muito usam sua capacidade de imitar ou emular as vozes de personalidades famosas. Esta prática é geralmente aceita na indústria do entretenimento, desde que a imitação não tenha a intenção de enganar ou explorar o proprietário original da voz. Os dubladores trazem seu talento único para criar vozes que evocam certas emoções ou personagens, muitas vezes adicionando seu toque pessoal à imitação.

Considerações Éticas e Legais

O uso de IA para replicar vozes acrescenta uma camada de complexidade a esta dinâmica. As vozes geradas por IA podem ser ajustadas para soarem quase idênticas a uma voz alvo, levantando preocupações sobre consentimento, atribuição e compensação. Existem várias considerações importantes:

• Consentimento: O proprietário da voz original consentiu que sua voz fosse replicada?

• Atribuição: A voz gerada pela IA está sendo atribuída corretamente ou está enganando os usuários sobre a origem?

• Compensação: O proprietário da voz original está sendo compensado pelo uso de uma voz muito parecida com a dele?

Equilibrando Inovação e Direitos

Embora a tecnologia de voz de IA ofereça oportunidades incríveis, também exige um equilíbrio cuidadoso entre inovação e respeito pelos direitos pessoais. Empresas como a OpenAI devem navegar nestas águas com atenção, garantindo que a utilização das vozes da IA ​​não infringe os direitos individuais nem engana os consumidores.

A remoção de “Sky” do ChatGPT é um passo no sentido de abordar estas preocupações, mas também sublinha a necessidade de diretrizes e regulamentos claros na indústria de IA. À medida que a IA continua a evoluir, o diálogo contínuo entre os criadores de tecnologia, os peritos jurídicos e o público será essencial para criar um quadro que apoie a inovação e, ao mesmo tempo, proteja os direitos pessoais.

A controvérsia em torno da voz “Sky” no ChatGPT serve como um lembrete da complexa intersecção entre a tecnologia de IA e os direitos pessoais. À medida que as vozes da IA ​​se tornam mais avançadas, é crucial abordar as implicações éticas e legais para garantir que estas tecnologias sejam utilizadas de forma responsável e justa. O caso da “Sky” destaca a importância do consentimento, atribuição e compensação no uso de vozes geradas por IA, estabelecendo um precedente para o futuro desenvolvimento e implantação de IA em aplicações de voz.

Mas certamente, uma vez que a voz foi gravada por um dublador, Scarlett Johansson não deveria ter direito à privacidade aqui? Ou é mais complexo?

A complexidade das vozes da IA ​​e dos direitos pessoais: um olhar mais atento

A remoção de “Sky” do ChatGPT coloca em foco a interação sutil entre a tecnologia de IA e os direitos pessoais. Embora “Sky” tenha sido gravada por um dublador, sua semelhança com a voz de Scarlett Johansson no filme “Her” levanta questões importantes sobre privacidade e direitos de imagem.

O papel do dublador

Os dubladores muitas vezes imitam ou emulam as vozes de personalidades famosas, uma prática geralmente aceita na indústria do entretenimento. Estas imitações são normalmente consideradas expressões criativas, em vez de personificações diretas, especialmente quando acrescentam características ou contexto únicos à voz. No entanto, quando uma voz gerada por IA imita demasiado a voz de um indivíduo específico, pode criar desafios éticos e legais, mesmo que a voz tenha sido gravada por outra pessoa.

A controvérsia das vozes da IA ​​e dos direitos

Direitos de privacidade e semelhança

Scarlett Johansson, como muitas figuras públicas, tem certos direitos sobre a sua imagem, o que inclui a sua voz. Estes direitos permitem-lhe controlar e proteger a forma como a sua voz é usada, especialmente em contextos comerciais. Se uma voz gerada por IA replicar de perto a sua voz distinta, poderá infringir estes direitos, independentemente do processo de gravação original.

Considerações Legais e Éticas

• Representação vs. Emulação: enquanto os dubladores emulam, a IA pode replicar vozes em um grau que pode se transformar em personificação, potencialmente enganando os usuários ou explorando a identidade do proprietário da voz original.

• Consentimento e Atribuição: Garantir que o proprietário da voz original consente com o uso de sua imagem e que a atribuição adequada é dada são etapas cruciais no respeito aos direitos pessoais.

• Uso Comercial e Compensação: Usar uma voz muito parecida com a de uma celebridade para fins comerciais sem a devida compensação ou licenciamento pode levar a disputas legais.

Equilibrando Inovação e Direitos

À medida que a tecnologia de voz de IA avança, é essencial estabelecer diretrizes claras para lidar com estas questões complexas. Isto envolve proteger os direitos dos indivíduos e, ao mesmo tempo, promover a inovação. A decisão da OpenAI de remover “Sky” destaca a importância de respeitar os direitos pessoais no desenvolvimento da IA.

A controvérsia das vozes da IA ​​e dos direitos

O caso de “Sky” ressalta as complexidades envolvidas no uso de vozes geradas por IA. Mesmo quando gravada por um dublador, a grande semelhança com uma voz conhecida pode levantar preocupações éticas e legais significativas. No futuro, é vital que os criadores de IA abordem estas questões de forma ponderada, equilibrando os avanços tecnológicos com a proteção dos direitos individuais. Esta abordagem ajudará a garantir que as inovações em IA sejam responsáveis ​​e respeitem a privacidade pessoal.

Aqui está o que Scarlett Johansson escreveu sobre o assunto…

Em setembro passado, recebi uma oferta de Sam Altman, que queria me contratar para dar voz ao atual sistema ChatGPT 4.0. Ele me disse que sentia que, ao dar voz ao sistema, eu poderia preencher a lacuna entre as empresas de tecnologia e os criativos e ajudar os consumidores a se sentirem confortáveis ​​com a mudança sísmica que diz respeito aos humanos e à IA. Ele disse que sentiu que minha voz seria reconfortante para as pessoas.

A controvérsia das vozes da IA ​​e dos direitos

Depois de muita consideração e por motivos pessoais, recusei a oferta. Nove meses depois, meus amigos, familiares e o público em geral notaram o quanto o mais novo sistema chamado “Sky” soava como eu.

Quando ouvi a demo lançada, fiquei chocado, irritado e sem acreditar que o Sr. Altman iria seguir uma voz que soava tão estranhamente semelhante à minha que meus amigos mais próximos e meios de comunicação não perceberam a diferença. Altman até insinuou que a semelhança era intencional, twittando uma única palavra “ela” – uma referência ao filme em que dei voz a um sistema de bate-papo, Samantha, que estabelece um relacionamento íntimo com um humano.

A controvérsia das vozes da IA ​​e dos direitos

Dois dias antes do lançamento da demonstração do ChatGPT 4.0, o Sr. Altman contatou meu agente, pedindo-me para reconsiderar. Antes que pudéssemos nos conectar, o sistema já estava disponível.

Como resultado de suas ações, fui forçado a contratar um advogado, que escreveu duas cartas ao Sr. Altman e à OpenAl, expondo o que haviam feito e pedindo-lhes que detalhassem o processo exato pelo qual criaram a voz “Sky”. Consequentemente, a OpenAl concordou relutantemente em retirar a voz “Sky”.

Numa época em que todos lutamos contra deepfakes e com a proteção da nossa própria imagem, do nosso próprio trabalho, das nossas próprias identidades, acredito que estas são questões que merecem clareza absoluta. Aguardo com expectativa uma resolução sob a forma de transparência e a aprovação de legislação apropriada para ajudar a garantir que os direitos individuais sejam protegidos.

A controvérsia das vozes da IA ​​e dos direitos