Depois de encantar a internet (e a nós) com sua natureza absurda, a paródia de “Seinfeld” gerada por IA “Nothing, Forever” foi suspensa do Twitch por 14 dias.
Como parte de sua paródia de “Seinfeld”, uma das cenas recorrentes em “Nothing, Forever” mostra Larry Feinberg, o personagem de Jerry Seinfeld, realizando rotinas de stand-up. As piadas de Larry geralmente eram: “O que é um urso desdentado? Um ursinho de goma. Mas, como os criadores de “Nothing, Forever”, Mismatch Media disseram ao TechCrunch, a equipe estragou o filtro de conteúdo de IA, resultando em Larry apresentando uma rotina de stand-up transfóbica.
“Nothing, Forever”, que está no ar quase constantemente desde dezembro, inicialmente gerou diálogos de personagens por meio do modelo Davinci de GPT-3, além do protocolo de filtragem de conteúdo Open AI. Mas quando Davinci começou a ter problemas técnicos, a equipe mudou para o modelo Curie menos sofisticado. Depois de trocar de modelo, os criadores não incorporaram corretamente a ferramenta de moderação de IA. Logo Larry estava contando piadas transfóbicas e “Nothing, Forever” foi colocado em espera.
“Primeiro, deixe-me dizer que o texto que geramos foi um erro, estamos muito envergonhados e o conteúdo generativo criado não reflete de forma alguma os valores ou opiniões de nossa equipe”, escreveu o co-criador Skyler Hartle em um e-mail para TechCrunch. . “Lamentamos muito que isso tenha acontecido e esperamos estar de volta ao ar em breve, com todas as devidas salvaguardas.”
Hartle também disse que a equipe está procurando um sistema secundário de moderação de conteúdo para adicionar como redundância, caso seus filtros de moderação de conteúdo falhem durante a transmissão ao vivo.
Twitch não respondeu a um pedido de comentário. Hartle disse que também não teve nenhuma comunicação direta com o Twitch. Mas os criadores acreditam que a suspensão é resultado dos comentários transfóbicos de Larry, devido ao momento da suspensão.
As Diretrizes da comunidade do Twitch proíbem a retórica de ódio sobre grupos de identidade específicos, incluindo discriminação ou assédio com base na identidade de gênero. Os sistemas de moderação de conteúdo da plataforma parecem ter captado rapidamente a retórica transfóbica de Larry, uma IA. Mas, embora os sistemas do Twitch tenham sido rápidos em remover uma IA, eles não foram tão consistentemente bem-sucedidos em mitigar o assédio deliberado de pessoas transgênero.
Cerca de um ano e meio atrás, a plataforma foi atormentada por “ataques de ódio” maliciosos, principalmente direcionados a criadores negros e transgêneros. Após a ação coletiva liderada pelo criador, o Twitch implementou novos recursos de segurança para ajudar a proteger os usuários desses ataques cibernéticos violentos. No ano passado, quando Keffals, streamer transgênero do Twitch, ganhou fama por falar sobre questões LGBTQ+, ela foi assediada com tanta severidade que foi atacada dentro de sua própria casa, forçando-a a se esconder. (Muito desse assédio veio de outros sites, mas a partir de 2021, as diretrizes da comunidade do Twitch podem responsabilizar os usuários do Twitch por assédio fora da plataforma.)
Os criadores de “Nothing, Forever” dizem que não pretendiam fazer nenhum comentário transfóbico e não endossam essas opiniões. No entanto, essa situação mostra a rapidez com que o entretenimento generativo de IA pode falhar quando não é verificado. Afinal, o GPT-3 é treinado na Internet, portanto, pode ecoar algumas das retóricas mais flagrantes da Web.
Há algo sombriamente irônico sobre esse incidente: um bug de filtragem de conteúdo levou à suspensão do Twitch do que é basicamente um robô. Enquanto isso, Dave Chappelle acabou de ganhar um Grammy por seu álbum de comédia “The Closer”, que foi fortemente criticado por sua transfobia. No entanto, mesmo dentro do universo gerado por IA de “Nothing, Forever”, o público gerado por IA não achou as piadas de Larry muito engraçadas.
“Há cerca de 50 pessoas aqui e ninguém está rindo. Alguém tem alguma sugestão? tempo Onde todos foram?