This issue is also available in English.
How Kind é uma publicação apoiada por leitores como você. Pra receber novas ediçōes e apoiar a publicação independente, considere se tornar um assinante gratuito ou pago. Todos os posts são e sempre serão gratuitos, mas se você quiser apoiar meu trabalho, pode contribuir de algumas formas:
Não achei que isso fosse acontecer comigo. Não sou muito conhecedor de tecnologia? Muito atento? Muito observador? Muito crítico?
Tô sempre dizendo pros amigues e pra família ficarem atentos a golpes e desinformação na internet. Lembro que anos atrás meu irmão me mandou um vídeo de uns fãs esbarrando no Keanu Reeves em um posto de gasolina. Mas na verdade não era o Keanu Reeves. Era um deepfake.
Tive que dar a má notícia pra ele.
O meu irmão, não o Keanu.
Mas isso foi há anos, e a IA Generativa está mais avançada do que nunca agora.
E assim, aconteceu. Fui enganado por um vídeo gerado por IA quando menos esperava. Me enganou direitinho, que nem um bobo.
Enquanto almoçava com minha parceira há umas semanas, assistimos a um vídeo no YouTube que prometia abordar algumas diferenças fascinantes entre casas japonesas e americanas. Não vou colocar o link aqui, pois não quero dar nenhum tipo de promoção pra esse canal, mas digamos que o "criador" se chamava "Ben Miyamoto".
"Ben" nos conta sua história: "Eu cresci em uma casa japonesa, e agora moro mais tempo nos Estados Unidos do que vivi no Japão. Este canal é sobre as diferenças entre essas duas vidas — casas, hábitos, família, trabalho e as pequenas coisas do dia a dia que você para de notar depois de morar em algum lugar por tempo suficiente. Não estou aqui para dizer que um país acertou. Eu gosto do meu aquecimento central. Mas há coisas sobre a casa onde cresci que levei trinta anos para entender, e quero mostrar o que eram."
O vídeo parecia inofensivo, até informativo. Embora um pouco... estranho. Havia uma sensação meio estranha na voz, no roteiro e nas fotos que "Ben" sobrepunha à narração.
A gente ria toda vez que aparecia uma dessas fotos, porque pareciam estranhamente... fofas? "Ben" ficava ao redor da "casa dele", apontando pra objetos relevantes pra narração naquele momento, e usando o que eu descreveria como uma expressão neutra e impassível – muito "de pai". Eu e minha parceira teorizamos que talvez tivessem sido tiradas pelo cônjuge do "Ben", ajudando com o vídeo.
Talvez, se não estivéssemos comendo e sim focados totalmente no vídeo e em mais nada, poderíamos ter percebido que ele foi gerado por IA. Mas nada parecia realmente fora do comum naquele momento.
Focamos no conteúdo do vídeo – as lições que "Ben" compartilhava da "sua" infância divida - crescendo no Japão até os 12 anos, e depois se mudando pros EUA.
As histórias fofas sobre sua avó e todas as tradições japonesas que ele aprendeu com ela.
Discordamos de muitas das "lições" que "Ben" destacava ao longo do vídeo. Sentimos que algumas eram simplistas ou generalizavam demais a cultura americana ou japonesa. Mas não questionamos isso – afinal, essa era a experiência "dele", e talvez houvesse algo que pudéssemos aprender com isso.
Definitivamente tinha algo estranho no roteiro. Frases meio soltas, meio sem nexo, espalhadas pelo texto. Um sotaque inconsistente ao pronunciar palavras em japonês. E então, o vídeo terminou abruptamente, enquanto "Ben" tava no meio de uma frase.
Eu fiquei curioso pra ver o que outras pessoas tavam achando do vídeo, e abri os comentários. E foi aí que nosso mundo caiu.
Como muitos outros espectadores, fiquei perplexo. Aqui távamos ouvindo o que achávamos ser um ser humano real, compartilhando suas experiências de vida reais, suas histórias familiares, suas lições, e querendo iniciar uma conversa com outras pessoas sobre isso. Querendo se conectar.
E era tudo falso.
Por uma hora, fiquei vidrado no canal, investigando mais a fundo. O número de inscritos era relativamente baixo, mas os vídeos mais assistidos tinham meio milhão de visualizações. O número total de visualizações do canal ultrapassava um milhão. Um canal falso lucrando com milhões de visualizações, tudo com base em uma mentira.
As prévias dos vídeos pareciam quase idênticas. "Ben" parecia assustadoramente parecido em todos eles, com a mesma expressão vazia e exatamente a mesma roupa.
E os vídeos estavam sendo lançados rapidamente. Todo santo dia, um novo vídeo.
E ainda tinham os comentários que "Ben" fixava em cada vídeo. O inglês "dele" era meio estranho, robótico e muito diferente da narração "dele" nos vídeos.
E claro, quem tá por trás desse canal também tá tentando te vender algo. Nesse caso, é um eBook de USD$79 (!!) com desconto de $47 pros primeiros compradores.
No livro, "Ben" promete falar mais sobre os conceitos abordados no canal. É um conceito que soa profundo no papel, mas é explicado de forma confusa: não é falta de disciplina que é seu problema. Sempre foi sua casa. O livro supostamente abordará "os objetos, o dinheiro, a limpeza, as manhãs e as duas perguntas que iluminam cada cômodo".
E pra deixar o bagulho ainda mais esquisito, Ben" encerra a sinopse dizendo: "Não é um livro sobre se tornar minimalista. Eu tenho uma secadora. Uso todos os dias."
Hum... Ok? Sou só eu ou esse texto todo é ainda mais obviamente gerado por IA?
Algumas das informações desse eBook poderiam ser úteis? Talvez.
Será que os vídeos do "Ben" poderiam inspirar mudanças positivas de verdade em alguns espectadores? Acho que sim.
Mas o principal problema aqui é a falta de transparência. Não há aviso, nem créditos, nem fontes. Como eu devo aceitar qualquer uma das informações desses vídeos ou desse livro só de cara? Como posso acreditar que isso não é apenas uma forma fácil de ganhar dinheiro pra alguém com um fluxo de trabalho de IA Generativa? Alguém que tá roubando o trabalho dos outros e apresentando como seu? Alguém que gera centenas de vídeos por ano, talvez em vários canais diferentes, alimentando-se de espectadores desavisados como eu?
Me afastei do canal antes de me afundar demais no buraco.
Isso me deixou profundamente perturbado. Traído. Invadido.
Porque família é algo sagrado. Nossas experiências de vida são sagradas. Nossa cultura. E ter a oportunidade de compartilhar sua história, tentar inspirar outra pessoa e conversar com outros – isso é um presente.
E quem quer que administre esse canal tá nos roubando a alegria de compartilhar experiências. No canal, o autor afirma querer "compartilhar mais do [seu] conhecimento, para inspirar ou simplesmente educar e compartilhar [...] minha experiência vivendo em ambos os países."
Mas tudo é construído sobre uma mentira.
E tão diminuindo a experiência real vivida por aqueles que realmente cresceram no Japão e se mudaram pros EUA. Ou qualquer outra experiência real vivida. De qualquer ser humano que tenha respirado nessa terra.
Eles tão pegando algo real e belo, matando-o, e depois manipulando seu cadáver e fingindo que é real, que tá vivo e que é deles.
Que raiva.
Esse tipo de coisa me faz sentir que preciso ser mais cuidadoso, mais crítico, mais vigilante.
Fique atento ao que você vê na internet agora mais do que nunca.
Nunca se sabe quando pode ser outro "Ben" tentando te enganar.
☕️ Adoraria ouvir de você – como é a sua relação com seus dados? Alguma ideia de tópicos pra edições futuras? Comente abaixo ou mande um e-mail para howkind@mateusdasilva.com :-)
Me Apoie
Você ganhou algo ao ler este post? Considere contribuir pra me apoiar financeiramente por meio de um pagamento único ou pagamento recorrente. Isso vai me ajudar a publicar e manter mais edições do How Kind. Brigado <3.
🎷Essa foi a edição #8 da How Kind, espalhando gentileza, uma newsletter de cada vez. Aqui você pode encontrar todas as ediçōes.
