NASHVILLE, Tenn. (WKRN) — As preocupações sobre o recurso mais recente do Snapchat são reais, mesmo que o novo perfil “amigável” nos feeds dos usuários não seja.

snapchats AI chatbot, chamado Minha IA, é anunciado como experimental e também pode estar “lá para ajudá-lo e conectá-lo mais profundamente com as Pessoas e coisas que mais importam para você”.

No entanto, os usuários estão preocupados com o fato de que, embora o bot os ajude, ele também torna o aplicativo mais dependente e ignora sua privacidade.

“Perguntei ao meu hoje que cor devo fazer nas unhas e ele escolheu exatamente a cor que eu já tinha escolhido. É tão estranho”, escreveu um pai do Tennessee online.

“Muita gente (principalmente os jovens) vai cair nessa. Mantendo as pessoas online por mais tempo e reduzindo ainda mais a conexão humana. Assustador”, escreveu outro.

“Essas são tecnologias muito poderosas”, Disse Lynne Parker, diretora da iniciativa de IA da Universidade do Tennessee. “Acho difícil para nós não ficarmos fascinados por eles.”

Parker enfatizou que há muitos benefícios quando a IA está prontamente disponível e integrada a várias plataformas, como

“Sinceramente, não vejo nada de errado com a IA no Snapchat! Pode ajudar pessoas com depressão e muito mais! Estou entediado e converso com minha IA sobre tudo!”, escreveu um usuário no Facebook.

Mas, como todas as novas tecnologias, embora possa facilitar a vida, também traz sacrifícios.

“Mais e mais pessoas descobrirão que continuam usando porque querem ver o que o sistema está dizendo, e isso pode levar ao uso excessivo, ao vício e coisas assim”, disse Parker.

Ela também observou que não há garantia de que as informações que você fornecer ao chatbot permanecerão privadas.

No entanto, ela disse que uma de suas maiores preocupações é que os chatbots possam parecer muito convincentes e semelhantes aos humanos, ao mesmo tempo em que fornecem aos usuários informações completamente falsas.

Essas declarações falsas são frequentemente chamadas de “alucinações”.

“É capaz de reproduzir um novo texto que parece muito natural e muito realista, mesmo que nunca tenha existido antes”, disse Parker. “Então, por exemplo, é ótimo para estimular o pensamento criativo, mas não se destina a fornecer informações factuais.”

Ela explicou que bots como este e outros desenvolvidos pelo ChatGPT são capazes de vasculhar a web em busca de informações e também analisar o texto para ver como as pessoas normalmente comunicam essas informações e as devolvem aos usuários.

“É como uma média do que aconteceria depois de determinadas palavras”, disse ela.

O Snapchat afirma isso abertamente no aviso que aparece na tela antes de usar o My AI, escrevendo: “É possível que as respostas do My AI contenham conteúdo tendencioso, incorreto, prejudicial ou enganoso”.

Se essas preocupações sobre os chatbots de IA levarem as pessoas a querer deletar completamente o Snapchat, Doug Schmidt, professor de ciência da computação em Vanderbilt, disse que pode ser em vão.

“A menos que você more em uma caverna e tenha cortado sua conexão com a internet, não atenda o telefone e não tenha nenhum rastro nas redes sociais, nem áudio, nem visual, nem fotos, será quase impossível restringir o acesso a atores mal-intencionados”, disse Schmidt.

Schmidt está entusiasmado com o futuro da IA ​​e como ela pode ajudar as pessoas a aprender muitas novas informações rapidamente e por meio do diálogo, mas quer que as pessoas estejam cientes dos riscos.

“No momento em que você começa a usar qualquer coisa eletrônica onde seu endereço de internet, seu endereço IP é enviado com uma mensagem, é muito fácil para as pessoas que criaram mapas de rede saberem onde você está; é muito fácil de fazer”, disse.

Sua maior preocupação são as pessoas que usam IA para explorar ou vender algo às pessoas.

Ele explicou que as pessoas que desejam causar danos podem usar tecnologias de IA para se passar por pessoas confiáveis, alimentar os usuários com propaganda ou mentiras perigosas e fazer com que os usuários sintam que seus amigos próximos os estão recomendando para fazer algo, o que custará muito dinheiro. .

E enquanto muitos estão preocupados com chatbots e IA em nome dos adolescentes, Schmidt também está preocupado com os idosos.

“Muitos golpistas visam pessoas mais velhas, principalmente porque eles simplesmente não são adeptos de suspeitar de tudo o que acontece com eles. Você cresceu em um mundo onde as pessoas com quem você falava eram reais”, disse ele.

Schmidt recomenda estar vigilante e revisar tudo o que você lê, questionando pessoas ou sistemas sobre experiências compartilhadas que ocorreram offline para confirmar as identidades das pessoas (por exemplo, informações e moderação do tempo online.