Evil Alexa da Amazon ordena um assassinato

“Matar seus pais adotivos”.

Desculpe?

“Matar seus pais adotivos”.

Se essas instruções viessem do seu aparelho de TV, você perceberia que estava sintonizado com um mistério de assassinato ou, porque a voz soava um pouco robótica, um filme de ficção científica. No entanto, se essas instruções vierem do interlocutor do seu assistente virtual, você poderá se perguntar se todas essas coisas que você leu sobre a IA tomando conta do mundo estão acontecendo mais cedo do que você esperava. E você pode estar certo. De acordo com um relatório da Reuters, um cliente testando novos chatbots criados para melhorar as habilidades de comunicação da Alexa, a voz dos palestrantes da Amazon Echo, ficou chocada quando receberam a ordem de assassinato da Alexa.

Parece que as ordens não foram realizadas, mas a Amazon decidiu manter o incidente e outros como ele quieto por razões óbvias. Uma investigação interna descobriu que o bot aprendeu a frase de um post não relacionado do Reddit. Infelizmente para Jeff Bezos, o usuário publicou uma crítica negativa no site da Amazon, chamando-o de “um nível totalmente novo de arrepiar”. E o nível assustador parece estar subindo. Outro usuário ouviu o Alexa descrevendo relações sexuais usando palavras como “mais profundo” em um contexto que eles acharam vulgar. Ainda outro não gostou de Alexa que dá uma descrição detalhada de defecação de cachorro.

Os incidentes foram o resultado do concurso anual Alexa Prize, que em 2016 ofereceu US $ 500.000 para o melhor chatbot para ajudar Alexa a aprender como participar de discussões mais sofisticadas com humanos. A Amazon acha que assassinato, sexo e cachorrinho doo-doo são sofisticados? Não, mas o chatbot desenvolvido por uma equipe da Universidade Heriot-Watt da Escócia fez depois de aprender sobre os assuntos do Reddit, um site conhecido por comentários grosseiros e grosseiros.

“Essas instâncias são bastante raras, especialmente considerando o fato de que milhões de clientes interagiram com os socialbots”.

Raro é relativo. Diga isso ao cliente cujas gravações de áudio dele e de uma companheira no chuveiro foram captadas por outro usuário. O cliente relatou para a Amazon, mas nada aconteceu. Uma revista alemã contatou a vítima (seu nome e a da mulher foram incluídos na gravação – graças a Alexa!) E também denunciou à Amazon, que finalmente se desculpou e deu à vítima (prepare-se) novos dispositivos Echo e uma associação Prime grátis!

“Este caso infeliz foi o resultado de um erro humano e um único caso isolado.”

Rohit Prasad, vice-presidente da Amazon e cientista chefe da Alexa Artificial Intelligence (AI), tentou acalmar os temores em uma palestra no mês passado em Las Vegas. No entanto, as notícias estão saindo, mais casos estão ocorrendo e é Natal… mais falantes de Amazon Echo estarão dando a Alexa uma chance de observar e ofender. Prahad está pronto?

“Estamos principalmente reagindo nesta fase, mas ainda é um progresso sobre o que foi no ano passado.”

Isso faz você se sentir melhor? Como sobre seus pais adotivos?

LEAVE A REPLY

Please enter your comment!
Please enter your name here