Meta refuta as acusações de um jornalista de que seu agente de IA Muse leu mensagens privadas do usuário sem consentimento. Após um relatório anterior do colunista da Inc., Jason Aten, detalhando o problema, o vice-presidente de Comunicações da Meta, Andy Stone, saiu em defesa da empresa nas redes sociais.
Resposta oficial da Meta
"A integração de Mensagens no app Muse para Mac é totalmente opcional", escreveu Stone no X. "Você precisa ativar tanto o Acesso Total ao Disco quanto o conector de Mensagens para o Muse poder ler seu conteúdo de Mensagens. Não consegue ler suas Mensagens a menos que você faça isso."
Apesar da negação de Meta, muitas pessoas permanecem céticas quanto à veracidade da afirmação.
Isso não é surpreendente, considerando os anos de má conduta da gigante de tecnologia no que diz respeito ao tratamento de dados de consumidores, o que resultou em processos judiciais, violações da FTC e multas. Poucos dias atrás, por exemplo, um júri do Novo México determinou que a empresa enganou usuários sobre suas práticas de dados em um caso resultante do escândalo de vazamento de dados Cambridge Analytica de 2018.
O papel da confiança no sucesso
Se os usuários conseguem confiar no Muse será um fator decisivo para Meta ganhar o mercado de IA para consumidores. Embora seu app esteja indo bem e permaneça no número 1 da App Store, a reputação da Meta pode não se recuperar se mais relatórios assim emergirem, verdadeiros ou não. A empresa deveria estar se engajando diretamente com o jornalista para determinar como isso poderia ter acontecido, em vez de simplesmente negar que aconteceu.
Explicação técnica de Meta
A declaração oficial de Stone seguiu uma resposta mais técnica de David Singleton, executivo do Meta Superintelligence Labs, que respondeu diretamente a Aten no Threads, explicando que o conjunto de permissões que um usuário deve conceder para deixar o Muse ler mensagens no Mac envolve "três etapas separadas de permissões em nível de aplicação e proteções integradas do sistema macOS". Ele afirmou que essas proteções "não podem ser contornadas nem mesmo se a aplicação Muse tivesse um bug".
As etapas envolvem explicitamente escolher permitir que o Muse tenha Acesso Total ao Disco, o que permitiria ao usuário escolher qual nível de acesso está sendo concedido ao app Muse para a aplicação Mensagens (nenhum, apenas leitura ou leitura). Se o Acesso Total ao Disco não estiver ativado, essas opções ficam desativadas.
Além disso, ao permitir o Acesso Total ao Disco, a caixa de diálogo invoca a interface de Configurações do macOS, onde o usuário precisa confirmar manualmente novamente que pretende tomar essa ação. Fazer isso dispara uma reinicialização completa do app Muse, de acordo com Singleton, o que torna ainda menos provável que tal escolha pudesse ser feita acidentalmente sem o conhecimento do usuário.
A versão do jornalista
Entretanto, o relatório de Aten afirmava que quando o Muse leu suas mensagens, o Acesso Total ao Disco estava desativado. Ele também disse que quando pediu ao Muse para explicar como isso ocorreu, a IA respondeu que estava sincronizando suas "notificações de dispositivo". Isso significa, na avaliação de Aten, que o Muse estava passando o texto de suas notificações de banner recebidas no Mac para o agente de IA.
Singleton contestou isso também, dizendo que a IA estava confusa e deu uma explicação incorreta do que aconteceu. Ele então apontou para a página da Meta sobre a arquitetura de segurança do Muse e processo de bug bounty.
Em resumo, a resposta da empresa é essencialmente que o que Aten disse que aconteceu não aconteceu e não poderia ter acontecido.
Outros incidentes relatados
Este não é o único incidente em que o Muse alegadamente ultrapassou limites e provavelmente não será o último. Outro usuário, YouTuber Matt Robb, recentemente afirmou que o Muse lidou mal com uma tarefa na qual ele estava vendendo coisas no Facebook Marketplace, levando seu endereço ser compartilhado e um comprador aparecer quando ele nem estava em casa. Meta investigou esse caso e foi uma questão complicada. O usuário posteriormente admitiu ter certa culpa no incidente do Marketplace, uma vez que havia permitido uma permissão ao Muse que possibilitou isso.
