Plug-ins de navegador de IA para ajudar

Notas dos editores

Pesquisadores da Universidade de Notre Dame estão desenvolvendo ferramentas de inteligência artificial que ajudam os consumidores a entender como estão sendo explorados enquanto navegam em plataformas online. O objetivo é aumentar a literacia digital dos utilizadores finais para que possam controlar melhor a forma como interagem com estes websites.

Em um estudo recente aparecendo em Anais da Conferência CHI sobre Fatores Humanos em Sistemas Computacionais, os participantes foram convidados a experimentar configurações de privacidade online sem consequências. Para testar como funcionam as diferentes configurações de privacidade de dados, os pesquisadores criaram um plug-in para o navegador Chrome chamado Privacy Sandbox, que substituiu os dados dos participantes por personas geradas pelo GPT-4, um grande modelo de linguagem da OpenAI.

Com o Privacy Sandbox, os participantes puderam interagir com diferentes sites, como plataformas de mídia social ou meios de comunicação. À medida que navegavam em vários sites, o plug-in do navegador aplicava dados gerados por IA, tornando mais óbvio para os participantes ver como foram segmentados com base na suposta idade, raça, localização, renda, tamanho da família e muito mais.

“Do ponto de vista do usuário, permitir o acesso da plataforma a dados privados pode ser atraente porque você poderia obter melhor conteúdo com isso, mas depois de ativá-lo, você não poderá recuperar esses dados. Depois de fazer isso, o site já saberá onde você está. live”, disse Toby Li, professor assistente de ciência da computação e engenharia e docente afiliado do Lucy Family Institute for Data & Society em Notre Dame, que liderou a pesquisa. “Isso é algo que queríamos que os participantes entendessem, descobrissem se o ambiente vale a pena em um ambiente livre de riscos e lhes permitisse tomar decisões informadas”.

Outro estudoeste em Procedimentos da ACM sobre Interação Humano-Computador, analisou padrões obscuros – ou os recursos de design em plataformas digitais que sutilmente estimulam os usuários a realizar ações específicas – e como eles são usados ​​em sites para manipular clientes. Para o estudo, Li e sua equipe analisaram como os padrões escuros são aplicados pelos designers de interface para incentivar as pessoas a consumir mais conteúdo ou a tomar decisões de compra impulsivas.

Os pesquisadores desenvolveram um plug-in para navegador Chrome chamado Dark Pita para identificar padrões escuros em cinco plataformas online populares: Amazon, YouTube, Netflix, Facebook e X.

Usando aprendizado de máquina, o plug-in primeiro notificaria os participantes do estudo de que um padrão escuro foi detectado. Identificaria então a susceptibilidade à ameaça do padrão obscuro e explicaria o impacto do padrão obscuro – perda financeira, invasão de privacidade ou carga cognitiva. Dark Pita daria então aos participantes a opção de “agir” modificando o código do site por meio de uma interface fácil de usar para alterar os recursos de design enganosos do site e explicar o efeito da modificação.

Os pesquisadores planejam eventualmente disponibilizar ao público os dois plug-ins de navegador, Privacy Sandbox e Dark Pita. Li acredita que essas ferramentas são ótimos exemplos de como o uso da IA ​​pode ser democratizado para usuários regulares, em benefício da sociedade.

“As empresas usarão cada vez mais a IA em seu benefício, o que continuará a ampliar a lacuna de poder entre elas e os usuários. Portanto, com nossa pesquisa, estamos explorando como podemos devolver o poder ao público, permitindo-lhes usar as ferramentas de IA da melhor maneira possível. interesse contra os algoritmos opressivos existentes Esta abordagem de ‘combater fogo com fogo’ deve nivelar um pouco o campo de jogo”, disse Li.

“Uma abordagem sandbox baseada em empatia para preencher a lacuna de privacidade entre atitudes, objetivos, conhecimentos e comportamentos” foi apresentada no Conferência CHI da Associação de Máquinas de Computação de 2024. Liderados por Li, os co-autores do estudo incluem Chaoran Chen e Yanfang (Fanny) Ye de Notre Dame, Weijun Li da Universidade de Zhejiang, Wenxin Song da Universidade Chinesa de Hong Kong e Yaxing Yao da Virginia Tech.

O estudo “From Awareness to Action: Exploring End-User Empowerment Interventions For Dark Patterns in UX”, liderado por Li, foi publicado no Procedimentos da ACM sobre Interação Humano-Computador (CSCW 2024). Os co-autores incluem Yuwen Lu da Notre Dame, Chao Zhang da Cornell University, Yuewen Yang da Cornell Tech e Yao da Virginia Tech.