Se você já criou algo que acabou sendo usado de um jeito que não previu, este artigo é pra você.
Aviso da redação: esse texto traz reflexões sobre episódios de temporadas diferentes e pode conter spoilers.
Quando Black Mirror encontra o design de experiência
A série não é só ficção sobre futuros distópicos, é um espelho.
Mostra como o design molda comportamentos, valores e relações; muitas vezes sem que a gente perceba. E aí vem a pergunta inevitável: Que tipo de futuro estamos ajudando a criar?
“O futuro já chegou, ele só não está igualmente distribuído.”
— William Gibson
Design não é neutro. Nunca foi
A série parte de ideias aparentemente inofensivas: um app que protege crianças; uma IA que simula entes queridos; um sistema de reputação social. Tudo parece funcional, até deixar de ser.
O problema raramente é a tecnologia em si, mas o que ela escancara: fragilidades, desigualdades, vícios emocionais.
Segundo Mike Monteiro, em Ruined by Design:
“Você pode não ter tido a intenção de machucar ninguém. Mas se você não considerou que isso poderia acontecer, então você não fez seu trabalho.”
Essa crítica conversa com o design especulativo, que propõe tensionar o presente pra revelar riscos do futuro. Projetar só o “caminho feliz” é tapar os olhos. A gente precisa também se perguntar:
- E se… isso sair do controle?E se… for usado de outro jeito?E se… piorar desigualdades que a gente nem vê?
Três futuros que podemos estar desenhando — sem perceber
1. Boas intenções, danos reais
Mesmo quando o sistema funciona, a pessoa usuária pode sofrer.
No episódio Be Right Back, uma viúva interage com uma IA que simula seu parceiro falecido. Começa como consolo… mas vira angústia. É visto o luto interrompido por essa nova solução que, no fim das contas não necessariamente ajuda com esse processo doloroso e natural para a humanidade.
Na vida real, o app Replika AI permite conversas com um “companheiro” virtual. Muita gente criou vínculos profundos. Algumas se tornaram emocionalmente dependentes. Outras se sentiram manipuladas.
Precisamos lembrar que nem toda dor vem de bugs. Às vezes, vem da proposta. Funcionalidade sem empatia é um risco.
2. Engajamento às custas da dignidade
Às vezes, o que segura a atenção é o sofrimento alheio.
O episódio White Bear mostra uma mulher punida em público, todo dia, como se fosse um parque temático. Em Loch Henry, uma tragédia é transformada em palco para série de true crime. USS Callister brinca com a ideia de controle disfarçado de gameplay.
E fora da série? Canais sensacionalistas, transmissões de violência ao vivo, reality shows extremos… Se o nosso produto expõe, humilha ou pune, tem algo errado. Isso não é só entretenimento.
Mike Monteiro novamente elucida:
“Se você não consegue dizer não, você é cúmplice.”
3. Dilemas que não cabem no código
Às vezes, não existe resposta fácil, mas muitas escolhas difíceis.
No episódio San Junipero o tema é carregar a consciência pra um paraíso digital. Seria a busca por um final feliz, ou seria só medo de morrer?
Já Eulogy traz a ideia de reviver as memórias de alguém que se foi — e encarar tudo que ficou mal resolvido… justo?
Na vida real, o COMPAS, usado pela justiça americana, foi acusado de reforçar viés racial. O Google Duplex simula humanos ao telefone, mas as pessoas sabem que estão falando com uma máquina?
Tendemos a acreditar que esses “problemas”estão longe, mas nem todo produto perigoso tem cara de distopia. Alguns só escondem dilemas morais debaixo do tapete.
Quando o design mexe com os nossos vícios emocionais
A maioria dos colapsos na série não vem de falhas técnicas, vem de falhas humanas. Apesar de ficção, a série escancara tentativas de usar tecnologia para lidar com tudo aquilo que a humanidade luta para entender desde muito tempo… usando a razão, sentidos e emoções.
Dilemas como busca por aceitação (Nosedive, Hang the DJ), medo da solidão (Be Right Back), submissão a sistemas controladores (The Entire History of You), autocensura e vigilância (Joan Is Awful)… só para citar alguns.
O que precisamos sempre lembrar como designers é o que mais uma vez, Mike Monteiro reforça em seu livro: tudo que colocamos no mundo pode moldar comportamentos; pro bem (se tivermos responsabilidade e ética) ou pro mal.
E se o futuro fosse o nosso produto?
Toda criação é uma semente. Algumas crescem e ou viram vanguarda, ou distopia.
- Pontuação social? Pode virar Nosedive.Chatbot de luto? Olá Be Right Back.Botão de denúncia com ranking? Um mini Hated in the Nation.
Ao criar soluções que influenciam comportamentos, temos a responsabilidade de nos perguntar “e se isso fosse levado ao extremo, que episódio do BM nasceria?”.
É claro que somos uma peça na engrenagem e muitas vezes precisamos defender incansavelmente o óbvio, mas talvez esse seja nosso papel mesmo. Buscar trazer o equilíbrio
As autoras Dunne & Raby esclarecem bem isso em seu livro Speculative Everything:
“Não se trata de prever o futuro, mas de imaginar futuros diferentes e os valores que eles revelam.”
O que pode ensinar a quem projeta experiências
A série mostra que tecnologia nunca é neutra. Ela só é segura quando nasce de escolhas conscientes. A série nos leva a refletir sobre alguns pontos:
- As pessoas tendem a sentir mais do que pensam.Sistemas podem reforçar vícios e desigualdades.Funcionalidade sozinha não garante nada.Empatia precisa ser ativa, especialmente nos momentos frágeis e com preconceitos.
E que uma vez entendendo esses pontos, antes de lançar qualquer coisa, devemos nos perguntar:
- Pra quem isso serve de verdade?Quem pode ser afetado, e como?Que tipo de comportamento isso incentiva?
No fim, vale sempre inverter o lugar “E se fosse a gente no lugar das pessoas?”
Pra fechar, outra citação de Mike Monteiro — que já deu para perceber, é minha grande influência para pensar na ética enquanto penso em design de futuros:
“Se você é designer, você está moldando o mundo. E se não está fazendo isso com responsabilidade, está fazendo errado.”
Pra aprofundar a reflexão
- Ruined by Design — Mike MonteiroSpeculative Everything — Anthony Dunne & Fiona RabyEthical OS Toolkit“Design Ethics” — Nielsen Norman GroupDesign Fiction como ferramenta de inovaçãoO futuro chegou, mas está mal distribuído — Aqua Tecnologia“Ruined by Design”, um livro mais do que necessárioWhat if… Speculative Everything
Episódios recomendados
- T1: E3 — The Entire History of YouT2: E1 — Be Right Back; E2 — White BearT3: E1 — Nosedive; E4 — San Junipero; E6 — Hated in the NationT4: E1 — USS Callister; E4 — Hang the DJT6: E2 — Loch HenryT7: E5 — Eulogy
O que Black Mirror pode ensinar a UX Designers sobre o futuro dos nossos produtos was originally published in UX Collective 🇧🇷 on Medium, where people are continuing the conversation by highlighting and responding to this story.
