Desenhando Confiança

Introdução

Uma conversa de design sobre como participar da construção de interfaces generativas e agentes confiáveis.

Em revisão

Este é um livro para quem faz design. Design no sentido de projetar. Dar forma intencional a uma experiência, um produto, um serviço, um sistema. E fazer isso de um jeito designerly.1Designerly. É a capacidade de pensar por meio do projeto. O designer coloca uma hipótese no mundo (um rascunho, um protótipo, uma jornada) e usa essa forma provisória para aprender, discutir, decidir e transformar a própria compreensão do problema. Ver referência [2:1].↩ Nigel Cross cunhou este termo em 1982 para nomear um modo próprio de conhecer, que não é o do cientista nem o do filósofo. Pensar fazendo: desenhar, modelar, prototipar, comparar alternativas, aprender com as formas provisórias que emergem do fazer.[2]

Nigel Cross defendia que há uma forma própria de conhecimento no design. Uma inteligência que não se reduz à ciência, à arte ou à engenharia, mas dialoga com as três.

O trabalho do designer está nesse vaivém. Formular o problema enquanto se busca uma solução. Tornar visível o que ainda é vago. Criar condições para que uma decisão possa ser discutida, testada e melhorada.

Quero te convidar para ter uma conversa de design sobre um tópico atual e urgente. Na boca do povo, poderíamos dizer que é sobre IA que alucina. Mas é um pouco mais que isso. Vamos explorar um wicked problem de escala global: como projetar sistemas automatizados mais úteis, rápidos e convenientes, sem empobrecer a capacidade humana de formular perguntas, avaliar alternativas e decidir com responsabilidade?3Wicked problems. Problemas complexos, ambíguos e socialmente situados, que não têm uma formulação definitiva nem uma solução final. Cada tentativa de resolvê-los muda o próprio entendimento do problema. O termo foi cunhado por Horst W. J. Rittel e Melvin M. Webber no artigo "Dilemmas in a General Theory of Planning" (1973). Ver referência [7].↩

Esse desafio vale independentemente do seu título: product designer, content designer, product manager e até um vibe coder de final de semana.4Vibe coder. Quem usa IA para transformar uma ideia ou objetivo em software, guiando o processo por prompts, ajustes, testes e feedback, mesmo sem controlar cada detalhe técnico do código produzido.↩ Algumas coisas que você deve saber antes de começar:

  • É provável que algum novo modelo de linguagem ou tecnologia consiga em breve responder várias das questões que vamos abordar neste livro.
  • Se você já tem experiência em engenharia de software, MLOps ou Machine Learning, é bem possível que este conteúdo soe básico para você. Se esse for o caso, no final do livro tem uma lista de recursos que podem ser úteis.

Mesmo que o problema sociotécnico seja resolvido pela tecnologia, acredito que o vocabulário e as ideias deste livro podem ajudar você a continuar pensando, decidindo e desenhando um mundo mediado por IA, particularmente no contexto de interfaces generativas e agentes.5Agente de IA. Um sistema que, além de conversar, consegue interpretar um objetivo, planejar passos, usar ferramentas, tomar decisões intermediárias e executar ações em nome do usuário dentro de certos limites.↩

O livro está estruturado em três partes:

  • Uma introdução teórica que define as qualidades de um sistema confiável
  • Um conjunto de práticas, disciplinas e recursos para perfis não técnicos desenharem confiança
  • Um catálogo de design patterns para interfaces de usuário e jornadas generativas.6Design pattern. Captura a relação entre contexto, problema e solução, oferecendo uma forma reutilizável de resolver uma situação recorrente sem prescrever uma implementação única.↩

Este livro é o resultado de alguns meses de pesquisa e curadoria do conhecimento de vários autores que admiro, que nunca se esquivaram de temas complexos nem se contentaram com respostas simplistas. Somei a essas vozes minha opinião e algumas experiências pessoais para defender uma tese: agentes confiáveis não resultam somente de modelos melhores, mais rápidos ou mesmo de interfaces mais polidas. Resultam de uma combinação mais difícil: linguagem clara, limites explícitos, boas decisões de interação, critérios verificáveis e responsabilidade distribuída.

Não é meu objetivo tentar transformar designers, product managers, pesquisadores ou estrategistas em engenheiros. A proposta é outra: oferecer linguagem, critérios e ferramentas para que perfis não técnicos consigam participar melhor da construção desses sistemas.

Tentei usar a linguagem mais simples possível. O livro tem exemplos, notas de rodapé e itens de glossário que podem tornar sua leitura mais fluida. O site do livro tem ferramentas adicionais, entrevistas e artigos.

Tenho três compromissos com você: ser claro o bastante para começar, rigoroso o bastante para valer o esforço, e aberto o bastante para que a conversa continue depois da última página.

Boa leitura!

Referências Link para esta seção


  1. CROSS, Nigel. Designerly Ways of Knowing. Design Studies, v. 3, n. 4, p. 221–227, out. 1982. DOI: 10.1016/0142-694X(82)90040-0. ↩︎ ↩︎

  2. RITTEL, Horst W. J.; WEBBER, Melvin M. Dilemmas in a General Theory of Planning. Policy Sciences, v. 4, n. 2, p. 155–169, jun. 1973. DOI: 10.1007/BF01405730. ↩︎

Log de mudanças

Histórico de alterações feitas especificamente nesta página: Introdução.

  1. Padronização da Introdução e inclusão do log de mudanças. Daniel Souza Ver alteração v0.3.0

  1. Sincronização da Introdução com o texto publicado. Daniel Souza Ver alteração v0.1.0
  2. Entrada inicial no modelo editorial do livro. Daniel Souza Ver alteração v0.1.0