O documento discute o design em tempos de inteligência artificial, destacando que o design é uma abordagem centrada no usuário para resolver problemas através da empatia e colaboração. A IA já existe há décadas, mas tornou-se mais factível recentemente, trazendo novas possibilidades e desafios éticos que exigem uma abordagem de design humanocêntrica. O documento fornece recomendações para o uso responsável da IA com foco nas necessidades dos usuários.
DESING THINKING PARA EMPREENDEDORES [MINI WORKSHOP]
Design em tempos de Inteligência Artificial
1. Design em tempos de
Inteligência Artificial
Natalí Garcia | Web.br 2019
2. Design como caminho
Design é uma abordagem para resolver problemas através
do entendimento do contexto e necessidades do usuário.
Fazemos isso
através da
empatia,
colaboração e
experimentação
3. Inteligência Artificial não é novidade
Existe desde a década de 50 porém tornou-se mais factível e mais popular agora
Redes neurais
que aprendem e
raciocinam
sozinhas de forma
mais sofisticada
Computadores com a habilidade de aprender
sem serem explicitamente programados
Computadores com a habilidade de
raciocinar/comportar-se como humanos
5. “Não é que vamos ter uma revolução de inteligência
artificial em 2020 e teremos alguns anos para nos
adaptar. Ela já está acontecendo agora. As pessoas
vão precisar se reinventar a todo momento”
“Temos que trabalhar juntos para criar
soluções que ajudem nós, seres humanos, a
sobreviver a essa nova era.”
Yuval Harari, autor de Sapiens e Homo Deus
Cuidado com o otimismo irresponsável…
6. IA e Design: abordagens para resolver problemas
O mesmo objetivo, no entanto, métodos bem diferentes de se resolver problemas
+ Empatia
&
Insights
(Intuição)
Dados
&
Estatística
7. Produtos que usam IA
Alguns exemplos de serviços e produtos que usam IA
8. O que dá para fazer com IA?
Alguns exemplos de possibilidades e capacidades da IA
Coletânea de rock
13. Preocupações
Quais são as preocupações e consenso
sobre uso da IA?
● Uso para o bem comum
● Ética e justiça/equidade
● Privacidade e Segurança
dos Dados
18. Recomendações de Design para IA
● Quando IA é uma escolha coerente,
● E a automação é bem-vinda, e
● Geramos benefícios para as pessoas
1. Decida
Use IA somente quando
isso fizer sentido para o
negócio e para as pessoas.
19. Motivos para usar IA:
❏ A solução precisa ser responsiva, ágil ou personalizada.
❏ É necessário lidar e cruzar grandes quantidades de
informações, muitas vezes de diferentes fontes.
❏ A solução precisa prever eventos futuros considerando
análise histórica, padrões em dados e novas informações
que constantemente se atualizam.
❏ A experiência central está em fazer recomendações de
diversos conteúdos a diferentes usuários.
❏ A experiência central está em utilizar uma interação
através da linguagem natural ou conteúdo dinâmico.
❏ Para criar um bot ou agente virtual.
❏ Reconhecimento e classificação de entidades em um
grande volume de dados.
❏ A solução pode reduzir riscos e execução de tarefas
repetitivas para as pessoas.
❏ A solução pode trazer aumento da eficiência, satisfação e
conhecimento para as pessoas.
Motivos para não usar IA:
❏ Mudança de contexto e novos dados não implicam em
uma necessidade de mudança por parte do sistema.
❏ Conteúdo ou sistema estático e previsíveltraz valor à
experiência e é preferívelà uma experiência dinâmica.
❏ Os custos dos erros são muito altos em relação ao
retorno que a solução pode trazer.
❏ Quando o mais importante é um rápido
desenvolvimento e implementação da solução
(a maturidade da tecnologia e quantidadede profissionais
qualificados podem tornar uma alternativa de
desenvolvimento e implementaçãomais demorada).
❏ As pessoas declaram que não querem automatizar
uma determinada tarefa.
❏ As pessoas necessitam ter todas as informações do
que acontece no código.
❏ A solução em questão pode implicar em discriminação
das pessoas no acesso, oferta ou utilização de
serviços (Não conformidade com as leis).
20. Recomendações de Design para IA
● Priorização de casos de uso
● Foco no Valor
● Atenção com os riscos
2. Priorize
Não crie grandes expectativas
sobre a IA, trabalhe sobre um
problema de cada vez.
21. Recomendações de Design para IA
● Pesquisa e entendimento do
contexto e diferentes perfis de
usuários
● Atenção com os dados utilizados
● Atenção com regulatório
3. Planeje
A partir das necessidades e
objetivos do usuário, defina
quais serão os dados utilizados
e quais são as práticas
necessárias para assegurar
qualidade, equidade e
conformidade com as leis.
22. Recomendações de Design para IA
● LGPD
● Representatividade
● Diferentes Perfis e Casos de uso
● Cenários de erro
4. Inclua
Antecipe casos de uso com
foco nas diferentes personas
de usuários e garanta a
representatividade através
da diversidade na equipe e
nos dados.
23. Recomendações de Design para IA
● Supervisão e Correção
● Diretrizes de ética
● Responsáveis
5. Responsabilize-se
Pense em quais métodos de
supervisão humana são
necessários e possíveis.
Crie diretrizes e governança.
24. Recomendações de Design para IA
● Veracidade e qualidade dos dados
● Cuidado com os vieses
● Adequação às diferentes necessidades
e especificidades
6. Crie
A partir de casos de uso
centrados nas metas e
contextos dos usuários,
desenvolva features e o escopo
definido para a sua solução.
25. Recomendações de Design para IA
● Comunicação clara e transparente
● Explicação sobre a utilização dos
dados ou exibição de recomendações
● Acesso, download e ajustes dos dados
7. Comunique
Uma vez criada a sua solução
com IA, seja transparente e
faça o adequado onboarding
para os usuários.
26. Recomendações de Design para IA
● Atenção ao usuário
● Feedback
● Testes com usuários
● Retroalimentação e evolução
8. Evolua
Já em utilização a sua
solução precisa de
constante aprendizado e
feedback dos usuários.
Faça testes, peça a opinião
e colaboração dos usuários.
27. 1. Decida
Use IA somente quando isso fizer
sentido para o negócioe para as
pessoas.
2. Priorize
Não crie grandes expectativas
sobre a IA, trabalhe sobre um
problema de cada vez.
3. Planeje
A partir das necessidades e
objetivos do usuário, defina quais
serão os dados utilizados e quais
são as práticas necessárias para
assegurar qualidade, equidadee
conformidade com as leis.
4. Inclua
Antecipe casos de uso com foco
nas diferentes personas de
usuários e garanta a
representatividade através da
diversidade na equipee nos
dados.
❏ IA é o melhor caminho para
resolver esse problema?
Porquê?
❏ Há oportunidades para a
automatização de tarefas
rotineiras ou tediosas?
Quais são?
❏ Com a IA, as pessoas terão
um aumento de eficiência,
produtividade e
conhecimento? De que
forma?
❏ Foi realizada uma
priorização dos casos de
uso que trarão maior valor
para as pessoas e para o
negócio? Quais são?
❏ Foi realizada uma
priorização dos casos de
uso que trarão maiores
retornos e oferecem menor
risco em casos de erros?
Quais são?
❏ Foi realizado um
entendimento do contexto e
necessidades dos usuários
para os casos de uso
priorizados?
❏ Quais conjuntos de dados
poderão ser selecionados de
maneira a não ferir os
direitos das pessoas em
relação ao acesso de
serviços e disponibilização
de dados?
❏ Há envolvimento de pessoas
com conhecimento de
LGPD?
❏ Há pontos de vista
considerados por pessoas
que partilham das mesmas
necessidades das
personas?
❏ Foram analisados e
antecipadas personas e
casos de uso com objetivo
de minimizar erros por
exclusão ou tratamento
indevido? Quais são?
Recomendações de Design para IA
28. 5. Responsabilize-se
Pense em quais métodos de
supervisão humana são
necessários e possíveis. Crie
diretrizes e governança.
6. Crie
A partir de casos de uso
centrados nas metas e contextos
dos usuários, desenvolva features
e o escopo definidopara a sua
solução.
7. Comunique
Uma vez criada a sua solução
com IA, seja transparentee faça o
adequadoonboardingpara os
usuários.
8. Evolua
Já em utilização a sua solução
precisa de constante aprendizado
e feedback dos usuários.Faça
testes, peça a opinião e
colaboração dos usuários.
❏ Existem meios para analisar,
supervisionar e corrigir a
solução em IA? Quais são?
❏ Existem diretrizes claras de
ética e responsabilidade
para a criação e evolução da
solução? Quais são?
❏ No caso de erros críticos
quem serão os
responsáveis?
❏ Como são asseguradas a
veracidade e qualidade dos
dados coletados?
❏ As limitações existentes na
coleta e tratamento de
dados pode prejudicar ou
enviesar os resultados do
projeto?
❏ A solução ajuda o usuário a
atingir suas metas e está
construída levando em
consideração as suas
necessidades e
especificidades?
❏ Existe uma comunicação clara
para o usuário do propósito
da solução, de como ela vai
atender as necessidades dele
e quais são as limitações da
solução?
❏ É informado para o usuário
quais dados são coletados,
porquê eles são coletados e
como o sistema vai utilizá-
los para entregar os
benefícios comunicados?
❏ É possível que o usuário
consulte e corrija dados
pessoais na solução?
❏ O usuário consegue tirar
dúvidas, oferecer feedback e
sugestões na solução?
Como?
❏ São realizados testes com
usuários para entender a
percepção, aderência e
usabilidade da solução?
Com qual frequência?
❏ Há processos estabelecidos
pela governança do projeto
sobre a análise de erros e
insumos de pesquisa para
melhoria da solução? Quem
é envolvido?
Recomendações de Design para IA
29. Algumas dicas de comunicação
1. Seja transparente: comunicar que se trata de um bot e não de uma pessoa.
2. Não crie expectativas que não pode cumprir. O relacionamento se constrói em cima da confiança,
da entrega consistente dos objetivos propostos. Comunique benefícios e funcionalidades de
forma específica.
3. Utilize uma linguagem amigável, seja solícito e positivo. Evite uso de termos técnicos ou tecnológicos.
4. Trabalhar o adequado tom de voz e reações considerando contexto/perfil do usuário e
personalidade do bot/marca.
5. Variar as frases e modo de comunicar, para não parecer robotizado.
6. Utilize o Processamento de Linguagem Natural para compreender melhor o perfil, estado emocional e
vieses cognitivos do usuário e então responda de acordo.
7. Seja específico ao fazer perguntas e solicitar informações.
8. Mantenha o usuário informado sobre o que está acontecendo através de sinais e feedbacks.
9. Sempre oferecer flexibilidade para que o usuário busque informações e tome suas próprias decisões.
10. Ao fazer recomendações, oferecer uma explicação dos critérios ou informações que conduziram a
estas recomendações, ainda assim, permitir que os usuários tomem suas próprias decisões.