Organizações não estão lidando como deveriam com riscos da inteligência artificial. Veja como reconhecer os mais comuns
Como tudo que é relativamente novo nos negócios, assim como vamos descobrindo muitos benefícios e valor, também começamos a perceber potenciais perigos. E no que respeita aos riscos da inteligência artificial, eles podem levar a consequências significativas.
Para indivíduos, nos referimos a riscos como integridade física e financeira; para organizações, a coisas como performance nos negócios, compliance e reputação; e na sociedade, a segurança nacional, estabilidade política e econômica.
Agora, como tudo que está num estágio embrionário, diz a McKinsey, ou as organizações subestimam esses riscos ou superestimam sua capacidade de mitigá-los – apesar de vozes como Stephen Hawking, Elon Musk e Bill Gates já terem alertado sobre a falibilidade desse pensamento. Segundo a consultoria, embora queiram afastar o embaraço como algo que não lhes diz respeito, o cenário atual nas empresas é o seguinte:
o nível de esforço necessário para identificar e controlar todos os riscos excede dramaticamente as normas atuais da maioria das organizações.
Além disso, elas não estão certas sobre que riscos em IA podem lhes aparecer: o State of AI in the enterprise, da Daloitte, mostra que menos de 1/3 das organizações praticam mais de três atividades de gerenciamento de riscos da IA, e menos de quatro em cada 10 adotantes iniciais afirmam estar completamente preparadas para lidar com os potenciais riscos.
A PwC traz dado parecido, com apenas 10% dos participantes de seu levantamento afirmando estar completamente confiantes em relação à gestão de riscos em IA de sua organização.
Para mudar esse cenário, é preciso compreender melhor os tipos de risco em IA com que as organizações estão lidando, suas interdependências e suas causas.
É sobre esses riscos da inteligência artificial que falaremos neste artigo.
Por que lidar com os riscos da inteligência artificial
Se os estudos mostram, como vimos acima, que as organizações estão fazendo vista grossa para os riscos da inteligência artificial ou então atuando apenas para mitigar riscos explicitamente regulados, o State of AI in the Enterprise 2020, da Delloite, mostra por que elas não deveriam fazer.
De acordo com a consultoria, gerenciar ativamente os riscos da IA reduz os desafios para a adoção da tecnologia e, logo, leva a maiores vantagens competitivas. Veja os dados da pesquisa:
- Enquanto 41% das empresas que praticam mais de três atividades de gerenciamento de riscos em IA estão desacelerando projetos em IA em virtude desses riscos, 58% das organizações que não gerenciam riscos estão fazendo o mesmo.
- 46% das organizações que lidam com os riscos afirmam que a IA lhes garantiu vantagens competitivas significantes, enquanto só 20% das que não adotam essas práticas veem esse benefício.
Ainda segundo a Deloitte, à medida que a organização ganhar maturidade em suas habilidades e escalar seus projetos com IA, seu nível de preocupação com riscos relacionados tende a amadurecer também. Para as com médio nível de maturidade, isso significa um aumento da preocupação – que as leva a desenvolver processos, comportamentos ou habilidades para diminuí-la. Precisamente esse aumento dos controles, no longo prazo, faz com que a preocupação de organizações com maturidade em IA diminua, quando se tornam suficientemente maduras.
William Isaac, pesquisador sênior da DeepMind em matéria da MIT Technology Review, vai na mesma linha:
Tenha certeza de que você está pensando sobre onde estão as formas de desalinhamento, vieses ou riscos. Tenha certeza de que você está desenvolvendo bons processos para assegurar que todos os grupos estão engajados no processo de design tecnológico.
O riscos da inteligência artificial
1. Dados
Já falamos sobre qualidade de dados aqui no blog, bem como sobre os principais desafios em projetos em inteligência artificial, e reiteramos: com o aumento dos dados não estruturados sendo captados da internet, é mais fácil fazer uso de informações sensíveis inadvertidamente ou encontrá-las escondidas em dados anonimizados.
Não apenas isso, mas usar dados incompletos, enviesados e desiguais, tornando ainda mais difícil encontrar a causa raiz de vieses não intencionais dentro de um data set.
Por isso, o uso de dados pessoais sem consentimento é um dos riscos mais comuns associados à IA.
Práticas de gerenciamento e de governança de dados são ações básicas para evitar riscos relacionados à qualidade de dados.
2. Segurança
Não é raro que fraudadores explorem dados que alimentam os sistemas de IA ou que falhas e vulnerabilidades em softwares possam levar a impactos consideráveis na performance de sistemas com IA.
Relacionado a esse ponto ainda podemos citar as mudanças e novas regras do panorama regulatório, que podem causar impactos sobre projetos em andamento, por exemplo.
3. Algoritmos
Os próprios modelos e algoritmos podem criar problemas quando entregam resultados enviesados e quando suas decisões e ações não são suficientemente explicáveis e transparentes, caso da black box.
O alto grau de viés de um algoritmo aparentemente simples para identificar o gênero de uma pessoa pelo seu nome ou e-mail, caso da Genderfy, ilustra bem o problema. Então que dizer de modelos complexos de tal modo que mesmo cientistas de dados bem treinados tenham dificuldade de compreender precisamente como seus algoritmos tomam decisões?
Outro ponto, a que chama a atenção William Isaac, pesquisador sênior da DeepMind em matéria da MIT Technology Review, é:
Como você desenha um sistema que possa compreender e implementar as várias formas de preferências e valores de uma população? […] É claro que ele exibirá alguma forma de viés que reflete a sociedade. O sistema ideal deveria equilibrar todas as necessidades de muitos stakeholders e muitas pessoas da população.
Saber explicar e justificar o processo de decisão de uma IA é fundamental, e alimentá-la com dados em quantidade, variedade e qualidade suficiente será fundamental para evitar falhas que afetem as operações, más decisões baseadas em recomendações da IA etc.
4. Humanos
A interface entre humanos e máquinas também é uma área de risco. Intencional ou não intencionalmente, os usuários podem contribuir para a adição de vieses na IA, ao construir, analisar os outputs e aplicar soluções baseadas em insights de sistemas com IA.
A capacidade de evitar esses riscos está diretamente associada à existência de perspectivas diferentes dentro das equipes técnicas e de negócios. Só assim uma pluralidade de insights virá à tona.
Há ainda o risco potencial de reações negativas de colaboradores ao uso da IA, ocasionada por receios quanto à perda de trabalhos pela automação proporcionada pela tecnologia.
Riscos da inteligência artificial: transforme preocupação em preparação
Vimos que a IA não é isenta de riscos potenciais e atuais e que a maioria das organizações não se sente preparada suficientemente para lidar com eles. Sendo um campo de desenvolvimento rápido, é natural que o nível de incerteza quanto à segurança seja alto.
Ainda assim, criar ferramentas e sistemas com IA deve permanecer uma das top prioridades das organizações. Pois, nesse caso, os benefícios de projetos em IA bem construídos são bem maiores que os riscos.
Para mitigar riscos, nossa recomendação é transformar preocupação em preparação. Para isso, você poderá contar com a ajuda da equipe de data science da Supero, que conta com expertise para atuar em todas essas frentes, mitigando riscos e aumentando o nível de confiança, transparência e segurança da sua organização em seus projetos. Tire todas as suas dúvidas com um de nossos consultores.
