Capitalizando os dados e a ética
A transformação dos dados em capital, valor estratégico e rentabilidade tem trazido para mesa dos CEOs o debate sobre temas como Big Data, Cloud e Inteligência Artificial. É impressionante o diferencial que um bom algorítimo aplicado sobre bons dados pode trazer para o detentor deste capital informacional. O artigo "The rise of big data capital" (http://www.oracle.com/us/technologies/big-data/data-capital-infographic-3092482.pdf) é um bom exemplo dos numeros trilhonários de que estamos falando. Do impacto que estamos sofrendo. É excitante viver esta transformação.
Mas quero levar o papo aqui para outro lado...
Que a transformação é radical e não vai demorar está claro. O que nem sempre fica tão claro é que TI tem embutido um conteúdo ético muito relevante, e cada vez mais nos últimos tempos. Quando a física quantica faz um acelerador para procurar a "partícula de Deus" no subsolo de uma montanha ou a química faz sementes transgênicas o debate se estabelece. Mas quando geramos sistemas capazes de julgar processos, prescrever remédios, analisar crédito, recomendar contratações ou mesmo selecionar as notícias que um usuário deve receber parece tudo muito neutro.
Quando geramos um algorítmo que aprende, como sabemos se a saída dele é aquela que desejaríamos? Não será a partir de um teste de mesa na lógica do programa, se é que os veteranos da programação me entendem.
Enquadrar pessoas em grupos pode ter uma assertividade muito boa para o geral, mas é o específico que conta! Vamos negar vistos para quem vier do Islã? Empregos para mulheres na faixa fértil? Crédito para quem trabalha em setores que podem perder empregos? Mesmo algorítmos com mais de 90% de assertividade - ainda que seja superior a humana, aliás - ainda impactarão a vida dos outros 10% de uma forma injusta.
Não sei a resposta - até porque sou humano - apenas queria propor a discussão sobre como os projetos devem ser avaliados: apenas ROI e atingimento de objetivos de negócio específicos? Amanhã, quando um jovem for tirado da universidade ou uma criança - minha filha? - não receber um leito no SUS por uma decisão de um algorítmo selecionador não teremos ninguém para perguntar seus critérios.
Me ajuda a entender. Manda tua opinião...