A Applause, especialista em testes, estreou uma solução de IA prometendo ajudar a combater o viés algorítmico, fornecendo a escala de dados necessária para um treinamento robusto.
Aplausos construiu uma vasta comunidade global de testadores para sua solução de teste de aplicativos, que é confiável por marcas como Google, Uber, PayPal e muito mais. A empresa está aproveitando esse ativo relativamente único para ajudar a superar alguns dos maiores obstáculos enfrentados pelo desenvolvimento da IA.
A AI News conversou com Kristin Simonini, vice-presidente de produto da Applause, sobre a nova solução da empresa e o que isso significa para o setor antes de sua palestra na AI Expo North America no final deste mês.
“Nossos clientes precisam de suporte adicional de nós na área de coleta de dados para dar suporte ao desenvolvimento de IA, treinar seu sistema e testar a funcionalidade”, explica Simonini. “Essa última parte está mais alinhada com o que eles tradicionalmente esperam de nós”.
Os aplausos trabalharam predominantemente com empresas no espaço de voz, mas também com sua crescente expansão em coisas como coletar e rotular imagens e executar documentos por meio do OCR.
Essa experiência existente em áreas nas quais a IA é mais comumente aplicada hoje em dia coloca a empresa e seus testadores em uma boa posição para oferecer um feedback realmente útil sobre onde as melhorias podem ser feitas.
Especificamente, a nova solução do Applause opera em cinco tipos exclusivos de engajamentos de IA:
- Voice: Source utterances to train voice-enabled devices, and test those devices to ensure they understand and respond accurately.
- OCR (Optimized Character Recognition): Provide documents and corresponding text to train algorithms to recognize text, and compare printed docs and the recognized text for accuracy.
Uma responsabilidade significativa
Todos os envolvidos no desenvolvimento de tecnologias emergentes carregam uma responsabilidade significativa. A IA é particularmente sensível porque todo mundo sabe que terá um enorme impacto na maioria das partes das sociedades ao redor do mundo, mas ninguém pode realmente prever como.
Quantos trabalhos a IA substituirá? Será usado para robôs assassinos? Tomará decisões sobre o lançamento de um míssil? Até que ponto o reconhecimento facial será usado em toda a sociedade? Essas são perguntas importantes que ninguém pode dar uma resposta garantida, mas certamente está na mente de um público que cresceu em torno de coisas como 1984 e Terminator.
Uma das principais preocupações sobre a IA é o viés. Um trabalho fantástico de pessoas como a Liga da Justiça Algorítmica descobriu grandes disparidades entre a eficácia dos algoritmos de reconhecimento facial dependentes da raça e gênero de cada indivíduo. Por exemplo, o algoritmo de reconhecimento facial da IBM teve 99,7% de precisão quando usado em homens de pele mais clara, comparado a apenas 65,3% em mulheres de pele mais escura.
Simonini estará falando na AI Expo North America em 13 de novembro em uma palestra intitulada Por que o elemento humano permanece essencial na IA aplicada. Perguntamos o que os participantes podem esperar de sua palestra.
“O ângulo que escolhemos falar é realmente essa interseção entre o humano e a IA e por que nós – dado que é o negócio em que estamos e o que vemos dia após dia – não acreditamos que se torna a substituição, mas como pode funcionar e se complementar. ”
“É realmente um pouco de onde chegamos quando saímos para descobrir se você pode substituir um exército de pessoas por um exército de robôs e obter os mesmos resultados. E basicamente isso não, ainda existem necessidades muito focadas no ser humano do ponto de vista de testes. ”
