3 previsões para o futuro da tecnologia responsável

  • O projeto de Uso Responsável da Tecnologia do Fórum está em andamento há mais de dois anos.
  • Com base em seu trabalho até o momento, aqui estão três previsões para o futuro da tecnologia responsável.
  • Eles incluem investimento responsável, regulamentações direcionadas e incorporação da ética da tecnologia ao ensino superior.

Nos últimos dois anos, o Fórum Econômico Mundial – trabalhando em estreita colaboração com um grupo diversificado de especialistas – tem trabalhado no avanço do campo da ética em tecnologia. Este projeto, intitulado Uso Responsável da Tecnologia , começou quando mais de 40 líderes do governo, sociedade civil e empresas, alguns com agendas concorrentes , se reuniram no Centro para a Quarta Revolução Industrial em San Francisco. Esse grupo concordou com o importante objetivo de fornecer ferramentas e técnicas que os líderes podem usar para operacionalizar a ética durante o ciclo de vida da tecnologia.

Esta comunidade de projeto com várias partes interessadas defendeu abordagens baseadas em direitos humanos e baseadas na ética para o uso responsável da tecnologia, promoveu o uso de princípios de economia comportamental no design organizacional para impulsionar um comportamento mais ético com a tecnologia e destacou técnicas para inovação de produtos de tecnologia responsável . À medida que avançamos para o terceiro ano deste projeto, temos algumas previsões sobre o futuro da tecnologia responsável que gostaríamos de compartilhar.

1. O aumento do investimento responsável em tecnologia

Quando este projeto foi concebido, a intenção original era fornecer aos profissionais ferramentas e técnicas que eles pudessem usar para criar resultados mais éticos durante o design, desenvolvimento, implantação e uso da tecnologia. Uma dessas técnicas é a varredura de consequências , que ajuda os gerentes de produto, designers e desenvolvedores a identificar antecipadamente as consequências potenciais intencionais e não intencionais de um novo produto ou recurso.

No entanto, à medida que nossa sociedade se torna mais consciente do impacto das tecnologias sobre os direitos humanos, os líderes estão olhando para os estágios iniciais da inovação tecnológica. Eles estão começando a se perguntar se os investidores estão conduzindo avaliações éticas e de direitos humanos das start-ups nas quais estão investindo ou incubando. Um relatório recente publicado pela Amnistia Internacional revela que nenhuma das 10 maiores empresas de capital de risco na lista das 50 principais do Venture Capital Journal tinha políticas adequadas de devida diligência de direitos humanos em vigor ao avaliar as empresas.

Nossa pesquisa revelou que a vasta maioria das empresas de capital de risco mais influentes do mundo opera com pouca ou nenhuma consideração do impacto de suas decisões sobre os direitos humanos. Com as apostas tão altas, os investidores precisam abraçar a ideia de investimento responsável em tecnologia e se comprometer com avaliações de direitos humanos mais robustas em seu processo de devida diligência.

Com grupos de direitos humanos como a Anistia Internacional destacando essa questão, junto com o aumento dos investimentos ambientais, sociais e de governança (ESG) e o aumento das demandas pelo capitalismo das partes interessadas , prevemos que haverá mais progresso no investimento responsável em tecnologia – especialmente no espaço de capital de risco – nos próximos anos.

2. Regulamentações de tecnologia direcionadas: apenas o começo

O ano de 2021 será lembrado na história como um ano crucial para a regulamentação de tecnologia em todo o mundo. De fato, no início deste ano, a Comissão Europeia (CE) divulgou sua Lei de Inteligência Artificial , uma proposta regulatória abrangente que classifica todas as aplicações de IA em quatro categorias distintas de riscos (risco inaceitável, alto risco, risco limitado e risco mínimo) e apresenta requisitos para cada um deles. As evidências sugerem que os reguladores dos EUA também estão tomando medidas coercitivas contra os sistemas tendenciosos de IA, enquanto os legisladores federais propuseram vários regulamentos para regular o reconhecimento facial.

O sentimento público também está mudando nos EUA. Em uma pesquisa do Pew Research Center de abril de 2021 , 56% dos americanos professaram apoio a mais regulamentação das grandes empresas de tecnologia, contra 47% em junho de 2020. Na China, os reguladores lançaram recentemente uma repressão à tecnologia. O governo chinês divulgou um documento em agosto de 2021 afirmando que as autoridades promoverão ativamente a legislação em áreas como segurança nacional, inovação tecnológica e antimonopólio. É provável que essas atividades regulatórias se intensifiquem devido à crescente demanda por soluções de tecnologia confiáveis.

Os dias das empresas de tecnologia que operavam no “oeste selvagem” acabaram. A sociedade civil e os governos estão começando a responsabilizar as empresas pela forma como seus produtos são implantados pelos usuários finais, bem como pelo impacto que podem ter nos principais processos sociais e comunidades. Continuaremos a ver um movimento em direção à regulamentação governamental desarticulada em vários mercados. Essas mudanças já estão impactando a maneira como as empresas fazem negócios e os executivos precisam manter essas responsabilidades éticas e legais em mente.

Prevemos que as regulamentações futuras serão mais direcionadas a tecnologias, indústrias, casos de uso, perfis de risco e comunidades afetadas específicas.

3. A ética da tecnologia será obrigatória no ensino superior

Até recentemente, a maioria dos alunos que estudavam ciência da computação, engenharia elétrica e ciência de dados podiam se formar sem fazer um curso de ética. As universidades que ofereciam aulas de ética em tecnologia as consideravam opcionais, não obrigatórias. Isso é diferente de outras disciplinas, como direito e medicina, que tratam a ética como um componente-chave da formação profissional. A maioria dos tecnólogos no local de trabalho hoje nem mesmo foi exposta às ciências sociais ou aos aspectos humanísticos de suas futuras profissões ao longo de sua educação formal. Acreditamos que isso vai mudar. Como as questões de ética em tecnologia continuam a permear a consciência pública, prevemos que a maioria das universidades oferecerá mais cursos sobre ética em tecnologia e os tornará obrigatórios para os alunos se formarem em áreas técnicas.

Dado o papel principal dos cientistas da computação e engenheiros na reformulação de todas as facetas da vida humana, as instituições de ensino superior estão começando a redesenhar a forma como essas disciplinas são ensinadas. O ponto central para esse repensar é exigir cursos de raciocínio ético para forçar os cientistas e engenheiros da computação a examinar suas obrigações éticas para com as sociedades que suas tecnologias impactam diariamente.

Algumas empresas já estão exigindo treinamento de tecnologia responsável para todos os funcionários. Associações profissionais como o Instituto de Engenheiros Elétricos e Eletrônicos (IEEE) estão organizando conferências dedicadas à ética da tecnologia , e organizações sem fins lucrativos como o Instituto de Inteligência Artificial Responsável estão oferecendo opções para certificar as habilidades incluídas nesses treinamentos. Acreditamos que a maioria das universidades seguirá o exemplo em breve.

Conclusão

Com as novas tecnologias permeando cada vez mais nossas vidas diárias, o campo da tecnologia responsável está se expandindo. O que antes poderia ser considerado uma função do setor financeiro, como a prática ética de investimento, é cada vez mais visto como parte do ciclo de vida da tecnologia. Abordagens laissez-faire para governança que permitem o uso e mau uso de plataformas de tecnologia não são mais toleradas. E educadores em campos técnicos, como ciência de dados, devem lidar com estudos interdisciplinares de ética e direito.

De fato, em nosso trabalho no projeto Uso Responsável de Tecnologia, vimos um crescente interesse e participação em setores que vão desde o setor bancário até alimentos e bebidas – lembrando-nos que toda empresa agora é uma empresa de tecnologia. As previsões descritas acima demonstram as maneiras pelas quais diferentes atores estão começando a se unir para tratar de questões de ética da tecnologia. À medida que o mundo se torna cada vez mais complexo e interconectado, é uma abordagem holística e multifacetada à governança que permitirá que as comunidades experimentem os benefícios e evitem os danos dessas novas tecnologias.

DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here