Melhores práticas de IA responsável: promovendo sistemas de IA responsáveis ​​e confiáveis

O surgimento da IA ​​generativa trouxe possibilidades transformadoras e o potencial de beneficiar a forma como trabalhamos, vivemos e interagimos com o mundo. No entanto, é crucial reconhecer a responsabilidade que acompanha uma tecnologia tão poderosa.

Quando falo com executivos hoje, há muito entusiasmo e entusiasmo para começar a usar a IA – e ainda mais com a IA generativa. Mas muitas vezes perguntam: “Como posso fazer isso de maneira responsável e segura, proporcionando a melhor experiência aos meus clientes?” E esta é uma questão importante, especialmente à medida que vemos surgir novos desafios com a IA generativa.

Nesta postagem do blog, compartilharei algumas considerações e práticas recomendadas para IA responsável que enfatizam justiça, transparência, responsabilidade e privacidade – e etapas que executivos, membros do conselho e líderes devem considerar para construir de forma responsável à medida que adotam esta nova e excitante tecnologia e embarcar na inovação.

IA responsável na era da IA ​​generativa

A IA generativa, com o seu maior poder e crescente acessibilidade, apresenta excelentes oportunidades de inovação, avanço e capacidade de alcançar resultados notáveis. No entanto, estas mesmas oportunidades estimulantes exigem uma maior responsabilidade para melhor compreender e abordar potenciais preconceitos e danos. Recentemente, a AWS juntou-se à Casa Branca, aos legisladores, às organizações tecnológicas e à comunidade de IA para promover o uso responsável e seguro da IA ​​com compromissos voluntários, reconhecendo a necessidade de trabalhar em conjunto para desenvolver futuros modelos generativos de IA com segurança e responsabilidade.

As melhores práticas de IA responsável são cruciais para promover o uso responsável, transparente e responsável dos sistemas de IA. À medida que as tecnologias de IA continuam a avançar e a permear as nossas vidas, é imperativo estabelecer diretrizes e estruturas que promovam a adoção responsável da IA. Estas melhores práticas devem abordar os potenciais riscos, preconceitos e impactos sociais associados à IA, aproveitando ao mesmo tempo o seu potencial transformador para beneficiar indivíduos, organizações e a sociedade.

Estas nove melhores práticas de IA responsável vão além dos aspectos técnicos e concentram-se nas dimensões organizacionais e culturais da adoção da IA. Enfatizam a necessidade de compromisso de liderança, colaboração multifuncional e programas contínuos de educação e conscientização para promover uma cultura de IA responsável nas organizações.

Adotando uma abordagem centrada nas pessoas

1. Construa uma equipe diversificada e multidisciplinar

Para determinar as políticas e estratégias necessárias, é melhor reunir uma equipa com conhecimentos diversos, incluindo especialistas em IA, cientistas de dados, especialistas em ética, profissionais jurídicos e especialistas no domínio. A equipa deve ter uma compreensão abrangente das tecnologias de IA, das considerações responsáveis, dos quadros jurídicos e dos domínios específicos em que a IA é implantada. Esta abordagem multidisciplinar garante uma perspectiva holística e uma compreensão abrangente das implicações da IA. Esta equipe desempenha um papel fundamental na formação e implementação do pensamento responsável de IA em qualquer organização.

É importante lembrar que a IA responsável não é jurisdição exclusiva de uma única entidade ou grupo; é um esforço colaborativo que requer o envolvimento ativo e o compromisso de todas as partes interessadas envolvidas no ecossistema de IA.

2. Priorize a educação

A educação sobre práticas responsáveis ​​de IA deve ir além dos desenvolvedores de IA e cientistas de dados, abrangendo funcionários, partes interessadas e a comunidade em geral. Os programas educativos devem centrar-se na sensibilização para as considerações de IA responsável, os riscos potenciais e as melhores práticas, incluindo políticas e procedimentos de IA responsáveis. Deve ser dada especial atenção à prestação de formação em atenuação de preconceitos, proteção da privacidade, explicabilidade dos sistemas de IA e utilização responsável de tecnologias de IA.

Além disso, recomendo a criação de um recurso interno que inclua diretrizes, documentos de melhores práticas, estudos de caso e exemplos de implementação responsável de IA. Torne esses recursos facilmente acessíveis e atualize-os regularmente para refletir o cenário em evolução da IA ​​responsável. Existem recursos úteis disponíveis aqui .

3. Equilibre as capacidades da IA ​​com o julgamento humano

As técnicas generativas de IA podem criar conteúdo altamente realista, incluindo texto, imagens e vídeos. Mas a IA também pode gerar resultados que parecem plausíveis, mas que são comprovadamente incorretos. Você deve ter visto a recente cobertura da imprensa sobre IA generativa citando casos inexistentes para um advogado que a utiliza para preparar um documento jurídico. Essas alucinações podem ocorrer devido a fatores como otimização excessiva, distorções de dados, compreensão contextual limitada e dados de treinamento insuficientes ou desatualizados.

Embora os sistemas de IA ofereçam capacidades incomparáveis ​​para agilizar processos e aumentar a eficiência, deve ser dada especial atenção ao julgamento humano. Os humanos possuem qualidades essenciais como amplo conhecimento, raciocínio causal, empatia, compaixão e compreensão contextual, que podem ser cruciais em cenários de tomada de decisão complexos e de alto risco. É importante encontrar o equilíbrio certo entre as capacidades de IA e o julgamento humano para promover a utilização e implantação responsáveis ​​de aplicações que envolvam IA.

Deve considerar o nível apropriado de envolvimento humano com base na criticidade e complexidade das decisões do sistema de IA. Este envolvimento poderia incluir o envolvimento humano, onde os seres humanos desempenham um papel ativo no processo de tomada de decisão juntamente com o sistema de IA; human-on-the-loop, onde os humanos supervisionam e controlam o sistema de IA, mas não estão ativamente envolvidos no processo de tomada de decisão em tempo real; ou abordagens human-over-the-loop, em que os humanos são responsáveis ​​pela autoridade final de tomada de decisão e pelo controlo sobre o sistema de IA.

Identificar novos mecanismos e técnicas para mitigar preconceitos e promover a transparência

4. Mitigar preconceitos

Os modelos generativos de IA são treinados em grandes quantidades de dados. Quando o preconceito é introduzido em modelos básicos ou dados de formação, pode ser amplificado e perpetuado nos resultados geradores, levando a uma implementação injusta, perpetuando estereótipos e limitando a diversidade e a representação se não for controlado. Podem surgir vieses se os dados de treinamento estiverem distorcidos, apresentarem disparidade no tamanho da amostra ou não possuírem diversidade em recursos relevantes.

A mitigação de preconceitos na IA requer uma abordagem dupla. Primeiro, as organizações devem priorizar o uso de dados diversos e representativos durante o treinamento do modelo de IA. A incorporação de conjuntos de dados representativos que abrangem uma ampla gama de perspectivas, antecedentes e dados demográficos pode ajudar a mitigar preconceitos. Em segundo lugar, é crucial implementar técnicas de mitigação de preconceitos ao longo do desenvolvimento e implantação de sistemas de IA. Isto inclui o pré-processamento de dados para mitigar preconceitos e a implementação de técnicas de pós-processamento para promover resultados de IA justos e calibrados.

5. Promova a transparência e a explicabilidade

Os modelos de IA generativa podem ser complexos e pode ser difícil entender como um modelo chega a um resultado. Você deve considerar quando divulgar aos usuários finais que eles estão usando IA generativa. Da mesma forma, é importante considerar quando você precisar explicar como um modelo generativo de IA chegou a um resultado.

Concentre-se em mecanismos para promover processos apropriados relacionados ao desenvolvimento e implantação de modelos, que podem incluir arquitetura de modelos, resumos de dados de entrada, processos de treinamento e mecanismos de tomada de decisão. Utilize algoritmos e técnicas interpretáveis, como árvores de decisão ou sistemas baseados em regras, para melhorar a compreensão de como funciona um modelo. Isso pode envolver técnicas como análise de importância de recursos, mecanismos de atenção ou mapas de saliência que destacam os fatores mais influentes que contribuem para o resultado do modelo.

6. Teste, teste, teste

Testes e avaliações contínuos são necessários para garantir a eficácia de um programa de IA responsável. Certifique-se de que este teste inclua o modelo e o modelo com o conjunto de dados que você usou para treiná-lo. Ao avaliar práticas responsáveis ​​de IA, considere métricas que avaliem a justiça, medindo disparidades ou preconceitos nos resultados entre diferentes grupos demográficos. Além disso, avalie a satisfação e a confiança do usuário nos sistemas de IA por meio de pesquisas, mecanismos de feedback ou avaliações da experiência do usuário. Considere onde é apropriado documentar e comunicar estas conclusões às partes interessadas para impulsionar melhorias num programa de IA responsável.

Introduzir salvaguardas e proteções importantes para minimizar riscos e proteger a privacidade

7. Incorpore considerações de privacidade

A IA generativa depende de grandes conjuntos de dados para modelos de treinamento. É importante implementar as melhores práticas no tratamento de dados pessoais, inclusive durante treinamento e técnicas de anonimato, para ajudar a minimizar o risco. Você também deve considerar as leis e regulamentos de privacidade aplicáveis, incluindo coleta, processamento e restrições de uso de dados, e incorporar considerações de privacidade em qualquer estrutura de governança de IA.

8. Defina casos de uso de aplicativos específicos

Pode ser tentador usar a IA generativa de uma forma ampla ou mesmo como um todo para responder a uma ampla base de intermináveis ​​questões abertas. No entanto, incentivo os clientes da AWS a definirem casos de uso de aplicativos específicos de alto valor, focados em necessidades específicas de negócios. Casos de uso de aplicativos específicos permitem responsabilidade e propriedade mais claras, proporcionam transparência mais fácil e simplificam a avaliação e mitigação de riscos. Isso também permite procedimentos de teste, monitoramento e tratamento de erros mais direcionados.

9. Proteja e respeite a propriedade intelectual

A ascensão da IA ​​generativa introduz desafios complexos de propriedade intelectual (PI), tais como direitos de autor em entradas, saídas e nos próprios modelos, propriedade de conteúdos gerados por IA e proteção de segredos comerciais. A natureza autônoma dos modelos generativos de IA, que criam conteúdo de forma independente, confundiu os limites da criação e propriedade tradicionais. Como resultado, a utilização de IA generativa exige uma análise cuidadosa dos quadros jurídicos de PI para promover a utilização adequada de insumos e produtos.

Proteger algoritmos, técnicas ou processos proprietários utilizados em sistemas de IA como segredos comerciais é essencial e requer medidas de segurança robustas para impedir o acesso não autorizado ou a divulgação de informações confidenciais. Além disso, é importante que você entenda o fluxo de dados de um determinado modelo, garanta que ele seja seguro e que suas entradas não sejam compartilhadas com um 3P de uma forma que você não deseja.

Conclusão

Tomar medidas para construir IA de forma responsável é crucial para aproveitar o potencial da IA ​​e, ao mesmo tempo, promover resultados responsáveis ​​e justos. Os executivos têm a oportunidade de liderar as suas organizações na próxima década de inovação em IA, ao mesmo tempo que promovem uma IA segura e confiável. Ao seguir os princípios de transparência, justiça, responsabilidade e privacidade e ao mesmo tempo abordar preconceitos, as organizações podem aproveitar todo o potencial da IA ​​generativa, ao mesmo tempo que criam confiança, promovem o bem social e mitigam os riscos associados aos sistemas de IA.

Fique por dentro das inovações tecnológicas aqui no blog da https://www.itexperts.com.br/blog/

Originalmente publicado em Blog AWS