Esse texto foi traduzido usando o sistema de tradução automatizado do Salesforce. Pegue nossa enquisa para fornecer feedback sobre esse conteúdo e diga-nos o que você gostaria de ver em seguida.
Conformidade – Padrões éticos
Saiba mais sobre Bem-Arquiteto Confiável → Conformidade → Padrões Éticos → Inteligência Artificial
| Onde procurar? Área de produtos | Local | Qual é a aparência de um bom? Padrão |
|---|---|
| Einstein | Padrões de design | ✅ Respostas generativas sempre identificam fontes de dados usadas por modelos de IA |
| Einstein | Padrões de design | ✅ Conjuntos de dados que podem/não podem ser usados para o aviso de engenharia foram documentados |
| Einstein | Padrões de design | ✅ Respostas de IA generativa e bots são claramente identificadas para os usuários |
| Einstein | Padrões de design | ✅ Os pontos em que a IA deve ser identificada para um usuário são definidos claramente |
| Einstein | Padrões de design | ✅ Os padrões para quando e como usar isenções de responsabilidade para IA generativa são definidos claramente |
| Einstein | Padrões de design | ✅ Existem requisitos claros para como documentar pontos de envolvimento humano em designs de soluções de IA |
| Einstein | Padrões de design | ✅ Nenhuma resposta generativa é enviada diretamente aos usuários finais sem pontos de engajamento humano |
| Einstein | Padrões de design | ✅ Existem padrões para documentar caminhos de feedback direto e indireto em designs de soluções de IA |
| Einstein | Padrões de design | ✅ Políticas e casos de uso aprovados para aplicativos de IA são claros e fáceis de encontrar |
| Einstein | Padrões de design | ✅ Os padrões para mensagens do chatbot e fluxo de conversa foram documentados |
| Einstein | Documentação | ✅ A documentação para configuração e personalizações envolvendo a funcionalidade de IA contém uma descrição completa de toda a lógica do processo e é armazenada em um local central acessível por equipes jurídicas ou auditores |
| Einstein | Documentação | ✅ Modelos que geram previsões e recomendações são claramente documentados, incluindo quaisquer segmentos de dados aplicáveis |
| Einstein | Documentação | ✅ A lógica da conversa e as mensagens do chatbot são cuidadosamente documentadas |
| Einstein | Documentação | ✅ Processos estão em vigor para monitorar os modelos de IA da sua organização quanto ao desvio de dados, alterações nas pontuações de fairness e viés, precisão e robustez |
| Einstein | Documentação | ✅ As descrições são mantidas para os dados de treinamento, avaliação e teste usados para todos os processos de IA |
| Einstein | Documentação | ✅ As descrições são mantidas para qualquer limpeza de dados relacionada à IA junto com testes de viés, resultados associados e pontuações de desempenho/precisão (por exemplo, pontuações F1) |
| Einstein | Organização | ✅ Os modelos de prompt são testados quanto à qualidade Os modelos de prompt são testados e os resultados desses testes documentam a relevância, a completude, o estilo/tone, a precisão factual, a consistência, a toxicidade e o viés das respostas do modelo de prompt |
| Einstein | Organização | ✅ A IA generativa é usada como um assistente para um humano Ao começar a usar a IA generativa, certifique-se de que haja um "humano no capacete" que possa revisar a precisão e a utilidade das respostas. |
| Einstein | Organização | ✅ Os modelos de IA usam dados em que você Trust O contexto é fornecido à IA de geração usando dados de parte zero (fornecidos diretamente pelo cliente) ou de primeira parte (coletados com base na interação do cliente com sua empresa) |
Saiba mais sobre Well-Architected Trusted → Conformidade → Padrões Éticos → Políticas da Empresa
| Onde procurar? Área de produtos | Local | Qual é a aparência de um bom? Padrão |
|---|---|
| Plataforma | Padrões de design | ✅ Os padrões incluem diretrizes claras para áreas afetadas por políticas da empresa |
| Plataforma | Documentação | ✅ A documentação para configuração e personalizações inclui referências aos valores da empresa com suporte |
| Plataforma | Organização | ✅ Todos os objetos e campos que estão sujeitos à conformidade relacionada à política da empresa têm Categorização de conformidade, Proprietário de dados, Nível de confidencialidade de dados e Uso de campo configurados |
Saiba mais sobre Bem-Arquiteto Confiável → Conformidade → Padrões Éticos → Inteligência Artificial
| Onde procurar? Área de produtos | Local | O que evitar? Antipadrão |
|---|---|
| Einstein | Padrões de design | As respostas generativas não identificam fontes de dados usadas por modelos de IA |
| Einstein | Padrões de design | ⚡️ Os bots e as respostas de IA generativa não são identificados para os usuários |
| Einstein | Padrões de design | As respostas generativas são enviadas diretamente aos usuários finais sem pontos de engajamento humano |
| Einstein | Padrões de design | ⚡️ Os conjuntos de dados usados para engenharia de prompts não são documentados |
| Einstein | Padrões de design | ⚡️ Não há requisitos para documentar pontos de envolvimento humano em designs de soluções de IA |
| Einstein | Padrões de design | ⚡️ Os padrões de design não indicam pontos em que a IA deve ser identificada aos usuários |
| Einstein | Padrões de design | ⚡️ Avisos de isenção de responsabilidade sobre respostas generativas estão ausentes |
| Einstein | Padrões de design | ⚡️ Não há padrões para documentar caminhos de feedback direto e indireto para designs de soluções de IA |
| Einstein | Padrões de design | ⚡️ Os padrões de design não existem ou não incluem políticas claras e casos de uso aprovados para aplicativos de IA |
| Einstein | Padrões de design | ⚡️ Não existem padrões claros para mensagens de chatbot e design de conversa (mas chatbots estão sendo usados) |
| Einstein | Documentação | ⚡️ Processos de monitoramento de IA não existem ou não são documentados |
| Einstein | Documentação | ⚡️ A documentação para ajustes e personalizações envolvendo a funcionalidade de IA está ausente, incompleta ou armazenada em um local inacessível |
| Einstein | Documentação | Previsões ou recomendações são implementadas em sua organização sem documentação de seus modelos |
| Einstein | Documentação | ⚡️ As informações sobre dados de treinamento, avaliação e teste usados para todos os processos de IA não estão claras ou estão indisponíveis |
| Einstein | Documentação | ⚡️ As informações sobre limpeza de dados, testes de viés e resultados relacionados a IA não estão claras ou estão indisponíveis |
| Einstein | Documentação | ⚡️ Os chatbots são implementados em sua organização sem documentação de mensagens e fluxo de conversa |
| Einstein | Modelos de prompts | A IA depende de dados de terceiros Seus modelos de prompts dependem apenas de dados de terceiros sem dados de zero ou de primeira parte |
Saiba mais sobre Well-Architected Trusted → Conformidade → Padrões Éticos → Políticas da Empresa
| Onde procurar? Área de produtos | Local | O que evitar? Antipadrão |
|---|---|
| Plataforma | Padrões de design | ⚡️ Os padrões de design não existem ou não fornecem orientação clara sobre as áreas que estão sujeitas às políticas da empresa |
| Plataforma | Documentação | A documentação para configuração e personalizações não faz referência a valores ou políticas da empresa |
| Plataforma | Organização | Objetos e que estão sujeitos à conformidade relacionada à política da empresa estão sem configuração para Categorização de conformidade, Proprietário de dados, Nível de confidencialidade de dados ou Uso de campo |