Ce texte a été traduit en utilisant le système de traduction automatisé de Salesforce. Répondez à notre sondage pour nous faire part de vos commentaires sur ce contenu et nous dire ce que vous aimeriez voir ensuite.
Conforme - Normes éthiques
En savoir plus sur Confiance bien archivée → Conforme → Normes éthiques → Intelligence artificielle
| Où chercher ? Domaine de produit | Emplacement | À quoi ressemble le bien ? Modèle |
|---|---|
| Einstein | Normes de conception | ✅ Les réponses génératives identifient toujours les sources de données utilisées par les modèles IA |
| Einstein | Normes de conception | ✅ Les jeux de données qui peuvent/ne peuvent pas être utilisés pour l'invite enginerring ont été documentés |
| Einstein | Normes de conception | ✅ Les robots et les réponses IA génératives sont clairement identifiés pour les utilisateurs |
| Einstein | Normes de conception | ✅ Les points auxquels l’IA doit être identifiée pour un utilisateur sont clairement définis |
| Einstein | Normes de conception | ✅ Les normes pour quand et comment utiliser les clauses d’exclusion de responsabilité pour l’IA générative sont clairement définies |
| Einstein | Normes de conception | ✅ Des exigences claires pour la documentation des points d'implication humaine dans les conceptions de solutions d'IA existent |
| Einstein | Normes de conception | ✅ Aucune réponse générative n'est envoyée directement aux utilisateurs sans point d'implication humaine |
| Einstein | Normes de conception | ✅ Des normes de documentation des parcours de rétroaction directe et indirecte dans les conceptions de solutions IA existent |
| Einstein | Normes de conception | ✅ Les stratégies et les cas d'utilisation approuvés pour les applications IA sont clairs et faciles à trouver |
| Einstein | Normes de conception | ✅ Les normes de messagerie de chatbot et de flux de conversation ont été documentées |
| Einstein | Documentation | ✅ La documentation sur la configuration et les personnalisations impliquant des fonctionnalités IA contient une description complète de toute la logique de processus et est stockée à un emplacement central accessible par les équipes juridiques ou les auditeurs |
| Einstein | Documentation | ✅ Les modèles qui pilotent les prédictions et les recommandations sont clairement documentés, y compris tous les segments de données applicables |
| Einstein | Documentation | ✅ La logique de conversation et les messages de chatbot sont documentés en profondeur |
| Einstein | Documentation | ✅ Des processus sont en place pour surveiller les modèles d'IA de votre organisation pour la dérive des données, l'évolution des scores d'équité et de biais, la précision et la robustesse |
| Einstein | Documentation | ✅ Les descriptions sont conservées pour la formation, l'évaluation et les données de test utilisées pour tous les processus IA |
| Einstein | Documentation | ✅ Les descriptions sont conservées pour tout nettoyage des données liées à l’IA avec les tests de biais, les résultats associés et les scores de performance/précision (par exemple, scores F1) |
| Einstein | Organisation | ✅ La qualité des modèles d'invite est testée Les modèles d'invite sont testés, et les résultats de ces tests documentent la pertinence, l'exhaustivité, le style/ton, l'exactitude factuelle, la cohérence, la toxicité et les biais des réponses des modèles d'invite. |
| Einstein | Organisation | ✅ L'IA générative est utilisée comme assistant d'un humain Lorsque vous commencez avec l'IA générative, assurez-vous qu'il y a un "humain à la barre", qui peut vérifier la précision et l'utilité des réponses. |
| Einstein | Organisation | ✅ Les modèles IA utilisent des données que vous Trust Contexte est fourni à l'IA de génération en utilisant des données de partie zéro (fournies directement par le client) ou de première partie (recueillies en fonction de l'interaction d'un client avec votre entreprise) |
En savoir plus sur Bien Archivé Fiable → Conforme → Normes éthiques → Politiques de l'entreprise
| Où chercher ? Domaine de produit | Emplacement | À quoi ressemble le bien ? Modèle |
|---|---|
| Plate-forme | Normes de conception | ✅ Les normes comprennent des directives claires pour les domaines impactés par les politiques de l'entreprise |
| Plate-forme | Documentation | ✅ La documentation sur la configuration et les personnalisations inclut des références aux valeurs de l'entreprise prises en charge |
| Plate-forme | Organisation | ✅ Tous les objets et champs soumis à la conformité liée à la politique de l'entreprise ont une Catégorie de conformité, un Propriétaire des données, un Niveau de confidentialité des données et une Utilisation des champs configurés |
En savoir plus sur Confiance bien archivée → Conforme → Normes éthiques → Intelligence artificielle
| Où chercher ? Domaine de produit | Emplacement | Qu'éviter ? Anti-Pattern |
|---|---|
| Einstein | Normes de conception | ⚠️ Les réponses génératives n’identifient pas les sources de données utilisées par les modèles IA |
| Einstein | Normes de conception | ⚠️ Les robots et les réponses IA génératives ne sont pas identifiés pour les utilisateurs |
| Einstein | Normes de conception | ⚠️ Les réponses génératives sont envoyées directement aux utilisateurs finaux sans point d’implication humaine |
| Einstein | Normes de conception | ⚠️ Les jeux de données utilisés pour l’ingénierie rapide ne sont pas documentés |
| Einstein | Normes de conception | ⚠️ Aucune exigence de documentation des points d’implication humaine dans les conceptions de solutions IA n’existe |
| Einstein | Normes de conception | ⚠️ Les normes de conception n’indiquent pas les points auxquels l’IA doit être identifiée pour les utilisateurs |
| Einstein | Normes de conception | ⚠️ Les exclusions de responsabilité concernant les réponses génératives sont manquantes |
| Einstein | Normes de conception | ⚠️ Il n’existe aucune norme pour documenter les parcours de rétroaction directe et indirecte pour les conceptions de solutions IA |
| Einstein | Normes de conception | ⚠️ Les normes de conception n'existent pas ou ne contiennent pas de politiques claires et de cas d'utilisation approuvés pour les applications IA |
| Einstein | Normes de conception | ⚠️ Des normes claires pour la messagerie de chatbot et la conception de conversations n’existent pas (mais des chatbots sont utilisés) |
| Einstein | Documentation | ⚠️ Les processus de surveillance de l’IA n’existent pas ou ne sont pas documentés |
| Einstein | Documentation | ⚠️ La documentation relative à la configuration et aux personnalisations impliquant des fonctionnalités IA est manquante, incomplète ou stockée dans un emplacement inaccessible |
| Einstein | Documentation | ⚠️ Les prédictions ou recommandations sont implémentées dans votre organisation sans documentation sur leurs modèles |
| Einstein | Documentation | ⚠️ Les informations sur les données de formation, d’évaluation et de test utilisées pour tous les processus IA ne sont pas claires ou ne sont pas disponibles |
| Einstein | Documentation | ⚠️ L’information sur le nettoyage des données liées à l’IA, les tests de biais et les résultats n’est pas claire ou n’est pas disponible |
| Einstein | Documentation | ⚠️ Les chatbots sont implémentés dans votre organisation sans documentation sur les messages et le flux de conversation |
| Einstein | Modèles d'invite | ⚠️ L’IA s’appuie sur des données tierces Vos modèles d’invite s’appuient uniquement sur des données tierces sans aucune donnée nulle ou tierce |
En savoir plus sur Bien Archivé Fiable → Conforme → Normes éthiques → Politiques de l'entreprise
| Où chercher ? Domaine de produit | Emplacement | Qu'éviter ? Anti-Pattern |
|---|---|
| Plate-forme | Normes de conception | ⚠️ Les normes de conception n’existent pas ou ne fournissent pas d’orientation claire sur les domaines soumis aux politiques de l’entreprise |
| Plate-forme | Documentation | ⚠️ La documentation relative à la configuration et aux personnalisations ne référence pas les valeurs ou politiques de l’entreprise |
| Plate-forme | Organisation | ⚠️ Les objets et qui sont soumis à la conformité liée à la politique de l'entreprise sont manquants de configuration pour Catégorie de conformité, Propriétaire des données, Niveau de confidentialité des données ou Utilisation du champ |