Dieser Text wurde mit dem automatisierten Übersetzungssystem von Salesforce übersetzt. Nehmen Sie an unserer Umfrage teil, um Feedback zu diesem Inhalt zu geben und uns mitzuteilen, was Sie als Nächstes sehen möchten.
Konform – ethische Standards
Erfahren Sie mehr über Well-Architected Trusted → Compliant → Ethical Standards → Artificial Intelligence
| Wohin schauen? Produktbereich | Standort | Wie sieht gut aus? Muster |
|---|---|
| Einstein | Design Standards | ✅ Generative Antworten identifizieren immer Datenquellen, die von AI-Modellen verwendet werden |
| Einstein | Design Standards | ✅ Datensets, die für die Eingabeaufforderungs-Engineerung verwendet werden können/können, wurden dokumentiert |
| Einstein | Design Standards | ✅ Bots und generative AI-Antworten werden Benutzern eindeutig identifiziert |
| Einstein | Design Standards | ✅ Punkte, an denen AI für einen Benutzer identifiziert werden muss, sind klar definiert |
| Einstein | Design Standards | ✅ Standards für die Verwendung von Haftungsausschlüssen für generative AI sind klar definiert |
| Einstein | Design Standards | ✅ Klare Anforderungen für die Dokumentation von Punkten menschlicher Beteiligung an AI-Lösungsdesigns vorhanden |
| Einstein | Design Standards | ✅ Es werden keine generativen Antworten direkt an Endbenutzer ohne menschliche Beteiligung gesendet |
| Einstein | Design Standards | ✅ Es gibt Standards für die Dokumentation direkter und indirekter Feedbackpfade in AI-Lösungsdesigns |
| Einstein | Design Standards | ✅ Richtlinien und genehmigte Anwendungsfälle für AI-Anwendungen sind klar und einfach zu finden |
| Einstein | Design Standards | ✅ Standards für Chatbot-Messaging und Unterhaltungs-Flow wurden dokumentiert |
| Einstein | Dokumentation | ✅ Die Dokumentation für Konfigurationen und Anpassungen mit AI-Funktionen enthält eine ausführliche Beschreibung der gesamten Prozesslogik und wird an einem zentralen Ort gespeichert, auf den Rechtsteams oder Prüfer zugreifen können. |
| Einstein | Dokumentation | ✅ Modelle, die Prognosen und Empfehlungen vorantreiben, sind klar dokumentiert, einschließlich aller anwendbaren Datensegmente |
| Einstein | Dokumentation | ✅ Unterhaltungslogik und Chatbot-Nachrichten werden sorgfältig dokumentiert |
| Einstein | Dokumentation | ✅ Es sind Prozesse vorhanden, um die AI-Modelle Ihrer Organisation auf Datendrift, Änderungen bei Fairness und Verzerrungsbewertungen, Genauigkeit und Robustheit zu überwachen |
| Einstein | Dokumentation | ✅ Beschreibungen für die Trainings-, Evaluierungs- und Testdaten, die für alle AI-Prozesse verwendet werden, werden beibehalten |
| Einstein | Dokumentation | ✅ Beschreibungen werden für alle AI-bezogenen Datenbereinigungen zusammen mit Verzerrungstests, zugehörigen Ergebnissen und Leistungs-/Genauigkeitsbewertungen (z. B. F1-Bewertungen) beibehalten |
| Einstein | Org | ✅ Aufforderungsvorlagen werden auf Qualität getestet Aufforderungsvorlagen werden getestet und die Ergebnisse dieser Tests dokumentieren die Relevanz, Vollständigkeit, Stil/Ton, faktische Genauigkeit, Konsistenz, Toxizität und Verzerrung von Aufforderungsvorlagenantworten |
| Einstein | Org | ✅ Die generative AI wird als Assistent eines Menschen verwendet. Stellen Sie zunächst sicher, dass ein Mensch am Ruder ist, der die Genauigkeit und den Nutzen von Antworten überprüfen kann. |
| Einstein | Org | ✅ AI-Modelle verwenden Daten, denen Sie Trust Kontext wird der Gen-AI mithilfe von Zero-Party-Daten (wird direkt vom Kunden bereitgestellt) oder First-Party-Daten (wird basierend auf der Interaktion eines Kunden mit Ihrem Unternehmen erfasst) bereitgestellt |
Weitere Informationen zu Well-Architected Trusted → Compliant → Ethical Standards → Company Policies (Unternehmensrichtlinien)
| Wohin schauen? Produktbereich | Standort | Wie sieht gut aus? Muster |
|---|---|
| Plattform | Designstandards | ✅ Standards enthalten klare Leitlinien für Bereiche, die von Unternehmensrichtlinien betroffen sind |
| Plattform | Dokumentation | ✅ Dokumentation für Konfiguration und Anpassungen enthält Verweise auf unterstützte Unternehmenswerte |
| Plattform | Organisation | ✅ Für alle Objekte und Felder, die der unternehmensrichtlinienbezogenen Compliance unterliegen, sind "Compliance-Kategorisierung", "Dateninhaber", "Datenvertraulichkeitsstufe" und "Feldnutzung" konfiguriert. |
Erfahren Sie mehr über Well-Architected Trusted → Compliant → Ethical Standards → Artificial Intelligence
| Wohin schauen? Produktbereich | Standort | Was vermeiden? Anti-Pattern |
|---|---|
| Einstein | Design Standards | ⚠️ Generative Antworten identifizieren keine von AI-Modellen verwendeten Datenquellen |
| Einstein | Design Standards | ⚠️ Bots und generative AI-Antworten werden Benutzern nicht identifiziert |
| Einstein | Design Standards | ⚠️ Generative Antworten werden direkt an Endbenutzer gesendet, ohne dass es zu menschlichen Interaktionen kommt |
| Einstein | Design Standards | ⚠️ Datensets, die für die prompte Erstellung verwendet werden, werden nicht dokumentiert |
| Einstein | Design Standards | ⚠️ Es gibt keine Anforderungen für die Dokumentation von Punkten, an denen Menschen in AI-Lösungsdesigns beteiligt sind |
| Einstein | Design Standards | ⚠️ Designstandards geben keine Punkte an, an denen Benutzer AI identifizieren müssen |
| Einstein | Design Standards | ⚠️ Haftungsausschlüsse in Bezug auf generative Antworten fehlen |
| Einstein | Design Standards | ⚠️ Es gibt keine Standards für die Dokumentation direkter und indirekter Feedbackpfade für AI-Lösungsdesigns |
| Einstein | Design Standards | ⚠️ Designstandards sind nicht vorhanden oder enthalten keine klaren Richtlinien und genehmigten Anwendungsfälle für AI-Anwendungen |
| Einstein | Design Standards | ⚠️ Es gibt keine klaren Standards für Chatbot-Messaging und Unterhaltungsdesign (es werden jedoch Chatbots verwendet) |
| Einstein | Dokumentation | ⚠️ AI-Überwachungsprozesse sind nicht vorhanden oder werden nicht dokumentiert |
| Einstein | Dokumentation | ⚠️ Dokumentation für Konfigurationen und Anpassungen mit AI-Funktionen fehlt, ist unvollständig oder wird an einem nicht zugänglichen Ort gespeichert |
| Einstein | Dokumentation | ⚠️ Prognosen oder Empfehlungen werden in Ihrer Organisation ohne Dokumentation ihrer Modelle implementiert |
| Einstein | Dokumentation | ⚠️ Informationen zu Trainings-, Evaluierungs- und Testdaten, die für alle AI-Prozesse verwendet werden, sind unklar oder nicht verfügbar |
| Einstein | Dokumentation | ⚠️ Informationen zur Bereinigung von AI-bezogenen Daten, Verzerrungstests und Ergebnissen sind unklar oder nicht verfügbar |
| Einstein | Dokumentation | ⚠️ Chatbots werden in Ihrer Organisation ohne Dokumentation der Nachrichten und des Unterhaltungs-Flows implementiert |
| Einstein | Aufforderungsvorlagen | ⚠️ AI basiert auf Drittanbieterdaten Ihre Aufforderungsvorlagen basieren ausschließlich auf Drittanbieterdaten ohne Null- oder Erstanbieterdaten. |
Weitere Informationen zu Well-Architected Trusted → Compliant → Ethical Standards → Company Policies (Unternehmensrichtlinien)
| Wohin schauen? Produktbereich | Standort | Was vermeiden? Anti-Pattern |
|---|---|
| Plattform | Designstandards | ⚠️ Designstandards sind nicht vorhanden oder bieten keine klare Anleitung zu Bereichen, die den Unternehmensrichtlinien unterliegen |
| Plattform | Dokumentation | ⚠️ Die Dokumentation für Konfiguration und Anpassungen verweist nicht auf Unternehmenswerte oder -richtlinien |
| Plattform | Organisation | ⚠️ Bei Objekten, die der unternehmensrichtlinienbezogenen Compliance unterliegen, fehlt die Konfiguration für die Konformitätseinstufung, den Dateninhaber, die Datenvertraulichkeitsstufe oder die Feldnutzung |