Konform – ethische Standards

Erfahren Sie mehr über Well-Architected Trusted → Compliant → Ethical Standards → Artificial Intelligence

Wohin schauen?
Produktbereich | Standort		Wie sieht gut aus?
Muster
Einstein | Design Standards✅ Generative Antworten identifizieren immer Datenquellen, die von AI-Modellen verwendet werden
Einstein | Design Standards✅ Datensets, die für die Eingabeaufforderungs-Engineerung verwendet werden können/können, wurden dokumentiert
Einstein | Design Standards✅ Bots und generative AI-Antworten werden Benutzern eindeutig identifiziert
Einstein | Design Standards✅ Punkte, an denen AI für einen Benutzer identifiziert werden muss, sind klar definiert
Einstein | Design Standards✅ Standards für die Verwendung von Haftungsausschlüssen für generative AI sind klar definiert
Einstein | Design Standards✅ Klare Anforderungen für die Dokumentation von Punkten menschlicher Beteiligung an AI-Lösungsdesigns vorhanden
Einstein | Design Standards✅ Es werden keine generativen Antworten direkt an Endbenutzer ohne menschliche Beteiligung gesendet
Einstein | Design Standards✅ Es gibt Standards für die Dokumentation direkter und indirekter Feedbackpfade in AI-Lösungsdesigns
Einstein | Design Standards✅ Richtlinien und genehmigte Anwendungsfälle für AI-Anwendungen sind klar und einfach zu finden
Einstein | Design Standards✅ Standards für Chatbot-Messaging und Unterhaltungs-Flow wurden dokumentiert
Einstein | Dokumentation✅ Die Dokumentation für Konfigurationen und Anpassungen mit AI-Funktionen enthält eine ausführliche Beschreibung der gesamten Prozesslogik und wird an einem zentralen Ort gespeichert, auf den Rechtsteams oder Prüfer zugreifen können.
Einstein | Dokumentation✅ Modelle, die Prognosen und Empfehlungen vorantreiben, sind klar dokumentiert, einschließlich aller anwendbaren Datensegmente
Einstein | Dokumentation✅ Unterhaltungslogik und Chatbot-Nachrichten werden sorgfältig dokumentiert
Einstein | Dokumentation✅ Es sind Prozesse vorhanden, um die AI-Modelle Ihrer Organisation auf Datendrift, Änderungen bei Fairness und Verzerrungsbewertungen, Genauigkeit und Robustheit zu überwachen
Einstein | Dokumentation✅ Beschreibungen für die Trainings-, Evaluierungs- und Testdaten, die für alle AI-Prozesse verwendet werden, werden beibehalten
Einstein | Dokumentation✅ Beschreibungen werden für alle AI-bezogenen Datenbereinigungen zusammen mit Verzerrungstests, zugehörigen Ergebnissen und Leistungs-/Genauigkeitsbewertungen (z. B. F1-Bewertungen) beibehalten
Einstein | Org✅ Aufforderungsvorlagen werden auf Qualität getestet Aufforderungsvorlagen werden getestet und die Ergebnisse dieser Tests dokumentieren die Relevanz, Vollständigkeit, Stil/Ton, faktische Genauigkeit, Konsistenz, Toxizität und Verzerrung von Aufforderungsvorlagenantworten
Einstein | Org✅ Die generative AI wird als Assistent eines Menschen verwendet. Stellen Sie zunächst sicher, dass ein Mensch am Ruder ist, der die Genauigkeit und den Nutzen von Antworten überprüfen kann.
Einstein | Org✅ AI-Modelle verwenden Daten, denen Sie Trust Kontext wird der Gen-AI mithilfe von Zero-Party-Daten (wird direkt vom Kunden bereitgestellt) oder First-Party-Daten (wird basierend auf der Interaktion eines Kunden mit Ihrem Unternehmen erfasst) bereitgestellt

Weitere Informationen zu Well-Architected Trusted → Compliant → Ethical Standards → Company Policies (Unternehmensrichtlinien)

Wohin schauen?
Produktbereich | Standort		Wie sieht gut aus?
Muster
Plattform | Designstandards✅ Standards enthalten klare Leitlinien für Bereiche, die von Unternehmensrichtlinien betroffen sind
Plattform | Dokumentation✅ Dokumentation für Konfiguration und Anpassungen enthält Verweise auf unterstützte Unternehmenswerte
Plattform | Organisation✅ Für alle Objekte und Felder, die der unternehmensrichtlinienbezogenen Compliance unterliegen, sind "Compliance-Kategorisierung", "Dateninhaber", "Datenvertraulichkeitsstufe" und "Feldnutzung" konfiguriert.

Erfahren Sie mehr über Well-Architected Trusted → Compliant → Ethical Standards → Artificial Intelligence

Wohin schauen?
Produktbereich | Standort		Was vermeiden?
Anti-Pattern
Einstein | Design Standards⚠️ Generative Antworten identifizieren keine von AI-Modellen verwendeten Datenquellen
Einstein | Design Standards⚠️ Bots und generative AI-Antworten werden Benutzern nicht identifiziert
Einstein | Design Standards⚠️ Generative Antworten werden direkt an Endbenutzer gesendet, ohne dass es zu menschlichen Interaktionen kommt
Einstein | Design Standards⚠️ Datensets, die für die prompte Erstellung verwendet werden, werden nicht dokumentiert
Einstein | Design Standards⚠️ Es gibt keine Anforderungen für die Dokumentation von Punkten, an denen Menschen in AI-Lösungsdesigns beteiligt sind
Einstein | Design Standards⚠️ Designstandards geben keine Punkte an, an denen Benutzer AI identifizieren müssen
Einstein | Design Standards⚠️ Haftungsausschlüsse in Bezug auf generative Antworten fehlen
Einstein | Design Standards⚠️ Es gibt keine Standards für die Dokumentation direkter und indirekter Feedbackpfade für AI-Lösungsdesigns
Einstein | Design Standards⚠️ Designstandards sind nicht vorhanden oder enthalten keine klaren Richtlinien und genehmigten Anwendungsfälle für AI-Anwendungen
Einstein | Design Standards⚠️ Es gibt keine klaren Standards für Chatbot-Messaging und Unterhaltungsdesign (es werden jedoch Chatbots verwendet)
Einstein | Dokumentation⚠️ AI-Überwachungsprozesse sind nicht vorhanden oder werden nicht dokumentiert
Einstein | Dokumentation⚠️ Dokumentation für Konfigurationen und Anpassungen mit AI-Funktionen fehlt, ist unvollständig oder wird an einem nicht zugänglichen Ort gespeichert
Einstein | Dokumentation⚠️ Prognosen oder Empfehlungen werden in Ihrer Organisation ohne Dokumentation ihrer Modelle implementiert
Einstein | Dokumentation⚠️ Informationen zu Trainings-, Evaluierungs- und Testdaten, die für alle AI-Prozesse verwendet werden, sind unklar oder nicht verfügbar
Einstein | Dokumentation⚠️ Informationen zur Bereinigung von AI-bezogenen Daten, Verzerrungstests und Ergebnissen sind unklar oder nicht verfügbar
Einstein | Dokumentation⚠️ Chatbots werden in Ihrer Organisation ohne Dokumentation der Nachrichten und des Unterhaltungs-Flows implementiert
Einstein | Aufforderungsvorlagen⚠️ AI basiert auf Drittanbieterdaten Ihre Aufforderungsvorlagen basieren ausschließlich auf Drittanbieterdaten ohne Null- oder Erstanbieterdaten.

Weitere Informationen zu Well-Architected Trusted → Compliant → Ethical Standards → Company Policies (Unternehmensrichtlinien)

Wohin schauen?
Produktbereich | Standort		Was vermeiden?
Anti-Pattern
Plattform | Designstandards⚠️ Designstandards sind nicht vorhanden oder bieten keine klare Anleitung zu Bereichen, die den Unternehmensrichtlinien unterliegen
Plattform | Dokumentation⚠️ Die Dokumentation für Konfiguration und Anpassungen verweist nicht auf Unternehmenswerte oder -richtlinien
Plattform | Organisation⚠️ Bei Objekten, die der unternehmensrichtlinienbezogenen Compliance unterliegen, fehlt die Konfiguration für die Konformitätseinstufung, den Dateninhaber, die Datenvertraulichkeitsstufe oder die Feldnutzung