Este texto se tradujo utilizando el sistema de traducción automatizado de Salesforce. Realice nuestra encuesta para proporcionar comentarios sobre este contenido y díganos qué le gustaría ver a continuación.
Lea sobre nuestras programaciones de actualización aquí.
Aviso legal: Este documento se distribuye únicamente con fines informativos; no constituye asesoramiento legal y no debe utilizarse como tal.
Un sistema compatible está diseñado para cumplir con las directrices legales y éticas aplicables, siendo su cumplimiento mensurable y auditable. Esto se demuestra restringiendo el acceso a los datos a personas autorizadas para fines previstos, respetando las leyes pertinentes y garantizando el acceso equitativo para todos los usuarios autorizados.
Las medidas proactivas son esenciales para prevenir y detectar infracciones de cumplimiento. Un enfoque reactivo a las regulaciones y estándares puede erosionar Customer Trust, particularmente si los cambios solo se producen en respuesta a solicitudes o quejas de clientes. Dichas quejas pueden dañar la marca y la reputación de su organización y pueden llevar a pérdidas de ingresos.
Puede crear cumplimiento en sus soluciones de Salesforce centrándose en tres hábitos clave: adhesión legal, estándares éticos y accesibilidad.
La adhesión a mandatos legales implica seguir leyes regionales y reglamentos del sector. Como arquitecto, una vez que el equipo legal de su organización o un auditor externo haya determinado los requisitos de cumplimiento específicos, su responsabilidad es comprender estos requisitos e identificar y marcar de forma proactiva posibles problemas de cumplimiento al principio del proceso de diseño para reducir el riesgo de multas y demandas.
Puede mejorar la adhesión legal en sus soluciones de Salesforce a través de la privacidad y la localización de datos.
La privacidad de los datos trata de cómo su solución recopila, almacena y procesa información de identificación personal (PII), junto con las leyes relevantes y la capacidad de un individuo para controlar el acceso a sus datos personales. El cumplimiento de estas leyes puede requerir actualizaciones en su modelo de colaboración y visibilidad, modificaciones en configuraciones de metadatos para restringir el acceso, la implementación de cifrado a nivel de campo, la supervisión de registros y eventos, la creación de automatizaciones para exportar o eliminar datos de un cliente bajo solicitud y el desarrollo de políticas que rigen el uso de datos en automatizaciones e IA.
El incumplimiento de las leyes de privacidad de datos puede llevar a multas y demandas sustanciales. Además, la exposición de datos de las partes interesadas debido a controles insuficientes o a una brecha de seguridad puede dar como resultado la pérdida de ingresos y erosionar la Customer Trust.
Considere lo siguiente cuando trabaje para garantizar el cumplimiento de los requisitos de privacidad de datos:
- Consulte expertos reguladores. Trabaje con su equipo legal o un auditor externo para evaluar las leyes de cumplimiento específicas del sector aplicables a su negocio. Por ejemplo, las empresas de cuidados sanitarios deben adherirse a la Ley de Portabilidad y Responsabilidad del Seguro Médico (HIPAA).
- Clasifique sus datos. La clasificación de datos ayuda los equipos de proyectos a comprender cuándo se pueden utilizar o no los diversos elementos de datos en su organización. También proporciona a su negocio la capacidad de informar sobre el cumplimiento de la política de gestión de datos. Clasifique los datos en su organización especificando leyes aplicables a nivel de campo para capturar quién es el propietario, el nivel de confidencialidad y si el campo está en uso actualmente.
Durante el proceso de clasificación, es importante pensar en cómo se podrían utilizar todos los campos en su modelo de datos y no solo aquellos que parecen ser confidenciales a primera vista. En algunos casos, los campos que parecen no importantes pueden volverse confidenciales si se utilizan en el contexto incorrecto. Por ejemplo, los códigos postales en los Estados Unidos pueden ser un proxy de raza y, por lo tanto, si se utilizan en un modo predictivo, podrían agregar sesgos o causar daños de forma no intencionada. Los nombres se pueden utilizar para predecir el género, el país de origen, la raza, la religión e incluso la edad, ya que los nombres populares tienden a cambiar de generación en generación. Incluya clasificaciones de todos los campos y una descripción clara de cómo las utilizará cualquier función de IA asociada en su documentación.
Utilice herramientas como Detección de datos para identificar datos confidenciales en su organización. Si los campos están clasificados como confidenciales o si sabe qué campos son confidenciales, herramientas como Selección de contenido de Einstein también identificarán campos que están altamente correlacionados y por lo tanto pueden ser proxys para esos campos confidenciales.
- Establezca prácticas recomendadas para la gobernanza de datos. Asegúrese de que toda la documentación relevante está completa, actualizada y almacenada de forma centralizada de modo que esté disponible fácilmente para todas las partes interesadas. Esto agregará una capa de protección para su organización contra la responsabilidad legal mientras mantiene Trust con sus clientes y socios. Por ejemplo, un diccionario de datos documenta las definiciones y clasificaciones a nivel de campo y objeto para todos los elementos de datos que se almacenarán en su sistema, los documentos de diseño contienen detalles sobre cualquier automatización que haya creado para cumplir con las leyes y una matriz de seguridad describe a qué datos tienen acceso los usuarios. De forma crítica, esta documentación completa se convierte en el origen autorizado para la generación aumentada de recuperación (RAG), fundamentando directamente sistemas agentes como Agentforce en contexto operativo verificado y compatible, evitando así resultados incoherentes o alucinados.
La lista de patrones y antipatrones a continuación muestra el aspecto adecuado (y deficiente) de la gestión de la privacidad de los datos en una solución de Salesforce. Utilice estos para validar sus diseños antes de crear o identificar áreas de su sistema que necesitan ser refactorizadas.
Para obtener más información acerca de las herramientas de Salesforce para la privacidad de datos, consulte Herramientas relevantes para cumplir.
La localización se trata de adaptar un producto para alinearse con un idioma, cultura y estética local específicos. Esto también incluye la adaptación a leyes específicas de la región, como leyes de residencia de datos, que pueden diferir significativamente entre países e incluso municipios. En consecuencia, es posible que sus sistemas necesiten satisfacer múltiples marcos reguladores, dependiendo de dónde se encuentren sus clientes y cómo su negocio introduce sus productos y servicios en el mercado.
Además de las variaciones en las leyes de privacidad de datos, muchos países también están promulgando leyes de residencia de datos. Como mínimo, las leyes de residencia de datos requieren que todos los datos relacionados con los ciudadanos de un país se almacenen físicamente dentro de las fronteras de ese país. Algunas leyes van más allá, requiriendo el almacenamiento local de todos los datos (incluyendo datos sobre productos y servicios) potencialmente accesibles por los ciudadanos. En ciertos casos, las leyes requieren que los datos de ciudadanos sean mantenidos únicamente por otros ciudadanos de ese país o región.
El incumplimiento podría llevar a grandes multas y demandas. Por ejemplo, las autoridades de protección de datos de la UE pueden imponer multas de hasta 20 millones de euros o el 4% de los ingresos mundiales, cualquiera que sea superior. En los Estados Unidos, la oficina del fiscal general de California puede solicitar sanciones significativas por violaciones intencionales y no intencionales.
Considere lo siguiente para gestionar mejor los requisitos de residencia de datos y localización:
- Consulte expertos reguladores. Trabaje con su equipo legal o un auditor externo para evaluar leyes en las regiones donde opera su negocio para determinar cuáles son aplicables. Algunos ejemplos incluyen el Reglamento General de Protección de Datos (RGPD) y la Ley de IA de la UE, así como la Ley de Privacidad del Consumidor de California (CCPA).
- Almacene datos localmente. Asegúrese de que los datos específicos de una región permanecen en su propia organización separada. Utilice Hyperforce, el sustrato de nube pública de Salesforce para alojar su organización en una región específica.
- Evite la replicación de datos. El almacenamiento local de datos significa que los datos se almacenan en tiempo de inactividad en el país; por supuesto, los problemas de cumplimiento pueden surgir cuando los datos se transfieren fuera del país a través de interfaces estándar. Por ejemplo, la creación y el mantenimiento de registros localmente pero su replicación en un almacén de datos en otro país para la creación de informes infringirá las leyes de residencia de datos. Si trabaja para un negocio global con requisitos de creación de informes interregionales, primero agregue sus datos dentro del país donde están almacenados, elimine toda la información que podría identificar potencialmente a los ciudadanos asociados con él y luego replique solo la información agregada. Este enfoque puede requerir que comunique limitaciones de creación de informes a sus partes interesadas de modo que sepan que aunque habrá datos más granulares disponibles a nivel nacional o regional, solo habrá datos de resumen disponibles a nivel global.
La lista de patrones y antipatrones a continuación muestra el aspecto apropiado (y deficiente) de los procesos de localización y residencia de datos en una solución de Salesforce. Utilice estos para validar sus diseños antes de crear o identificar áreas que necesitan ser refactorizadas.
Para obtener más información acerca de las herramientas de Salesforce para la localización, consulte Herramientas relevantes para cumplir.
La siguiente tabla muestra una selección de patrones para buscar (o crear) en su organización y antipatrones para evitar o dirigir para su solución.
✨ Descubra más patrones para la adhesión legal en el Explorador de patrones y antipatrón.
| Patrones | Antipatrones | |
|---|---|---|
| Privacidad de datos | En su documentación:
- Tiene un diccionario de datos actualizado que contiene nombres a nivel de campo, descripciones y clasificaciones - Tiene una matriz de seguridad actualizada que identifica qué usuarios tienen acceso a qué datos - Tiene documentación de diseño actualizada, incluyendo estándares y diagramas para cualquier automatización creada para tratar requisitos reguladores |
En su documentación:
- No existe o no se ha actualizado un diccionario de datos - La documentación de colaboración y visibilidad no existe o no se ha mantenido actualizada Estándares de diseño, diagramas y documentación para automatizaciones que abordan requisitos reguladores no existe o no se ha mantenido actualizado |
| En su organización:
- Todos los objetos y campos que contienen información confidencial o están sujetos a leyes de privacidad de datos tienen Categorización de cumplimiento, Propietario de datos, Nivel de confidencialidad de datos y Uso de campo configurados |
En su organización:
- A los objetos y campos que contienen información confidencial o están sujetos a leyes de privacidad de datos les falta configuración para Categorización de cumplimiento, Propietario de datos, Nivel de sensibilidad de datos o Uso de campo |
|
| Localización | En su documentación:
- Tiene una estrategia de organización que describe dónde se almacenarán y mantendrán los datos para cumplir con todos los requisitos de residencia de datos aplicables - Tiene una estrategia de integración que describe escenarios y procesos aceptables para replicar datos a través de fronteras - Tiene una estrategia de análisis que describe el nivel de granularidad que los informes y paneles pueden contener a nivel regional, nacional y global |
En su documentación:
- No tiene una estrategia de organización o su estrategia de organización no trata los requisitos de residencia y localización de datos - No tiene una estrategia de integración o su estrategia de integración no aborda los requisitos de residencia y localización de datos - No tiene una estrategia de análisis o su estrategia de análisis no trata los requisitos de residencia y localización de datos |
En contextos comerciales, las normas éticas son las directrices para el modo en que las empresas y los individuos se comportan desde un punto de vista moral o basado en valores. En Salesforce, nuestros valores principales guían todo lo que hacemos como empresa y como empleados. También tenemos un equipo de políticas de uso ético que ayuda a garantizar que los clientes están utilizando nuestro software de forma ética. Nuestra Política de uso aceptable (AUP) y Política de uso aceptable de IA son una extensión de nuestros valores principales y ayuda a guiar nuestra toma de decisiones si surgen preguntas acerca del uso.
Su organización puede tener un conjunto adicional de políticas que se extienden más allá del simple cumplimiento de las leyes locales. Estas políticas pueden adoptar varias formas, que van desde la adhesión a las leyes de otras regiones, la negativa a hacer negocios con ciertas organizaciones o mercados o la supervisión de interacciones empleado-cliente para evitar la discriminación o comportamientos sesgados. Para mantener estas políticas, es posible que tenga que actualizar sus estándares de diseño o configuración del sistema como lo haría para la adhesión legal.
Para fomentar una mayor adhesión a estándares éticos en sus soluciones de Salesforce, alinee con las políticas de la empresa y evalúe su uso de inteligencia artificial.
Las políticas de la empresa son directrices que definen cómo deben operar varios aspectos del negocio (incluyendo personas, procesos y tecnología). Los clientes prefieren hacer negocios con organizaciones de su Trust. La mayoría de las políticas de la empresa están diseñadas para reflejar este principio. Customer Trust se erosionará rápidamente si sus sistemas crean experiencias de usuario que no se alinean con sus políticas establecidas.
Las políticas eficaces surgen naturalmente de una cultura ética. Cada empleado, desde la ingeniería y el diseño hasta la ciencia de datos, el marketing y las ventas, debe recibir formación sobre su responsabilidad de uso ético. En una cultura de este tipo, los empleados ven estructuras de incentivos claras para recompensar el comportamiento ético y consecuencias claras y coherentes para el comportamiento no ético.
Considere lo siguiente para asegurarse de que las políticas de su organización se reflejan en sus diseños:
- Tenga en cuenta las consecuencias no deseadas. Como arquitecto, es su responsabilidad anticipar las posibles repercusiones de sus soluciones y cómo se utilizarán. No caiga en la trampa de solo considerar o probar rutas felices. En su lugar, aplique su experiencia en la prueba de casos extremos y la evaluación de compensaciones para considerar minuciosamente las implicaciones éticas de sus soluciones. Piense en todas las personas que se verán afectadas por el producto, especialmente aquellas que están subrepresentadas, marginadas o vulnerables. Evalúe la multitud de formas en que alguien o algo podría interactuar con su solución y crear consecuencias no deseadas. Utilice el Kit de herramientas Construir con intención para diseñar teniendo en cuenta la inclusión.
- Integre la ética en la política de uso aceptable de su empresa. Trabaje con su equipo legal o un tercero para incluir la ética en su política de uso aceptable para garantizar que el uso de sus soluciones se alinea con los valores de su empresa. Su documentación debe incluir información acerca de cuáles de los valores y políticas de su organización son compatibles con sus soluciones, ya sea desarrolladas con herramientas de código bajo o pro-código. Publique su política de uso aceptable para mostrar su compromiso con Trust con sus empleados y clientes.
- Utilice lenguaje inclusivo. Comprenda las diferentes formas en que las personas experimentan su solución y refine el lenguaje en su interfaz de usuario, código y documentación para reflejar con mayor precisión la inclusión. Comience identificando y eliminando el lenguaje exclusivo primero y luego comprometiéndose a comprender los tipos de hábitos o prácticas que pueden llevar a la exclusión.
La lista de patrones y antipatrones a continuación muestra el aspecto adecuado (y deficiente) de la adhesión a las políticas de la empresa en una solución de Salesforce. Utilice estos para validar sus diseños antes de crear o identificar áreas en su sistema que necesitan ser refactorizadas.
Para obtener más información acerca de las herramientas de Salesforce para alinear diseños con políticas de la empresa, consulte Herramientas relevantes para cumplir.
La inteligencia artificial utiliza sistemas computacionales para realizar tareas que normalmente requieren inteligencia humana, como razonamiento, percepción y toma de decisiones. Las funciones de IA de la plataforma Salesforce abarcan tecnologías predictivas, generativas y agentes, ofreciendo un conjunto completo de herramientas para mejorar las experiencias de los clientes y las operaciones comerciales:
- La IA predictiva analiza datos históricos y pronostica resultados futuros, como tendencias de ventas o abandono de clientes. Einstein AI entrega estas perspectivas analizando patrones en sus datos para proporcionar recomendaciones y predecir resultados comerciales.
- La IA generativa se centra en la creación de nuevo contenido aprovechando modelos de idiomas de gran tamaño. Einstein GPT es un componente principal que funciona con sus datos de CRM para generar contenido personalizado como correos electrónicos, respuestas de chat y comunicaciones de clientes.
- La IA genética lleva la IA un paso más allá al permitir a los agentes razonar y actuar de forma autónoma para alcanzar un objetivo específico. Agentforce es la plataforma para crear estos agentes inteligentes, que pueden automatizar procesos comerciales complejos como la resolución de casos de clientes o la optimización de campañas de marketing. Estos agentes pueden interactuar con datos en tiempo real a través de Data 360 y aprovechar flujos de trabajo y API existentes. Todas estas funciones de IA están protegidas por la capa Einstein Trust, que garantiza un uso ético.
La mayoría de los algoritmos principales de IA de Einstein no son configurables, pero para algunas funciones, los clientes pueden ajustar los modelos utilizando sus propios datos como se indica en la documentación. Además, puede fundamentar modelos de IA en su propio CRM, artículos de la base de Knowledge y otros documentos a través de Fundamentación aumentada de recuperación (RAG) para hacer que los resultados sean aún más precisos para su organización, clientes y casos de uso. Sin embargo, si sus datos subyacentes están sesgados o sesgados, sus salidas también pueden volverse sesgadas e imprecisas. Un ejemplo de sesgo es no incluir miembros de una raza, género o etnia determinados en su lista de contactos aunque su base de clientes sea diversa e incluya miembros de ese grupo. Consulte el módulo Creación responsable de IA de Salesforce Trailhead, Comprender IA agente de confianza Trailhead, Modelo de madurez ética de IA, Principios IA de confianza de Salesforce, Directrices de IA generativa responsable y Directrices de IA agente responsable para obtener más información.
No tener en cuenta las leyes aplicables y los propios estándares éticos de su empresa puede llevar a sesgos dentro de su IA, dando como resultado demandas, pérdida de ingresos, problemas de Customer Trust y daños a la imagen pública de su empresa.
Esto es lo que debe tener en cuenta para el uso responsable y ético de la IA:
- Examine sus conjuntos de datos y documentos. Asegúrese de que sus conjuntos de datos son representativos de todas las personas a las que afectará su funcionalidad de IA. Esto puede requerir investigación de usuario para comprender quiénes son y confirmar que sus datos los representan con precisión a todos para mitigar cualquier sesgo potencial. También es importante revisar los datos de CRM, los artículos Knowledge y cualquier otra documentación en la que fundamente sus modelos para garantizar que están actualizados, son precisos y completos. Fundamentar sus modelos en cargas de datos no es útil y puede dar como resultado alucinaciones si esos datos son antiguos, contradictorios o incompletos.
- Mantén a un humano al timón. No desea que los humanos intervengan en cada interacción de IA individual, sino que potencie a sus empleados para centrarse en los elementos de alto juicio que más necesitan su atención. Pruebe sus sistemas de IA hasta que esté seguro de que pueden asumir más responsabilidad y supervisar los resultados para garantizar que continúan funcionando con precisión y eficacia. Asegúrese de que sus sistemas o agentes de IA reciben instrucciones de distribuirse a un humano para casos de uso de alto riesgo y cuando el nivel de confianza de la IA es bajo.
- Priorice la seguridad de los resultados y salidas de su modelo. Realice evaluaciones de sesgo, explicabilidad y solidez, así como equipo ético rojo. Dé prioridad a la protección de la privacidad a través de respuestas y acciones de agentes para cualquier información de identificación personal (PII) presente en los datos utilizados para la formación y cree barandillas para evitar daños adicionales. Si detecta resultados dañinos al realizar pruebas, agregue instrucciones a las solicitudes del sistema y vuelva a realizar pruebas. También es posible que necesite mejorar la calidad o representatividad de los datos que está utilizando para Generación aumentada de recuperación (RAG).
- Prepárese para regulaciones. Además de las preocupaciones éticas con la IA, muchos gobiernos han aprobado o están aprobando legislación para regular el uso de la IA por organizaciones que operan dentro de sus jurisdicciones. Esta legislación puede incluir el requisito de publicar tarjetas modelo que describen cómo se creó y funciona una solución de IA. Antes de implementar una solución basada en inteligencia artificial, tenga en cuenta qué tipo de función relacionada con la IA es o no aceptable en las regiones donde se utilizarán sus sistemas y realice cualquier ajuste necesario en su estrategia. Es posible que tenga que desactivar ciertas funciones en algunas regiones para cumplir con las leyes locales; en caso afirmativo, asegúrese de que sus sistemas pueden seguir funcionando sin esas funciones. Muchas jurisdicciones también requieren transparencia cuando los clientes o usuarios finales están interactuando con sistemas de IA.
- Supervise los modelos de IA de su organización. Los usuarios afectados deben saber cuándo se utilizó una IA y tener la oportunidad de informar fácilmente sobre daños y solicitar reparación. Es importante tener en cuenta que la creación de informes por sí sola puede no ser suficiente para determinar si su función de IA está causando daños a los usuarios. Supervise continuamente sus modelos en busca de desviación de datos, cambios en puntuaciones de equidad/sesgo, precisión y robustez. Asegúrese de tener planes establecidos para gestionar alertas de calidad y responder rápidamente cuando se identifiquen impactos negativos.
La lista de patrones y antipatrones a continuación muestra el aspecto adecuado (y deficiente) de la IA en una solución de Salesforce. Utilice estos para validar sus diseños antes de crear o identificar áreas de su sistema que necesitan ser refactorizadas.
Para obtener más información acerca de las herramientas de Salesforce para implementar políticas de IA más éticas, consulte Herramientas relevantes para cumplir.
La siguiente tabla muestra una selección de patrones para buscar (o crear) en su organización y antipatrones para evitar o dirigir para su solución.
✨ Descubra más patrones para estándares éticos en el Explorador de patrones y antipatrón.
| Patrones | Antipatrones | |
|---|---|---|
| Pólizas de empresa | En sus estándares de diseño:
- Los estándares incluyen directrices claras para las áreas afectadas por las políticas de la empresa |
En sus estándares de diseño:
- Los estándares de diseño no existen o no proporcionan directrices claras acerca de áreas que están sujetas a políticas de la empresa |
| En su documentación:
- La documentación para la configuración y personalizaciones incluye referencias a valores de empresa admitidos |
En su documentación:
- La documentación para la configuración y personalizaciones no hace referencia a valores o políticas de la empresa |
|
| En su organización:
- Todos los objetos y campos sujetos al cumplimiento relacionado con la política de la empresa tienen Categorización de cumplimiento, Propietario de datos, Nivel de confidencialidad de datos y Uso de campo configurados |
En su organización:
- A los objetos y que están sujetos al cumplimiento relacionado con la política de la empresa les falta configuración para Categorización de cumplimiento, Propietario de datos, Nivel de confidencialidad de datos o Uso de campo |
|
| Inteligencia artificial | En sus estándares de diseño:
- Las políticas y los casos de uso aprobados para aplicaciones de IA son claros y fáciles de encontrar Asegúrese de que los datos y documentos utilizados para RAG son representativos, completos, precisos y actualizados. Busque sesgos, contenido tóxico y otro contenido dañino que podría estar en sus conjuntos de datos o documentación - Las respuestas generativas siempre identifican orígenes de datos utilizados por modelos de IA - Los conjuntos de datos que se pueden/no se pueden utilizar para la ingeniería de solicitudes se han documentado - Los bots y las respuestas de IA generativa están claramente identificados para los usuarios - Estándares para cuándo y cómo utilizar renuncias de responsabilidad para la IA generativa están claramente definidos - Existen requisitos claros sobre cómo documentar puntos de implicación humana en diseños de soluciones de IA - Existen estándares para documentar rutas de comentarios directos e indirectos en diseños de soluciones de IA - Los puntos en los que se debe identificar la IA para un usuario están claramente definidos - Mantener a un humano al timón, especialmente en casos de uso regulados o de alto riesgo |
En sus estándares de diseño:
- Los estándares de diseño no existen o no incluyen políticas claras y casos de uso aprobados para aplicaciones de IA - Las respuestas generativas no identifican orígenes de datos utilizados por modelos de IA - Los conjuntos de datos utilizados para la ingeniería de solicitudes no están documentados - Los bots y las respuestas de IA generativa no se identifican para los usuarios - Faltan renuncias de responsabilidad respecto a respuestas generativas - No existen requisitos para documentar puntos de implicación humana en diseños de soluciones de IA - No existen estándares para documentar rutas de comentarios directos e indirectos para diseños de soluciones de IA - Los estándares de diseño no indican los puntos en los que se debe identificar la IA a los usuarios |
| En su documentación:
- La documentación para la configuración y personalizaciones que implican funciones de IA contiene una descripción minuciosa de toda la lógica del proceso y se almacena en una ubicación central accesible para equipos legales o auditores - Los modelos que cree o aporte a Salesforce están claramente documentados, incluyendo cualquier segmento de datos aplicable - La lógica de conversación y las conversaciones de agentes están minuciosamente documentadas - Los procesos están establecidos para supervisar los modelos de IA de su organización para la desviación de datos, cambios en puntuaciones de equidad y sesgo, precisión y robustez - Las descripciones se mantienen para los datos de entrenamiento, evaluación y prueba utilizados para todos los procesos de IA - Las descripciones se mantienen para cualquier limpieza de datos relacionada con la IA junto con pruebas de sesgo, resultados asociados y puntuaciones de rendimiento/precisión (por ejemplo, puntuaciones F1) |
En su documentación:
- Falta documentación para la configuración y personalizaciones que implican funciones de IA, está incompleta o almacenada en una ubicación inaccesible - Los modelos o sistemas de IA se implementan en su organización sin documentación de sus modelos - Los agentes se implementan en su organización sin documentación de mensajes y flujo de conversación - Los procesos de supervisión de IA no existen o no están documentados - La información sobre los datos de entrenamiento, evaluación y pruebas utilizados para todos los procesos de IA no está clara o no está disponible - La información sobre la limpieza de datos relacionada con la IA, las pruebas de sesgo y los resultados no está clara o no está disponible |
La accesibilidad en tecnología hace referencia a la capacidad de uso de sistemas o soluciones para personas con capacidades diferentes. El diseño de sistemas que funcionen para todos los usuarios, independientemente de su capacidad, es un mandato legal en algunas ubicaciones e industrias. Más allá de los requisitos legales, la creación de sistemas accesibles ayuda su organización a fomentar y mejorar Trust con sus partes interesadas. Para aplicaciones de cara al cliente, esto puede incluso aumentar los ingresos ya que los clientes pueden optar por utilizar sus sistemas en lugar de alternativas menos accesibles.
Salesforce publica Informes de conformidad de accesibilidad (ACR), que son documentos estándar del sector que detallan cómo cumple nuestro software con los estándares de accesibilidad. La mayoría de nuestros controles basados en la interfaz de usuario, incluyendo componentes web Lightning y plantillas de Experience Cloud, están diseñados para cumplir estos estándares. Aunque nuestras funciones de accesibilidad de línea base pueden ser suficientes para muchos negocios, es importante revisar nuestros ACR y publicar notas antes de iniciar cualquier proyecto. Esto le ayudará a identificar y documentar cualquier requisito de accesibilidad adicional que se extienda más allá de nuestros estándares, dependiendo del enfoque de salida al mercado de su producto o servicio.
Puede mejorar la accesibilidad de sus sistemas centrándose en dos áreas clave: la entrada de datos y la navegación.
Las actividades de entrada de datos se producen cada vez que un usuario necesita introducir información en un campo, formulario u otra parte de una interfaz de usuario. Aunque los teclados y los ratones son los métodos de entrada más comunes, algunos usuarios pueden depender de voz en texto o dispositivos similares. Además, sus usuarios pueden comunicarse en diferentes idiomas.
Las soluciones no diseñadas pensando en la accesibilidad pueden excluir a personas con ciertas discapacidades de interactuar con ellas.
Tenga en cuenta lo siguiente cuando diseñe para accesibilidad:
- El idioma preferido por sus usuarios. Dependiendo de dónde opera su negocio, puede decidir establecer un idioma estándar único para sus sistemas o puede que desee ofrecer funciones en varios idiomas. Si muestra texto en varios idiomas, sus estándares de diseño deben incluir una lista de etiquetas de campo y otros elementos de la interfaz de usuario (como notificaciones y mensajes de error) que requieren traducción. Involucre a un hablante nativo para revisar las traducciones para su precisión y significado. Utilice las funciones de traducción de Salesforce para traducciones de datos y metadatos en tiempo real, y pruebe minuciosamente todas las funciones en varios idiomas.
- Los tipos de dispositivos de entrada que se utilizarán. Enumere cualquier herramienta que se pueda utilizar para la entrada de datos más allá de un teclado y ratón estándar en sus estándares de diseño. Incluya pruebas de accesibilidad en sus planes de prueba y asegúrese de que todas las entradas se prueban con múltiples tipos de dispositivos de entrada.
- La capacidad de uso de sus formularios. Asegúrese de que sus formularios incluyen etiquetas visibles, proporcionan mensajes de error útiles, guían al usuario hacia la cumplimentación, informan al usuario de su progreso y le permiten revisar, confirmar y modificar sus entradas.
La lista de patrones y antipatrones a continuación muestra el aspecto de la entrada de datos cuando se diseña correctamente (y mal) para la accesibilidad en una solución de Salesforce. Utilice estos para validar sus diseños antes de crear o identificar áreas en su sistema que necesitan ser refactorizadas.
Para obtener más información acerca de las herramientas de Salesforce para crear una entrada de datos más accesible, consulte Herramientas relevantes para cumplir.
La navegación implica que los usuarios muevan el enfoque entre pantallas y entre campos dentro de una pantalla. Es posible que los usuarios necesiten navegar por los diversos elementos de la interfaz de usuario en su sistema de varias formas, incluyendo a través de clics y pulsaciones de teclas, mientras se basan en su vista, oído y tacto. Asegúrese de que sus estándares de diseño incluyen una lista de dispositivos de navegación que planea admitir. Los equipos de implementación deben consultar esta lista cuando realicen pruebas para asegurarse de que se tienen en cuenta todas las posibilidades de navegación.
Tenga en cuenta las siguientes preguntas (y sus respuestas) cuando diseñe una navegación accesible:
- ¿Cómo navegarán los usuarios por su solución? Enumere cualquier dispositivo que se pueda utilizar para la navegación más allá de un teclado y ratón estándar en sus estándares de diseño.
- ¿Es coherente su navegación? Establezca estándares de diseño para controles de navegación para garantizar la coherencia en todo su sistema. Las rutas de navegación deben ser similares en todo su sistema. La navegación incoherente, como un botón azul “Siguiente” en la parte inferior derecha de una pantalla y un botón verde “Siguiente” en el centro de la siguiente, podría ser una molestia leve para algunos usuarios, pero puede hacer que la aplicación no sea utilizable para aquellos con discapacidades.
- ¿Sus pruebas tienen en cuenta la accesibilidad? Incluya pruebas de accesibilidad en sus planes de prueba y asegúrese de que todos los flujos de navegación se prueban con múltiples tipos de dispositivos de entrada.
- ¿Es el enfoque del teclado visible de forma coherente? Muestre siempre visualmente el estado actual del enfoque del teclado para ayudar a los usuarios que dependen de un teclado para navegar.
- ¿Su navegación depende del color? Evite utilizar solo el color para presentar información o solicitar una acción. Siga las Directrices de accesibilidad de contenido web (WCAG) 2.0 para un uso adecuado del color para transmitir significado y aplicar el nivel de contraste correcto.
- ¿Se han revisado sus diseños? Realice revisiones periódicas para garantizar que su interfaz de usuario es coherente y fácil de comprender.
La lista de patrones y antipatrones a continuación muestra el aspecto de la navegación cuando se diseña correctamente (y mal) para la accesibilidad en una solución de Salesforce. Utilice estos para validar sus diseños antes de crear o identificar áreas de su sistema que necesitan ser refactorizadas.
Para obtener más información acerca de las herramientas de Salesforce para crear una navegación más accesible, consulte Herramientas relevantes para cumplir.
La siguiente tabla muestra una selección de patrones para buscar (o crear) en su organización y antipatrones para evitar o dirigir para su solución.
✨ Descubra más patrones de accesibilidad en el Explorador de patrones y antipatrones.
| Patrones | Antipatrones | |
|---|---|---|
| Entrada de datos | En sus estándares de diseño:
- Se enumeran todos los dispositivos que se pueden utilizar para la entrada de datos más allá de un teclado y ratón estándar - Se enumeran los valores de texto y sus traducciones a todos los idiomas admitidos |
En sus estándares de diseño:
- Solo se enumeran algunos, o ninguno, de los dispositivos que se pueden utilizar para la entrada de datos más allá de un teclado y ratón estándar - Los idiomas admitidos se enumeran junto con elementos de la interfaz de usuario para traducir |
| En sus planes de prueba:
- Los pasos de prueba incluyen el uso de múltiples tipos de dispositivos de entrada para introducir datos - Los pasos de prueba incluyen entrada de datos en múltiples idiomas |
En sus planes de prueba:
- Las pruebas de accesibilidad no están incluidas o las pruebas de entrada de datos accesibles se realizan ad hoc |
|
| En su organización:
- Las traducciones para idiomas compatibles se almacenan en Sistema de traducción |
En su organización:
- Las traducciones se almacenan en etiquetas personalizadas |
|
| Navegación | En sus estándares de diseño:
- Todos los dispositivos que se pueden utilizar para la navegación (no solo teclado y ratón estándar) están claramente enumerados - Los estándares de interfaz de usuario/UX especifican el tipo y el estilo de todos los controles de navegación - Los tipos de señales visuales aprobadas para transmitir significado o estado están claramente enumerados, y el color no es una señal principal |
En sus estándares de diseño:
- Los estándares de diseño no existen o no tienen en cuenta los requisitos de accesibilidad para controles de navegación - Los estándares de interfaz de usuario/UX para la navegación son incoherentes - Las indicaciones visuales de significado o estado se basan en el color o no hay listas claras de indicaciones visuales para los constructores |
| En sus planes de prueba:
- Los pasos de prueba incluyen el uso de múltiples tipos de dispositivos de entrada para navegar - Los planes de prueba incluyen el uso de pruebas de interfaz de usuario/UX para garantizar rutas de navegación coherentes |
En sus planes de prueba:
- Las pruebas de accesibilidad no están incluidas o las pruebas de navegación accesible se realizan ad hoc |
| Herramienta | Descripción | Adhesión legal | Estándares éticos | Accesibilidad |
|---|---|---|---|---|
| Agenteforce Analytics | Obtenga perspectivas sobre el rendimiento de sus agentes | X | ||
| Centro de pruebas de Agentforce | Ejecute hasta 10 trabajos de prueba con hasta 1.000 casos de prueba por prueba, de modo que pueda crear y evaluar rápidamente múltiples escenarios. | X | ||
| Citas | Las citas le ayudan a identificar posibles imprecisiones o alucinaciones en las respuestas generadas, aumentando su confianza en el uso de herramientas de IA. | X | ||
| API de consentimiento | Realizar un seguimiento de preferencias de clientes para consentimiento | X | ||
| Transmisión de evento de consentimiento | Enviar notificaciones de cambios en el consentimiento o la información de contacto | X | ||
| Objetos de gestión de consentimiento | Gestionar la privacidad del cliente y las preferencias de consentimiento | X | ||
| Acceso y portabilidad de datos | Exportar datos relacionados con el cliente previa solicitud | X | ||
| Clasificación de datos | Registrar información de auditoría y cumplimiento de claves para campos de objeto | X | ||
| Informes de Data 360 | Supervisar el cumplimiento de instrucciones de agentes | X | ||
| Eliminación de datos | Eliminar datos para cumplir con la normativa legal | X | ||
| Preferencias de privacidad de datos | Almacenar preferencias de privacidad de datos de clientes | X | X | |
| Traducción de datos | Traducir datos presentados a usuarios | X | X | |
| Detección de datos | Alinear categorías y niveles de sensibilidad con datos reales | X | ||
| Explorador de Data 360 | Gestionar permisos de objeto y proyecto para científicos de datos | X | X | |
| Einstein Data Prism | Una solución de fundamentación para aplicaciones de IA generativa dentro de Salesforce, mejorando la precisión de soluciones de IA que utilizan sus funciones de fundamentación | X | ||
| Capa Einstein Trust | Un conjunto de funciones, procesos y políticas diseñados para proteger la privacidad de los datos, mejorar la precisión de la IA y promover el uso responsable de la IA en todo el ecosistema de Salesforce | X | ||
| Registros de eventos mejorados | Los registros de eventos capturan los eventos y mensajes de usuario en una sesión de agente para revisar Adhesión de instrucciones, probar y solucionar problemas de su agente. | X | ||
| Files Connect | Examinar, buscar y compartir archivos externos desde Salesforce | X | ||
| Hyperforce | Cumplir con los requisitos de almacenamiento de datos locales | X | ||
| Traducción de metadatos | Traducir idiomas para traducir aplicaciones | X | X | |
| API de portabilidad | Compilar datos de clientes identificados en su política de portabilidad | X | X | |
| Centro de preferencias | Recopilar preferencias de comunicación de clientes | X | X | |
| Centro de privacidad | Satisfacer solicitudes de clientes y leyes de privacidad de datos | X | X | |
| Restricción del procesamiento de datos | Restringir métodos de procesamiento de datos personales | X | X | |
| Derecho al olvido | Eliminar datos de clientes individuales bajo petición | X | ||
| Archivos de Salesforce | Compartir y almacenar archivos de forma privada | X | ||
| Centro de seguridad | Ver parámetros de seguridad y privacidad entre múltiples organizaciones | X | ||
| Shield Platform Encryption | Cifrar datos en reposo y en tránsito | X | ||
| Traducción Workbench | Mantener valores traducidos para etiquetas de metadatos y datos | X | X |
| Recurso | Descripción | Adhesión legal | Estándares éticos | Accesibilidad |
|---|---|---|---|---|
| 5 principios para un diseño de IA responsable | Diseñar funciones de Inteligencia artificial (IA) de forma ética | X | ||
| Conceptos básicos de accesibilidad (Trailhead) | Obtenga información acerca de por qué la accesibilidad es importante | X | ||
| Informes de conformidad de accesibilidad (ACR) | Comprender cómo Salesforce cumple los estándares de accesibilidad | X | ||
| Descripción general de accesibilidad | Comprender la accesibilidad dentro de Salesforce Lightning | X | ||
| Modelo de madurez de ética de IA | Desarrollar una hoja de ruta para poner en marcha principios éticos | X | ||
| AI Red Teaming: Pruebas para Trust | Averigüe cómo los “hackers éticos” de Salesforce desarrollan la IA responsable a través del equipo rojo. | X | ||
| Automatización del adversario: Diseño de un marco de trabajo escalable para la IA de Red Teaming | Obtenga información acerca de cómo Salesforce automatiza la generación de solicitudes adversarias y la validación de respuestas, fuzzai ayuda a proteger interacciones de IA mientras reduce la exposición humana a contenido dañino. | X | ||
| Prácticas recomendadas para el diseño de conversaciones | Seguir prácticas recomendadas al diseñar chatbots | X | X | |
| Prácticas recomendadas para el diseño sostenible (Trailhead) | Incorporar sostenibilidad a sus diseños | X | ||
| Gestión de consentimiento | Realizar un seguimiento y cumplir las solicitudes de consentimiento y anulación de suscripción | X | ||
| Data Policies for Einstein | Controlar el uso de datos en funciones Einstein | X | X | |
| Plantilla Estándares de diseño | Crear estándares de diseño para su organización | X | X | X |
| Las prácticas de hackeo ético resultan exitosas en la creación de productos IA de confianza | Aprenda cómo Salesforce emplea prácticas de equipo rojo para mejorar la seguridad de nuestros productos de IA mediante pruebas de uso malicioso, ataques de integridad intencionados, uso indebido benigno e identificación de problemas de IA responsables. | X | ||
| Liderazgo ético y negocios | Perspectivas sobre tecnología, igualdad y ética | X | ||
| Política de uso ético | Explore la política de Salesforce sobre el uso ético de nuestros productos y servicios | X | ||
| Ética por diseño (Trailhead) | Incorporar el diseño ético al desarrollo tecnológico | X | ||
| Explorar la cultura y los valores de Salesforce (Trailhead) | Explorar los valores principales de Salesforce | X | X | |
| Seguir directrices de diseño móvil accesibles | Siga las prácticas recomendadas para que sus diseños sean accesibles | X | X | |
| Primeros pasos con la accesibilidad web (Trailhead) | Aprenda los conceptos básicos de cómo hacer accesibles sitios web y aplicaciones | X | ||
| Cómo crea Salesforce infraestructura de equipos rojos reproducible | Cuatro componentes que recomendamos al diseñar, implementar y ejecutar pruebas adversarias | X | ||
| Cómo ejecutar un taller de escaneo de consecuencias | Considere todos los resultados posibles mientras innova | X | ||
| Implementación de la protección y privacidad de los datos | Evaluar los requisitos de privacidad y protección de datos | X | ||
| Diseño inclusivo (Trailhead) | Fomentar la innovación con principios de diseño inclusivo | X | X | |
| Plantilla de hoja de cálculo de KPI | Establecer indicadores clave de rendimiento (KPI) para su organización | X | ||
| Información legal | Explorar el centro de información legal de Salesforce | X | ||
| Módulo de consentimiento de cookies LWC | Controlar el acceso de cookies de usuario en sitios de Experience Cloud | X | X | |
| Descripción general de privacidad | Obtenga información acerca de la privacidad de datos por región y sector | X | ||
| Promover agentes responsables y éticos | Aprenda cómo implementar estrategias éticas de creación de equipos rojos y pruebas y desarrollar principios y estándares de orientación para su organización. | X | ||
| Directrices de IA agente responsable | X | |||
| Creación responsable del módulo de IA Trailhead | Aprenda cómo eliminar sesgos de sus datos y algoritmos para crear sistemas de IA éticos en su empresa. | X | ||
| Directrices de IA generativa responsables | Nos hemos basado en nuestros Principios IA de confianza con un nuevo conjunto de directrices centradas en el desarrollo y la aplicación responsables de la IA generativa. | X | ||
| Certificaciones de cumplimiento de Salesforce | Revisar las certificaciones y certificados de cumplimiento de Salesforce | X | ||
| Diseño sostenible (Trailhead) | Fortalecer la relación entre empresa y sociedad | X | ||
| Pruebas de accesibilidad web (Trailhead) | Utilizar pruebas automatizadas y manuales para garantizar la accesibilidad | X | ||
| IA agente de confianza | Obtenga información acerca de cómo Agentforce utiliza protecciones y principios de IA responsables para crear IA ética. | x |
Ayúdenos a mantener Salesforce Well-Architected relevante para usted; realice nuestra encuesta para proporcionar comentarios sobre este contenido y díganos qué le gustaría ver a continuación.