La IA puede incluir o excluir según cómo se diseñe y supervise, de ahí la importancia del proceso. Para que una IA sea inclusiva, tiene que reducir barreras y no crearlas.
Cuando hablamos de inclusividad en la IA no solo nos referimos a tecnologías que ayuden a personas con discapacidad: también implica eliminar barreras de idioma, edad o de alfabetización digital.
¿Cómo ayuda la IA a la inclusión y accesibilidad?
Bien aplicada, la IA mejora la accesibilidad digital con soluciones muy concretas que encajan en procesos habituales:
- Procesadores de lenguaje y reconocedores de voz. Los procesadores mejoran la comprensión del lenguaje y los reconocedores de voz generan subtítulos y transcripciones para que el contenido sea accesible para personas con pérdida auditiva o para quienes hablen un idioma distinto, por ejemplo.
- Asistentes virtuales personales. Acompañan al usuario paso a paso en trámites, dan soporte, resuelven dudas en lenguaje natural y pueden ofrecer alternativas por texto o voz para facilitar que complete la tarea con autonomía.
- Reconocimiento por visión artificial. Ayuda a interpretar imágenes o vídeos para convertirlos en información accesible. Por ejemplo, puede describir capturas o documentos o detectar elementos en pantallas para guiar a usuarios con baja visión.
- Conversión de voz y texto. Permite dictar en lugar de escribir y escuchar en lugar de leer. Es muy útil en formularios, consultas internas o soporte cuando el usuario necesita usar el servicio en movimiento o tiene baja visión, por ejemplo.
- Traducción automática. Reduce barreras de idioma en atención al cliente, documentación, formación y comunicaciones internas. Permite ofrecer contenidos en varios idiomas con rapidez y mantener la coherencia de los términos.
¿Qué riesgos conlleva cometer errores a la hora de crear IA para la inclusión?
- Sesgos y discriminación en respuestas o decisiones. La IA puede penalizar a ciertos perfiles si los datos o las reglas reflejan desigualdades previas.
- Fallos con acentos, idiomas o variedades lingüísticas. Sistemas de voz o texto que no interpretan bien acentos, ruido, mezclas de idiomas o expresiones locales.
- Riesgo reputacional y pérdida de confianza. Un caso de posible exclusión o respuesta inapropiada de una marca que se haga visible puede afectar de forma negativa a su imagen.
- Posibles incumplimientos y mayor exposición legal. Si la IA forma parte de un servicio digital, la falta de accesibilidad y de controles de uso responsable puede aumentar el riesgo de no cumplir requisitos aplicables o de no poder justificar decisiones.
- No hay una alternativa de contacto humano. Si el proceso depende solo del asistente o del modelo y no hay opción de llamar por teléfono o mandar un email, por ejemplo, el usuario no puede finalizar la tarea. De ahí la importancia del enfoque Human in the Loop.
La IA inclusiva se consigue con criterios claros, pruebas con personas diversas y formación interna. Si quieres aterrizarlo en tus procesos, en Panel IALab te ayudamos con asesoramiento y consultoría IA.
