Los datos pueden ser sólo una materia prima. Pero la Inteligencia Artificial ha insuflado nueva vida a la forma en que esa materia prima se utiliza para añadir valor a las empresas sobre la base del procesamiento algorítmico. La ausencia de la agencia humana en este proceso significa que la confianza que normalmente depositaríamos en una persona a la que hemos entrevistado, contratado y con la que hemos establecido una relación se deposita ahora en las máquinas, los algoritmos y la calidad de los datos. No es de extrañar, pues, que la IA se considere culpable hasta que se demuestre su inocencia cuando se trata de convencer a los que necesitan confiar en las decisiones tomadas por la Inteligencia Artificial.
¿Su inteligencia ya es artificial?
Las ventajas de los datos y las soluciones basadas en la IA -mejorando la precisión, el rendimiento, la resistencia y la adaptación en tiempo real- son evidentes para la mayoría de las empresas basadas en la tecnología. Sin embargo, incluso si su negocio no depende directamente de la Inteligencia Artificial en la actualidad, es probable que algunas redes neuronales estén trabajando en el fondo de su actividad periférica. Otra posibilidad es que la IA forme parte de su futura propuesta de valor: o ya está influyendo directamente en el trabajo de los proveedores de servicios y socios. Razón de más para entender lo que significa crear una Inteligencia Artificial responsable y digna de confianza.
Construir la confianza en la IA a lo largo del tiempo
La confianza es uno de los factores que más definen las interacciones entre humanos, por lo que proponer que se confíe en las máquinas es una afirmación que no debe tomarse a la ligera. Compartimos una creciente dependencia de ellos para realizar tareas cruciales, y eso significa que aprender a confiar en los sistemas basados en la IA no es algo que las empresas puedan obviar a largo plazo.
Los Indicadores Clave de Rendimiento (KPI) en las empresas a menudo revelan cómo pasamos por alto los factores intangibles, como la confianza, la fiabilidad y la responsabilidad. Los resultados que impulsan a las empresas se siguen midiendo predominantemente en términos de productividad y producción. «¿Cómo podemos extraer más de este proceso?» o «¿Qué se puede hacer para mejorar la eficiencia?». – Estos son algunos de los principales parámetros que impulsan las decisiones empresariales. Aunque los factores relativos a la sostenibilidad son cada vez más importantes, ya sean medioambientales o relacionados con el abastecimiento y las condiciones de trabajo, estos factores siguen siendo con demasiada frecuencia una idea tardía, o están impulsados por factores externos, como las políticas, más que por intereses intrínsecos.
Sin embargo, a medida que la nueva tecnología se despliega a gran escala, y que la madurez del proyecto supondrá un número creciente de interesados – y consecuencias – las empresas se ven obligadas a reconsiderar el final del juego: «¿Se puede confiar en que nuestras máquinas no dañen el medio ambiente?» «¿Sabe cada usuario lo que hace el sistema?» «¿Cómo podemos garantizar la calidad de nuestros resultados?»
Al final, crear confianza no es simplemente una cuestión de confianza en la funcionalidad de un producto impulsado por la IA, sino que se trata de que ese producto ofrezca resultados que sean fiables y no supongan ningún riesgo para otros seres humanos que vayan a interactuar con él fuera de una relación de carácter comercial.
Cuatro principios primordiales, siete requisitos relevantes para crear confianza
A medida que la IA se amplía y se generaliza, se hace esencial la necesidad de informar sobre el uso continuado y el desarrollo ulterior de la IA con principios rectores y normas. Por ello, el debate en torno a la IA ética o incluso potencialmente sesgada ha acaparado mucha atención en los últimos años. Algunos agentes, como el Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial, de carácter independiente, o la Organización Internacional de Normalización (ISO), se han posicionado y han publicado varios documentos para abordar la cuestión.
Los siguientes cuatro principios rectores derivados del trabajo de estas organizaciones deberían garantizarse en el empleo de la IA:
- Respeto a la autonomía humana – Creación de una inteligencia artificial basada en un enfoque centrado en el ser humano
- Prevención de daños – Garantizar que no se produzcan daños en el ámbito de las operaciones y en su entorno (es decir, los animales o el medio ambiente)
- Equidad – Tratar a todos los usuarios de la misma manera al crear una red para todos
- Explicabilidad : ser transparente y accesible significa que a los usuarios les resultará fácil entender las intenciones y el propósito de un sistema
Además, hay siete requisitos que deben tenerse en cuenta a la hora de llevar a cabo un proyecto de IA responsable.
- Agencia humana y supervisión – Ser consciente y comunicar lo que un sistema está haciendo y lo que no está haciendo (sólo apoyo, por ejemplo)
- Robustez y seguridad técnica – Construir un sistema robusto que garantice resultados estables y ser consciente de las posibles manipulaciones externas
- Privacidad y gobernanza de datos – Anonimización automática de datos
- Transparencia – Hacer que los resultados estén disponibles de forma clara
- Diversidad, no discriminación y equidad – Crear un sistema sin prejuicios
- Bienestar social y medioambiental – Garantizar un sistema en el que todos los seres vivos sean tratados con responsabilidad
- Responsabilidad – Señalar todas las cuestiones legales de forma clara y comprensible
¿Qué gana usted al considerar la fiabilidad?
El cambio puede parecer que conlleva un riesgo inherente. Como ejemplo, consideremos los sistemas de apoyo para las inspecciones estructurales. Dada la rigidez de las normativas legales y el margen que permiten con respecto a los protocolos de seguridad, puede resultar difícil establecer nuevos métodos y prácticas como el empleo de la inspección visual basada en la IA. Tanto si se trabaja en un nuevo campo como si se optimiza un sistema ya existente, garantizar que todas las partes interesadas participen y tengan el mismo acceso a la información, y que estén conectadas a su sistema en igualdad de condiciones, significará sentar las bases para aplicar el cambio con éxito: un caso de uso a la vez.
La implantación y el impacto de la inteligencia artificial siguen siendo objeto de considerable debate. Actuar con responsabilidad – y de acuerdo con las directrices anteriores – a todos los niveles, ayudará a eliminar la incertidumbre y a garantizar el éxito de la implantación de su sistema. Generar confianza puede cambiar las reglas del juego. Mantener una relación honesta con todas las partes implicadas mejorará su credibilidad y llevará sus servicios al siguiente nivel, más eficiente – y también más digno de confianza.
IA en STRUCINSPECT
STRUCINSPECT se dedica a abordar el tema de la IA y la interacción humana en la inspección estructural de forma directa, como parte de un nuevo proyecto, financiado en parte por la iniciativa de Austria Wirtschaftsservice, AWS-Digitalization. Ampliando la red de IA existente, que trabaja para identificar automáticamente los daños críticos en los proyectos de ingeniería civil, esta iniciativa ayudará a liderar el camino hacia un servicio totalmente automatizado para las inspecciones estructurales.
Si está listo para empezar a interactuar y está buscando apoyo adicional para sus proyectos, STRUCINSPECT le mantendrá felizmente al día con ideas e información sobre temas relevantes para su negocio. O bien, hable con un experto hoy mismo para entender cómo las inspecciones digitales asistidas por IA pueden mejorar la gestión de sus activos de infraestructura.