La dependencia de la inteligencia artificial (IA) se ha convertido en un riesgo potencial para las estructuras corporativas debido a que los modelos de lenguaje grandes (LLM) y su adopción han generado tanto problemas para los clientes como para la marca. Según una investigación de TrendAI, unidad de negocio enterprise de Trend Micro, los sistemas de IA pueden ofrecer respuestas distintas ante la misma consulta dependiendo del país, el idioma, el diseño del modelo o los controles aplicados, lo que ha producido preocupación en el negocio.
En aplicaciones como atención al cliente, soporte a la toma de decisiones o generación de contenidos corporativos, estas variaciones pueden comprometer la coherencia de la marca, entrar en conflicto con normativas locales y provocar consecuencias legales o reputacionales.
TrendAI detecta variaciones en más de 100 modelos de IA
Para analizar este comportamiento, TrendAI ha llevado a cabo miles de experimentos repetidos, a partir de más de 100 modelos de IA, con más de 800 indicaciones específicas diseñadas para evaluar el sesgo, la conciencia política y cultural, el comportamiento de geolocalización, las señales de soberanía de datos y las limitaciones contextuales. Con todo ello, se buscaba medir cómo cambian los resultados a lo largo del tiempo y en diferentes lugares, analizando más de 60 millones de tokens de entrada y más de 500 millones de tokens de salida.
Los resultados revelan que indicaciones idénticas pueden producir respuestas diferentes según la región y el modelo, e incluso variar en interacciones repetidas con el mismo sistema. En escenarios políticamente sensibles, los modelos mostraron claras diferencias de alineación regional. En otras pruebas, los modelos arrojaron resultados inconsistentes u obsoletos en áreas que requieren precisión, como cálculos financieros e información sensible al tiempo.
«Muchas compañías dan por hecho que la IA se comporta como el software tradicional, en el que una misma entrada produce siempre una misma salida», apunta Robert McArdle, director de Investigación en Ciberseguridad de TrendAI. «Nuestra investigación demuestra que esta suposición no es correcta. Los LLM pueden modificar sus respuestas en función de la región, el idioma y las barreras de protección, y esas respuestas pueden cambiar de una interacción a otra. Cuando los resultados de la IA se utilizan directamente en procesos con los clientes o en las decisiones empresariales, las organizaciones corren el riesgo de perder el control de la voz de la marca, la postura de cumplimiento normativo y la alineación cultural».
La IA: riesgos en el plano normativo
El estudio destaca que estos riesgos se intensifican en el caso de las organizaciones internacionales que implementan la IA a través de un único servicio impulsado por esta tecnología, que puede operar dentro de diferentes marcos legales, sensibilidades políticas y expectativas sociales. También plantea preocupaciones para la adopción en el sector público, donde los resultados generados por la IA pueden percibirse como orientación oficial y donde la dependencia de modelos no localizados puede introducir riesgos de soberanía y accesibilidad.
Archivado en:
