NOVEDADES

Inteligencia artificial en las empresas: nuevos riesgos y cómo prepararse

Conoce los desafíos de utilizar IA y cómo proteger a tu organización.

Inteligencia artificial en las empresas: nuevos riesgos y cómo prepararse

Autor: Consejeros

Compartir:

La inteligencia artificial (IA) está transformando la manera en que trabajan las empresas. Desde la elaboración de informes y el análisis de información hasta la atención al cliente y la automatización de procesos, cada vez existen más herramientas capaces de agilizar tareas y mejorar la productividad.

Sin embargo, adoptar estas tecnologías también plantea nuevos desafíos. ¿Qué sucede si una herramienta de IA proporciona información incorrecta? ¿Quién responde si una decisión automatizada perjudica a un cliente? ¿Qué riesgos existen cuando los trabajadores ingresan información confidencial en estas plataformas?

El reto no es evitar la inteligencia artificial, sino aprovechar sus beneficios sin perder el control de los riesgos. Para lograrlo, las organizaciones necesitan comprender cómo utilizan estas herramientas, establecer medidas preventivas y revisar sus mecanismos de protección.

¿Por qué la inteligencia artificial representa un nuevo desafío empresarial?

A diferencia de otras herramientas digitales, algunos sistemas de inteligencia artificial pueden generar contenidos, realizar predicciones, recomendar decisiones o ejecutar tareas con distintos niveles de autonomía.

Estas capacidades ofrecen oportunidades para mejorar procesos, pero también pueden ocasionar errores difíciles de detectar cuando los resultados se aceptan sin una revisión adecuada.

Por ejemplo, una empresa podría utilizar IA para analizar información financiera, elaborar propuestas comerciales, procesar solicitudes o responder consultas de clientes. Si los resultados contienen errores y se utilizan sin validación, las consecuencias pueden extenderse más allá del área tecnológica.

Por eso, la gestión de la inteligencia artificial también debe involucrar a las áreas de gerencia, operaciones, legal, recursos humanos y gestión de riesgos, según el uso que se le dé dentro de la organización.

Cinco riesgos que las empresas deben conocer

1. Errores en la información y las decisiones

Los sistemas de IA generativa pueden producir respuestas aparentemente convincentes, pero incorrectas, incompletas o inventadas. Este fenómeno suele conocerse como "alucinación" de la inteligencia artificial.

Un error en una propuesta comercial, un reporte financiero o una recomendación técnica podría ocasionar pérdidas económicas, conflictos contractuales o decisiones equivocadas si la empresa utiliza esa información sin verificarla.

2. Exposición de información confidencial

Ingresar datos de clientes, trabajadores, contratos o estrategias comerciales en herramientas de IA sin evaluar previamente sus condiciones de uso puede generar riesgos de confidencialidad y protección de datos.

La gravedad depende, entre otros factores, del tipo de información, las condiciones del proveedor, los controles de acceso y la forma en que se procesan y conservan los datos.

3. Decisiones sesgadas o discriminatorias

Los sistemas de IA pueden reproducir errores o sesgos presentes en los datos utilizados para desarrollarlos o en sus métodos de evaluación.

Esto resulta especialmente delicado cuando se emplean para apoyar procesos de selección de personal, evaluaciones de personas o decisiones que afectan el acceso a determinados servicios.

4. Responsabilidad frente a clientes y terceros

Utilizar una herramienta de IA no elimina automáticamente las obligaciones legales o contractuales de una empresa.

Si una organización ofrece un servicio, emite información o toma decisiones apoyándose en sistemas automatizados, deberá evaluar las responsabilidades que puedan derivarse de errores, incumplimientos o daños, según las circunstancias y la legislación aplicable.

5. Dependencia de proveedores y procesos automatizados

Cuando una empresa incorpora IA en procesos importantes, también puede depender de la disponibilidad, precisión y condiciones de funcionamiento de sistemas proporcionados por terceros.

Una interrupción, modificación inesperada o funcionamiento incorrecto podría afectar las operaciones, especialmente si no existen procedimientos alternativos o supervisión adecuada.

¿Qué establece la normativa peruana sobre inteligencia artificial?

En Perú, la Ley N.° 31814 promueve el desarrollo y uso de inteligencia artificial en beneficio del desarrollo económico y social, priorizando a las personas y el respeto de sus derechos.

Su reglamento, aprobado mediante el Decreto Supremo N.° 115-2025-PCM, desarrolla disposiciones relacionadas con el uso seguro, responsable, ético y transparente de estos sistemas.

El marco contempla un enfoque basado en riesgos y disposiciones que varían según el tipo de sistema, su aplicación y el rol de quienes lo desarrollan o implementan.

Un aspecto especialmente importante es la protección de datos personales. El uso de IA debe respetar la Ley N.° 29733, Ley de Protección de Datos Personales, y su reglamento, aprobado por el Decreto Supremo N.° 016-2024-JUS.

Esto significa que incorporar inteligencia artificial a un proceso empresarial no exime del cumplimiento de las obligaciones existentes sobre el tratamiento de información personal.

Las empresas deben evaluar las disposiciones que les resulten aplicables de acuerdo con sus actividades, herramientas y riesgos específicos. No todas las obligaciones del reglamento corresponden por igual a cualquier organización que utilice IA.

¿Cómo puede una empresa reducir estos riesgos?

La prevención comienza por identificar dónde se está utilizando inteligencia artificial y qué consecuencias tendría un error en cada proceso.

Entre las medidas recomendables se encuentran:

  • Establecer una política interna: definir qué herramientas pueden utilizarse, para qué actividades y con qué restricciones.
  • Proteger la información sensible: evitar compartir datos personales o confidenciales sin autorización y sin evaluar las medidas de protección del servicio.
  • Mantener supervisión humana: verificar los resultados antes de utilizarlos en decisiones importantes o comunicaciones que puedan generar consecuencias.
  • Evaluar a los proveedores: revisar condiciones de contratación, tratamiento de información, responsabilidades y mecanismos de continuidad.
  • Capacitar a los equipos: enseñar a reconocer resultados incorrectos, sesgos y usos inapropiados de estas herramientas.
  • Preparar procedimientos de respuesta: definir cómo actuar si una herramienta ocasiona un error, afecta información o interrumpe una operación.

No todas las empresas necesitan los mismos controles. Una herramienta utilizada para organizar ideas representa una exposición distinta a un sistema que interviene directamente en decisiones financieras, laborales o contractuales.

¿Tu empresa sabe realmente cómo está utilizando la IA?

Antes de incorporar nuevas herramientas, conviene responder estas cinco preguntas:

  • 1. ¿Qué áreas y trabajadores utilizan inteligencia artificial en sus actividades?
  • 2. ¿Qué información se comparte con estas plataformas?
  • 3. ¿Quién revisa los resultados antes de tomar decisiones importantes?
  • 4. ¿Qué ocurriría si la herramienta genera un error o deja de funcionar?
  • 5. ¿La empresa ha revisado si sus seguros contemplan los riesgos asociados a estos usos?

Si estas preguntas no tienen respuestas claras, existe una oportunidad para fortalecer la gestión de riesgos antes de que ocurra un incidente.

¿Los riesgos relacionados con inteligencia artificial pueden estar cubiertos por un seguro?

Algunas consecuencias derivadas del uso empresarial de IA podrían relacionarse con coberturas de seguros de riesgos cibernéticos, responsabilidad civil profesional u otras modalidades de aseguramiento empresarial.

Por ejemplo, una reclamación por un error profesional, un incidente de seguridad de información o determinados gastos derivados de una interrupción operativa podrían requerir revisar distintas pólizas.

Sin embargo, no debe asumirse que una póliza tradicional cubre automáticamente cualquier perjuicio relacionado con inteligencia artificial.

La posibilidad de cobertura depende del riesgo asegurado, las circunstancias del evento, las definiciones contractuales, los límites, las exclusiones y las condiciones de cada seguro. Algunas pólizas también pueden establecer restricciones específicas relacionadas con el uso de estas tecnologías.

Por ello, es recomendable informar al corredor de seguros sobre los usos relevantes de IA dentro de la organización y revisar si el programa de seguros sigue siendo adecuado frente a las nuevas exposiciones.

Innovar también significa anticiparse a los riesgos

La inteligencia artificial ofrece oportunidades para mejorar la competitividad y productividad de las empresas. Pero sus beneficios deben acompañarse de una gestión responsable de los riesgos que puede generar.

Conocer las herramientas utilizadas, proteger la información, supervisar los procesos importantes y revisar las coberturas de seguros son pasos que ayudan a construir una adopción tecnológica más segura.

En Consejeros y Corredores de Seguros acompañamos a las organizaciones en la identificación de sus necesidades de protección, la evaluación de alternativas de aseguramiento y la comprensión de las coberturas que pueden responder ante diferentes contingencias empresariales.

Además, brindamos asesoría y acompañamiento durante la gestión de siniestros, de acuerdo con el alcance de nuestros servicios y las condiciones de cada póliza.

Conoce nuestras soluciones de seguros para empresas y recibe orientación especializada para proteger la continuidad de tu negocio.

Consejeros. A tu lado, de tu lado.

Compartir