Propuesta de ley de IA de la UE: desafíos y oportunidades para las fintech

Por Martin van Oyen, Head of Legal en FINOM

La propuesta de ley sobre Inteligencia Artificial de la Unión Europea está destinada a remodelar el panorama de la regulación de esta tecnología, particularmente en el sector fintech. Para las instituciones financieras que dependen en gran medida de procedimientos y tecnologías impulsados por IA, esto significa que sus soluciones, existentes y futuras, deben ser revisadas para cumplir con la legislación vigente y la que se establezca en un futuro. Al adoptar estos cambios, mantener la transparencia y destacar la aplicación y los beneficios de las tecnologías emergentes, las fintech pueden aprovechar las nuevas oportunidades creadas por la legislación.

La ley de IA es aplicable a una variedad de participantes en la cadena de valor de esta tecnología, incluidos proveedores, usuarios, importadores y distribuidores de sistemas de IA desplegados o utilizados en el mercado de la UE. Esto incluye a los actores del sector bancario. Como director jurídico de una fintech, creo que la nueva legislación presenta tanto desafíos como oportunidades para los neobancos y las fintech.

De hecho, esta ley plantea algunos desafíos sustanciales. Establece estándares de cumplimiento más estrictos para los sistemas de alto riesgo, como los utilizados en la evaluación crediticia, la detección de fraudes y el comercio algorítmico. Esto se logra clasificando las aplicaciones de IA según sus categorías de riesgo, que pueden variar desde mínimo o nulo, hasta inaceptable. Para cumplir con estos requisitos, las empresas fintech deben garantizar que sus sistemas de IA sean transparentes, esclarecedores y estén libres de sesgos.

La legislación ha destacado la privacidad de los datos y el uso ético de la IA, especialmente a medida que la tecnología se integra, cada vez más, en nuestras actividades diarias. La recopilación y el procesamiento de datos personales por parte de los sistemas de IA son una preocupación significativa ya que, si se gestionan de manera incorrecta, se pueden producir robos de identidad, accesos ilegales o brechas de datos. La complejidad de estos sistemas de IA aumenta los riesgos de la seguridad, ya que son más vulnerables a manipulaciones e intrusiones.

Se requiere una estricta adherencia a leyes de protección de datos como el RGPD o la LOPD en el ámbito nacional, medidas de seguridad robustas y auditorías frecuentes para abordar estos problemas. Los sistemas de IA deben ser esclarecedores y transparentes, asegurando que los usuarios y los reguladores puedan comprender el proceso de toma de decisiones. La transparencia, un factor crítico, requiere obtener el consentimiento explícito de los usuarios para el procesamiento de datos a través de sistemas de IA específicos. Al buscar un equilibrio entre la innovación y la protección del consumidor, en FINOM conseguimos que nuestros sistemas de IA cumplan con los requisitos del RGPD, permitiendo a los usuarios ejercer sus derechos, como el borrado de datos, por ejemplo.

En resumen, mantener el control total sobre las técnicas de IA mientras se asegura la calidad y el cumplimiento de los resultados es el mayor desafío que enfrentan las fintech bajo el nuevo marco regulatorio. Por «mantener el control» me refiero específicamente a controlar los datos de entrada utilizados para el modelo, seleccionar cuidadosamente los escenarios en los que desplegamos técnicas de IA, y definir claramente las áreas en las que no se utilizarán técnicas que dependan de este tipo de innovación, incluso si son posibles desde un punto de vista puramente tecnológico. Sin embargo, en línea con estos cambios, nuestra agilidad y especialización como fintech nos permiten ser pioneros en este espacio. Al adoptar la IA de manera responsable, podemos reducir costes y también obtener una ventaja competitiva sobre los bancos tradicionales.

Si bien la ley de IA introduce obstáculos regulatorios adicionales, proporciona a su vez claridad y permite la adopción responsable de técnicas que adopten este tipo de tecnología. Es necesario que las empresas fintech revisen proactivamente las soluciones basadas en IA existentes y futuras para poder garantizar el cumplimiento de la legislación vigente y nueva.

Por lo general, las fintech son más pequeñas, más rápidas, más ágiles y más especializadas. Por ello, para navegar con éxito en este nuevo panorama, siendo inherentemente más adaptables, las fintech deben seguir siendo proactivas y éticas colaborando con reguladores y partners de la industria. Tomar un papel activo en discusiones y encuestas regulatorias podría resultar beneficioso. Como entidades reguladas, nuestro uso de la IA está supervisado. Esto nos permite mejorar la comprensión de su uso por parte de los reguladores de nuestra industria, favoreciendo que los participantes del mercado y las autoridades públicas detecten fallos legislativos a tiempo. Hemos visto cómo la legislación evoluciona a través de la participación proactiva de las empresas, resolviendo conflictos y mejorando leyes con el paso del tiempo, como ya se ha visto en otras áreas (por ejemplo, PSD, PSD2, PSD3 y PSR y AMLDs).

Otra área importante de enfoque es el uso ético de la IA, donde se plantean problemas vinculados a prejuicios, discriminación y toma de decisiones sesgadas. La ética, junto con la tecnología, puede dictar una resolución más imparcial. Un avance beneficioso será que la Inteligencia Artificial simplifique el proceso de toma de decisiones al centrarse en las acciones, en lugar de en la información geográfica o de origen. Más datos y patrones de comportamiento de mejor calidad conllevan a que sea más sencillo excluir fuentes de datos que puedan proyectar una imagen sesgada.

La ley de IA está destinada a mejorar la experiencia del cliente para los usuarios de neobancos y fintech. La incorporación más rápida, la monitorización de transacciones más precisa y una mejor atención al cliente son solo algunos de los beneficios que anticipamos. Al usar la IA de manera responsable, podemos proteger a nuestros clientes de amenazas externas y reducir las pérdidas financieras.

En conclusión, me gustaría destacar que la Ley de IA presenta una oportunidad única para que las fintech demuestren su adaptabilidad y compromiso con la adopción responsable de la IA. Al enfrentar los desafíos y oportunidades presentados por esta legislación, podemos moldear el futuro de la banca y ofrecer experiencias mejoradas a nuestros clientes.

Opinión
Add a comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *