![\"bandera](\"http:\/\/rma.legal\/wp-content\/uploads\/2024\/04\/bandera-ue-RIA-300x200.jpg\")
<\/p>\n<\/p>\n
<\/p>\n
<\/p>\n
La reciente aprobaci\u00f3n de la primera regulaci\u00f3n de la Inteligencia Artificial (IA)<\/strong> en el mundo parece arrojar un destello de luz a la complicada situaci\u00f3n que nos ha tocado vivir.<\/p>\n Algunos piensan que no es m\u00e1s que otro obst\u00e1culo regulatorio al necesario desarrollo tecnol\u00f3gico, que tanto necesita la Uni\u00f3n Europea para salir del vag\u00f3n de cola en el que nos encontramos, frente a estados como China o empresas multinacionales, como Microsoft (m\u00e1ximo accionista de OPEN AI y propietario de COPILOT), IBM, SAS o DATAROBOT que lideran la carrera de la IA.<\/p>\n En tiempos pasados, los europeos acostumbraban a liderar la pol\u00edtica, la econom\u00eda, el mercado, la investigaci\u00f3n cient\u00edfica y el desarrollo tecnol\u00f3gico. Ahora, al menos, el Reglamento de IA (RIA<\/a>) contin\u00faa con esta tradici\u00f3n de liderazgo en el \u00e1mbito regulatorio, como lo hizo hace tres d\u00e9cadas con el primer sistema de registro de marcas regional (la marca comunitaria) o m\u00e1s recientemente, el Reglamento General de Protecci\u00f3n de Datos (RGPD), que tantas legislaciones de protecci\u00f3n de datos personales est\u00e1 inspirando en todo el mundo.<\/p>\n El RIA es de necesario conocimiento y aplicaci\u00f3n para cualquier actividad o entidad que pretenda actuar en la Uni\u00f3n Europea. Viene, al menos, a arrojar un poco de cordura ante la insaciable avidez de datos de los sistemas de IA, poniendo l\u00edmites de transparencia de origen de los datos utilizados para el aprendizaje autom\u00e1tico y exigiendo la licitud de su obtenci\u00f3n sin vulnerar derechos. Nos facilita el primer mapa y gu\u00eda de actuaci\u00f3n para conseguir una IA garante de los derechos humanos y el medio ambiente.<\/p>\n La OCDE nos define de forma clara los sistemas de IA como \u201caquellos basados en m\u00e1quinas que, con objetivos expl\u00edcitos o impl\u00edcitos, infieren, a partir de la entrada que reciben, como generar salidas tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos f\u00edsicos o virtuales. Los distintos sistemas de IA var\u00edan en sus niveles de autonom\u00eda y capacidad de adaptaci\u00f3n tras su despliegue”<\/em>.<\/p>\n El RIA se aplicar\u00e1 a todos los operadores de sistemas de IA, tanto a los proveedores de esos sistemas como a los usuarios que los exploten. Quedan fuera las autoridades p\u00fablicas y organizaciones internacionales cuando utilicen sistemas IA en el \u00e1mbito de la cooperaci\u00f3n policial o judicial con la UE o sus EEMM. Tampoco se aplica a los sistemas de uso militar o utilizados en el contexto de la seguridad nacional, ni a los utilizados con el solo prop\u00f3sito de la investigaci\u00f3n y el desarrollo cient\u00edfico.<\/p>\n Antes de poner en marcha un sistema de IA deberemos valorar dos aspectos:<\/strong> En primer lugar, la calidad de los datos<\/strong> con los que alimentamos el sistema (si son suficientes y representativos). A mayor calidad de los datos que alimenten su aprendizaje, menores sesgos tendr\u00e1n los sistemas de IA; y en segundo lugar, el impacto que podr\u00eda provocar un error<\/strong> de estos sistemas.<\/p>\n El RIA clasifica los sistemas de IA seg\u00fan el riesgo<\/strong>, definido \u00e9ste como la probabilidad que se produzca un da\u00f1o y gravedad que acarrear\u00eda \u00e9ste. Las categor\u00edas son las siguientes:<\/p>\n a) Sistemas cuyo riesgo es inaceptable<\/strong>, al representar una amenaza directa a la seguridad p\u00fablica, los derechos fundamentales o la privacidad. Estos se caracterizan por:<\/p>\n \u2022 Desplegar t\u00e9cnicas subliminales con el objetivo de distorsionar el comportamiento de una persona de manera que pueda causarle da\u00f1os f\u00edsicos o psicol\u00f3gicos a \u00e9l o a otros. Recordemos los casos de Cambridge Analytica (CA) en el Brexit.<\/p>\n \u2022 Explotar vulnerabilidades de un grupo espec\u00edfico de personas por su edad, discapacidad o situaci\u00f3n social o econ\u00f3mica de forma que distorsionen el comportamiento de estas personas y probablemente les causen da\u00f1os a ellas o a otras. Es el caso de la reciente paralizaci\u00f3n de recogida del iris de la compa\u00f1\u00eda WORLDCOIN a cambio de unas criptomonedas por valor de 80 euros.<\/p>\n \u2022 Elaborar perfiles de personas seg\u00fan su comportamiento, creando un \u201cbaremo social\u201d que pueda resultar en que personas o grupos reciban un trato desfavorable. Como ejemplo podr\u00edamos citar el \u201ccarnet por puntos\u201d instaurado en China a los ciudadanos de a pie.<\/p>\n \u2022 Identificar biom\u00e9tricamente en tiempo real en lugares accesibles al p\u00fablico, salvo en los casos estrictamente tasados. Es el ejemplo que nos narra @Kashmir Hill de la compa\u00f1\u00eda estadounidense Clearview en su libro ‘Your Face Belongs to Us’.<\/p>\n El RIA proh\u00edbe estos sistemas a partir del mes de octubre de 2024.<\/p>\n b) Sistemas de alto riesgo<\/strong> que podr\u00eda suponer un considerable riesgo sobre la salud, la seguridad o los derechos fundamentales, tales como los productos o componentes de seguridad cubiertos por la legislaci\u00f3n europea, sistemas destinados a la identificaci\u00f3n biom\u00e9trica, a reconocimiento de emociones, a gestionar infraestructuras cr\u00edticas, educaci\u00f3n y formaci\u00f3n profesional, empleo o gesti\u00f3n de servicios esenciales, entre otros.<\/p>\n Se permitir\u00e1 el desarrollo y uso de estos sistemas siempre y cuando cumplan los los siguientes siete requisitos:<\/p>\n 1. Contar con un sistema de gesti\u00f3n de riesgos. c) Sistemas de riesgo limitado o nulo<\/strong>\u00a0para\u00a0la salud, la seguridad o los derechos fundamentales, al realizar meras tareas limitadas, complementarias o preparatorias a la actividad humana. Sistemas permitidos siempre que se cumplas obligaciones de informaci\u00f3n y transparencia.<\/p>\n d) Sistemas de m\u00ednimo o nulo riesgo<\/strong>, permitidos sin restricciones.<\/p>\n Dependiendo del rol de actuaci\u00f3n de cada operador del sistema (proveedor, importador, distribuidor o usuario), deber\u00e1 cumplir una serie de obligaciones establecidas en el RIA.<\/p>\n Esta nueva situaci\u00f3n no debe amedrentarnos puesto que la IA no ha venido a reemplazarnos, si bien es verdad que aquellos profesionales o entidades que no se ayuden de \u00e9sta, perder\u00e1n, sin duda alguna, competitividad en el mercado.<\/p>\n Lo que debemos hacer es dise\u00f1ar una correcta estrategia de actuaci\u00f3n<\/strong> sobre los siguientes pilares:<\/p>\n a) Antes de desarrollar o poner en funcionamiento un sistema de IA, debemos identificar las amenazas y evaluar los riesgos<\/strong>.\u00a0Nos podremos ayudar de eficaces herramientas, como la sistemas ISO 42001:2023, 23894:2023 o 23053:2022 (https:\/\/www.iso.org\/es\/sectores\/tecnologias-ti\/ia<\/a>) o como la plataforma https:\/\/plot4.ai\/<\/a> prestada en c\u00f3digo abierto por su creadora @Isabel Barber\u00e1.<\/p>\n b) Establecer herramientas y medidas desde el dise\u00f1o y por defecto que impidan el uso de datos personales e informaci\u00f3n sensible<\/strong> de la entidad al usar sistemas de IA en sus organizaciones.<\/p>\n c) Formar grupos y departamentos de an\u00e1lisis y decisi\u00f3n<\/strong> en las entidades que vayan a usar sistemas de IA en su actividad, ya sea como usuario o afectado, que cuenten con la formaci\u00f3n y conocimiento necesarios e, imperiosamente, con un profesional en privacidad.<\/p>\n La estrategia tomada por el RIA tendr\u00e1 \u00e9xito en la medida en que todos los operadores y afectados implicados ayudemos a ello. Al igual que aseguraremos el \u00e9xito de nuestra estrategia si actuamos unidos y no de forma individualizada. Esta vez no solo est\u00e1 en juego el \u00e9xito profesional o econ\u00f3mico de nuestro proyecto, sino nuestra propia existencia.<\/p>\n David Mu\u00f1oz de los Reyes<\/strong><\/p>\n RMA, abril 2024<\/strong><\/span><\/p>\n","protected":false},"excerpt":{"rendered":" El Reglamento de IA de la UE busca equilibrar innovaci\u00f3n y seguridad, estableciendo categor\u00edas de riesgo y regulaciones claras para garantizar transparencia y protecci\u00f3n de derechos.<\/p>\n","protected":false},"author":5,"featured_media":27138,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[103],"tags":[110,125,181,232,255,279,394,395,407,441,448,449,450,451,460],"class_list":["post-27135","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria","tag-ai","tag-artificial-intelligencia","tag-datos","tag-eu-regulation","tag-ia-es","tag-inteligencia-artificial","tag-privacy","tag-privacy-library","tag-proteccion-de-datos","tag-reglamento-inteligencia-artificial","tag-rgpd","tag-ria","tag-riesgos","tag-rma","tag-seguridad"],"yoast_head":"\n\n
\n
\n2. Establecer un sistema de gobernanza y gesti\u00f3n de los datos.
\n3. Contar con la documentaci\u00f3n t\u00e9cnica actualizada.
\n4. Contar con registros de actividad del sistema.
\n5. M\u00e1xima transparencia y suministro de informaci\u00f3n a los usuarios sobre las capacidades del sistema, requisitos de equipamiento, \u00e1mbito de aplicaci\u00f3n, nivel de precisi\u00f3n, etc.
\n6. Permitir la intervenci\u00f3n y supervisi\u00f3n humana y
\n7. Proporcionar un nivel adecuado de precisi\u00f3n, robustez y ciberseguridad.<\/p>\n\n