Cuando quedan ya pocas semanas para que finalice el año y con el debate a tres entre la Comisión Europea, el Consejo Europeo y el Parlamento Europeo sobre la próxima Ley de Inteligencia Artificial, aparecen dudas sobre el impacto que podría tener en los consumidores la aplicación de la nueva norma, pionera a nivel global sobre IA.
Más allá de la prohibición de emplear material protegido por derechos de autor para entrenar los modelos grandes de lenguaje (LLM) o la obligatoriedad de etiquetar los contenidos creados a partir de IA generativa, las modificaciones aprobadas el pasado julio por el Parlamento Europeo, de incluirse finalmente en el texto final que se debate, podrían abrir la puerta al uso de tecnología de IA que ayudara a acceder al plano inconsciente de los usuarios.
Así lo expone el investigador Ignacio Beltrán de Heredia, profesor de los estudios de derecho y ciencia política de la Universitat Oberta de Catalunya (UOC) en un artículo publicado por la Revista de la Facultad de Derecho de México, donde analiza el artículo 5.1 a) de la Ley de IA, en relación a la capacidad de la IA de influir en el subconsciente de las personas, tal y como sucedió en el caso de Cambridge Analytica, aunque a niveles muchos más profundos.
En el texto elaborado por la Comisión Europea, se prohíbe la “comercialización, puesta en servicio o uso de un sistema de IA que emplee técnicas subliminales más allá de la conciencia de una persona con el fin de distorsionar materialmente el comportamiento de una persona de manera que cause o sea probable que cause daño físico o psicológico a esa persona o a otra persona”.
Un apartado que se vuelve más extenso en el texto configurado por el Parlamento Europeo. En este quedaría prohibida “la comercialización, puesta en servicio o uso de un sistema de IA que emplee técnicas subliminales más allá de la conciencia de una persona o técnicas deliberadamente manipuladoras o engañosas, con el objetivo o el efecto de distorsionar materialmente el comportamiento de una persona o grupo de personas, al afectar considerablemente la capacidad de la persona para tomar una decisión informada, causando así que la persona tome una decisión que de otro modo no habría tomado de una manera que cause o sea probable que cause daño significativo a esa persona, a otra persona o a un grupo de personas. La prohibición de un sistema de IA que emplea técnicas subliminales mencionada en el primer párrafo no se aplicará a los sistemas de IA destinados a ser utilizados con fines terapéuticos aprobados, siempre y cuando se obtenga un consentimiento informado específico de las personas expuestas a ellos o, en su caso, de su tutor legal”.
Según el investigador, estos nuevos elementos, en lugar de restringir, elevan los umbrales a partir de los cuales no se podría acceder a la parte inconsciente del usuario, un 95% del cerebro frente al 5% del yo consciente, y parte responsable de la mayoría de decisiones que toman los usuarios. “Con la ciencia actual, es muy complejo medir o evaluar cómo la mente inconsciente afecta a las decisiones del yo consciente. Además, en este entorno neuronal, es ilusorio pensar que seremos capaces de establecer en términos jurídicos y de acreditación probatoria un parámetro de comparación que permita saber si algo es más o menos ‘considerable’”, escribe.
Añade a su vez que es posible que esa técnica subliminal el usuario afectado no sea capaz de identificarla y, por tanto, no pueda medir cuánto de seguro estaba en tomar dicha decisión, ni es posible comprobar mediante la observación empírica qué habría pasado de haber tomado otra decisión. Además de solo prohibir los casos en los que se creen un daño significativo.
Influencia de la IA en el inconsciente
De acuerdo con Beltrán de Heredia, la IA puede influir en las personas de dos maneras. “La primera, recopilando datos sobre nuestra vida y creando una arquitectura de las decisiones que te lleve a tomar una decisión determinada. La otra, menos desarrollada por ahora, consiste en aplicaciones o dispositivos que directamente generen impulsos irresistibles para nuestra mente inconsciente y que de forma subliminal logren generar respuestas impulsivas, es decir, que lleguen a fabricar impulsos”, explica.
A la hora de tomar decisiones, las emociones juegan un papel importante en el plano subconsciente. A partir de los patrones emocionales que construye el cerebro fuera de la conciencia, este crea multitud de predicciones, simula sus consecuencias y comprueba y corrige dichas predicciones comparándolas con la información que percibe del exterior, lo que demuestra que existe una gran actividad previa que es preconsciente.
Si el artículo 5.1 a) de la Ley de IA presentada por el Parlamento “admite cierto tipo de condicionamiento por debajo del nivel consciente, estaremos dejando la puerta del ‘patio trasero neuronal’ mucho más abierta de lo que sería deseable. Lo que implicaría que el estadio preconsciente que alimenta nuestras emociones también podría ser deliberada y subliminalmente alterado”, escribe.
“Si yo no tengo acceso a mi yo inconsciente, es imposible que yo pueda acreditar qué otra cosa hubiera hecho si no hubiera sido estimulado ni tampoco acreditar el daño”, expone. “Si la publicidad subliminal está hoy totalmente prohibida, sin ningún tipo de matices, ¿por qué estamos dejando espacio a que exista un condicionamiento subliminal por parte de la inteligencia artificial?”.
Posibles aplicaciones
Para el investigador, el campo donde probablemente empecemos a ver los intentos de condicionar el comportamiento humano mediante la IA es el del trabajo y, más concretamente, el de la salud laboral. Argumenta que son diversas las tecnologías intrusivas en uso, como los dispositivos para controlar los microsueños de los conductores de autobús o los sensores de electroencefalografía (EEG), que permiten a los empleadores rastrear las ondas cerebrales de los empleados para detectar niveles de estrés y atención mientras trabajan.
«Es difícil hacer proyecciones sobre cómo será el futuro, pero si no ponemos límites a este tipo de tecnologías intrusivas, que todavía están en una fase de desarrollo muy inicial, lo más probable es que sigan mejorando y extendiéndose en aras de la productividad», concluye.
