ARGUMENTOS PROGRESISTAS N.º 57, junio-julio 2024

INTELIGENCIA ARTIFICIAL: REFLEXIONES PARA INTELIGENCIAS NATURALES

El desarrollo de la Inteligencia Artificial parece que está destinado a cambiar la sociedad. En este artículo se reflexiona sobre la necesidad de no someterse acríticamente a las bondades, reales o supuestas, de esta tecnología, sino a revisar con espíritu crítico su implantación en la sociedad y posibles consecuencias, y se reclaman normas jurídicas que protejan a las personas y a las sociedades democráticas de los riesgos de tecnologías basadas en algoritmos calificados como inteligentes

A finales del siglo XX, el mito de la “libertad” en Internet se difundió como el (pen)último argumento libertario, utilizado, sobre todo, por quienes pretendían usar el “ciberespacio” para campar a sus respetos. Este mito de libertad en el ciberespacio ha servido como argumento para evitar el control de los nuevos “medios de comunicación” y de interrelación personal en el Ciberespacio. Nada de lo dicho es sorprendente y todos los días vemos y padecemos las consecuencias de esa desregulación y supuesta libertad: expresiones y acciones que, en el mundo real, serían intolerables o delictivas.

Para que nadie dude de mis intenciones, avanzo la tesis que voy a defender: es imprescindible someter a regulación la fabricación, puesta en el mercado y uso de la denominada Inteligencia Artificial, así como sancionar específicamente las conductas que infrinjan obligaciones o lesionen derechos de terceros generada por esta tecnología.

Ya hay algún intento, ciertamente, aunque la primera regulación seria y compleja para intentar superar la “regulación ética” y someter a Derecho la Inteligencia Artificial es el Reglamento de Inteligencia Artificial de la UE de 13 de marzo de 2024^[1], que clasifica la tecnología en función de los “riesgos”, incluso introduciendo alguna prohibición, pero sobre todo imponiendo controles previos. Se trata de una norma rompedora y necesaria, líder mundial y ejemplo en la materia, no ajena a presiones de la industria y que va a tardar un poco más de lo deseable en entrar en vigor (calculen, como poco, dos años). España también ha dado pasos importantes y, apoyándose en lo que era el borrador del citado reglamento ha dictado una norma destinada a empezar a implementarlo^[2].

Esta novedosa e incipiente regulación de la IA significa la superación del paradigma tecnológico antediluviano según el cual las normas relacionadas con la IA deben ser “éticas”, para mostrar claramente que, aunque las normas éticas son muy respetables, la sociedad democrática exige normas jurídicas. En este punto, podríamos detenernos en cómo quienes han desarrollado la tecnología –en mayor o menor grado– (no) han contado con expertos juristas, pero eso lo dejaremos para otro día.

Hoy me gustaría detenerme en los retos que para la sociedad y el Derecho plantea la IA y, con ello nos vamos a apartar del sentido tecnológico que se suele asignar a la expresión “retos de la IA” y que suele servir para referirse a conductas que son peligrosas porque generan serios riesgos para derechos e intereses que están protegidos en el mundo real, cuando no los lesionan directa y abiertamente.

El primero de los retos que la IA plantea a la sociedad y el Derecho, probablemente, será hacer frente al propio lenguaje sobre la –así denominada– Inteligencia Artificial, porque los propios términos usados para designarla difunden y consolidan prejuicios preexistentes o falsas expectativas. Y esto empieza con la atribución de “inteligencia” a ciertos algoritmos. Desde luego no se puede negar que la IA sea artificial, en la medida en que es obra humana, pero tal calificativo (artificial) transmite la idea de que esta “inteligencia” no está sometida a la imperfección humana, lo que hace que sea “confiable”. Piénsenlo un momento: si las personas somos imperfectas, nos impulsamos por emociones e ideologías que condicionan nuestra percepción ¿qué mejor que una “inteligencia artificial” que no padece de tales “defectos” para adoptar decisiones, para darnos información, para gestionar nuestras necesidades? Más adelante trataré de explicar que esta aparente objetividad y “confiabilidad” es mera apariencia, pero ahora me detendré en que tampoco es inteligente, pues, al menos de momento, las supuestas “capacidades cognitivas” de la inteligencia artificial dejan mucho que desear.

Lo que no podemos negar es que es un “memorión”; que tiene una gran capacidad para acumular datos. Pero esto, aún no quiere decir que sea inteligente, aunque, ciertamente, puede ser una herramienta muy útil.

Ahora bien, la utilización de tales términos (y otros muchos) construyen un “relato” humanizador de una tecnología muy disruptiva –es decir, que va a alterar las propias bases sociales– a la que se califica de inteligente, que “aprende” –así se denomina a las actividades de preparación del software– y que tiene “memoria”. Si, además, le ponemos voz y nombre femenino (Siri, Alexa, Aura…), en una sociedad que todavía a veces (o casi siempre a nivel mundial) percibe a las mujeres como seres inferiores de cortas capacidades y solo útiles para ejecutar los deseos de otros ¿cuál es el mensaje subyacente?

El segundo reto al que nos enfrentamos es el de detectar, denunciar y eliminar los sesgos^[3] en los algoritmos que componen el software al que se califica de “inteligente”.

La Inteligencia Artificial está construida con algoritmos; algoritmos que tienen sesgos y adoptan decisiones sesgadas como consecuencia de que los datos que tiene incorporados en su base de datos –o sea, en su “memoria”– también tienen sesgos, aunque también hay algunos algoritmos directamente concebidos para ofrecer respuestas o soluciones sesgadas, o incluso “mentirosas”, cuando de forma preconcebida el software ofrece información falsa (en la terminología del relato, “miente”^[4]).

Los algoritmos son construidos por personas, que de forma intensamente mayoritaria por hombres blancos^[5], caucásicos… con prejuicios, que responden a los intereses de empresas dirigidas por hombres blancos caucásicos con una determinada cultura e ideología^[6]. Quienes desarrollan el software tienen sesgos y prejuicios y estos sesgos se trasladan al algoritmo. Además, el algoritmo debe ser reforzado con cantidades ingentes de datos –esto es lo que, realmente, caracteriza a la IA: su “memorión”–, que se obtiene del Ciberespacio –sin mayores precisiones–, aunque, como este concepto es entendido socialmente de forma menos positiva, no suele ser objeto de propaganda. Una vez construido el algoritmo, se le suministran enormes cantidades de datos que “circulan libremente”, se supone^[7].

Demos por supuesto que son datos “libres” y detengámonos un momento en esta cuestión. En los últimos años se está detectando una enorme presión para que las publicaciones científicas se hagan “en abierto”, es decir, se permita el acceso a través de Internet, sin restricciones, con el argumento de que el conocimiento hay que compartirlo. No es cuestión de dudar que “compartir el conocimiento” no sea beneficioso para sociedad, aunque se me ocurren posibles objeciones a tan aparentemente altruista propuesta: por ejemplo, si no se establecen criterios de selección, la mera opinión, por absurda que sea, pasa por conocimiento (vean “las teles” y díganme si no). Como contrapartida, lo “abierto” ha cargado los costes de publicación en los investigadores (que tienen que pagar la publicación, y ya no son las editoriales las que corren con los gastos) o en las universidades públicas, que, de forma altruista, hacen enormes esfuerzos para que quienes investigan puedan publicar en abierto sin tener que pagar por ello.

Ahora bien, ¿quién realmente tiene un enorme interés en que el conocimiento sea público? ¿Quiénes están utilizando masivamente datos obtenidos “en abierto” sin pagar derechos de propiedad intelectual o industrial^[8]? ¿Quizá una tecnología que se nutre de “datos en abierto”, sin reconocer la autoría y que después se vende como inteligente, sin pagar derechos de autor ni costes de investigación y, por tanto, enriqueciéndose gracias al trabajo ajeno^[9]?

Pero volvamos al tema, principal: los sesgos. Además de los sesgos que “incorpora el creador”, esta tecnología –por ejemplo, uno de esos chats que nos venden como magníficos porque hacen escritos mejor que nadie, dicen– incorpora a sus bases de datos todo tipo de datos sin análisis crítico previo, sin discriminar el conocimiento contrastado y valioso de la mera opinión, insulto, “inventada” y, por supuesto, sin evaluar la existencia de sesgos –raciales, machistas, xenófobos, aporóbos, etc.– en los datos que incorpora. Y lo hace extrayéndolo de “la red”, de Internet, aunque no se sabe muy bien de dónde. ¿Se imaginan que se nutriera de lo que las personas ponen en foros abiertos donde cada cual dice lo que le place, en términos muchas veces soeces, machistas, racistas, xenófobos^[10], etc.? ¿O de los comentarios que ponen los lectores en los periódicos con “orientación política”?

Además, los datos incorporados se expresan en “lenguaje” y, el lenguaje también incorpora sesgos ancestrales y difíciles de detectar y de suprimir. Piense, por ejemplo, en el distinto significado de la palabra “zorro” y “zorra” en el lenguaje ordinario; cómo predominan las imágenes que potencian una visión sexualizada de las mujeres e intelectual de los hombres, o los negativos juicios de valor que se asignan a determinadas razas. Todos estos sesgos, sin previo análisis o criba se incorporan a los datos que manejan los algoritmos que los evalúan en función –se supone– del peso específico que tienen en el “discurso de la red”. En consecuencia, el algoritmo se construye sesgado, maneja sesgos, incorpora sesgos asociados al lenguaje y, finalmente, como lógica y necesaria consecuencia, emite resultados sesgados, que reproducen, difunden y consolidan esos sesgos (con el plus que añade que lo haya hecho un entre “Inteligente Artificial”)

Pues bien, estos sesgos crean riesgos y originan perjuicios, pero, sobre todo, generan enormes cantidades de beneficios que potencian a una nueva élite económica, con una enorme acumulación de riqueza en el 1% de la población mundial^[11], en determinadas zonas geográficas, no siempre democráticas. Y se están produciendo lesiones a la propiedad intelectual que genera un enriquecimiento injusto y riesgos para el medio ambiente^[12]; discriminación de todo tipo, también contra las mujeres; difusión de información que atenta contra el honor de las personas o que alienta a delinquir (insultar es una forma de delito contra el honor, y, por tanto, en ocasiones, puede ser delinquir, por ejemplo).

Así pues, quizá lo mejor sea no creerse nada, porque la Inteligencia Artificial ni es objetiva, ni confiable siempre y en todo caso, sino un producto puesto en el mercado por quienes tienen un interés comercial, como mínimo –no descarten otros, una vez que a su cuenta corriente le sobren ceros a la derecha–. Y, si es un producto comercializado, que genera serios riesgos para las personas; si en algún momento pudiera lesionar la propiedad intelectual u otros derechos; si la difusión y el refuerzo de sesgo o bulos pudiera afectar, incluso, a la estabilidad de los sistemas políticos democráticos, ¿no sería necesario reclamar, cada vez como mayor fuerza e insistencia, la urgente regulación y control –incluso penal– del uso y abuso de la, así denominada, Inteligencia Artificial?

1. https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_ES.pdf ↑

2. Real Decreto 817/2023, de 8 de noviembre (www.boe.es/diario_boe/txt.php?id=BOE-A-2023-22767). ↑

3. A. Manasi, S Panchanadeswaran, E. Sours: “Addressing Gender Bias to Achieve Ethical AI”

   (https://theglobalobservatory.org/2023/03/gender-bias-ethical-artificial-intelligence). ↑

4. https://elpais.com/tecnologia/2024-05-11/por-que-es-tan-peligroso-que-la-inteligencia-artificial-aprenda-a-mentir-nos-enganaran-como-hacen-los-ricos.html ↑

5. https://unesdoc.unesco.org/ark:/48223/pf0000388971 ↑

6. Para muestra, un botón; miren las fotos https://www.rtve.es/noticias/20240518/milei-califica-fabulosa-su-reunion-con-empresarios-espanoles-madrid/16109402.shtml o https://www.computerworld.es/ia/los-lideres-tecnologicos-se-reunen-en-el-capitolio-para-debatir-sobre-la-regulacion-de-la-ia ↑

7. Aunque vean lo que ha pasado cuando se ha preguntado el origen de los datos: https://cincodias.elpais.com/smartlife/smartphones/2024-03-14/openai-avanza-cuando-llegara-para-todos-su-ia-sora-para-generar-imagenes.html ↑

8. https://cincodias.elpais.com/companias/2023-07-14/la-patronal-de-la-prensa-denuncia-que-google-vampiriza-los-contenidos-de-los-medios-con-su-inteligencia-artificial.html ↑

9. https://elpais.com/tecnologia/2024-04-25/el-exceso-de-palabras-como-encomiable-y-meticuloso-sugiere-el-uso-de-chatgpt-en-miles-de-estudios-cientificos.html ↑

10. https://www.adolescenciayjuventud.org/wp-content/uploads/2021/02/Jovenes_en_la_Manosfera_Centro-Reina-Sofia_FAD.pdf ↑

11. Vean quiénes ocupan los puestos 2, 3 y 4 de la Lista Forbes: https://forbes.es/listas/259195/lista-forbes-ricos-mundo-2023 ↑

12. https://elpais.com/tecnologia/2024-04-30/los-centros-de-datos-quieren-tener-sus-propios-reactores-nucleares.html ↑