Inteligencia artificial, tecnología, algoritmo, sesgo, ética

Corría 1962 cuando el escritor de ciencia ficción, matemático, físico, futurista y explorador Arthur C. Clarke¹ enunció su primera ley: «cuando un científico eminente afirma que algo es posible, es casi seguro que tiene razón. Cuando afirma que algo es imposible, muy probablemente está equivocado».

Son muchos los casos en la historia que le dan la razón. Stephen Hawking defendió que no se llegaría a encontrar el bosón de Higgs² y que, si se lograba encontrar, esta partícula causaría un poder destructivo inimaginable. En 2013, se descubrió y hasta el momento no ha ocurrido nada que haga suponer esa destrucción. Ken Olsen, CEO y fundador de Digital Equipment Corporation dijo, en 1977, que no existía «ninguna razón para que alguien quisiera disponer de un ordenador en su casa».

Hay cientos de ejemplos en nuestra historia que hacen válida esta Ley y que nos anima a tener una mente abierta frente a las innovaciones tecnológicas que pueden trasformar la industria, el mercado y la sociedad. La inteligencia artificial (IA) es una de ellas.

Es en 1973 cuando Clarke en una versión de su libro Profiles of the future enunció su segunda ley: «la única manera de descubrir los límites de lo posible es aventurarse un poco más allá, hacia lo imposible».

El británico Lord Kelvin³, eminente científico de finales del siglo XIX, afirmó en 1895 que «las máquinas volantes más pesadas que el aire serán imposibles». Sin embargo, no desanimó a los hermanos Wilbur y Orville Wright de la cruda realidad que los sabios de la época vaticinaban.

Al igual que puede ocurrir con la IA, estos ejemplos ilustran que no es buena idea dar por sentadas ciertas imposibilidades que impidan ver las potencialidades de la tecnología.

Finalmente, Clarke postuló su tercera y última Ley: «cualquier tecnología suficientemente avanzada es indistinguible de la magia». En el caso del escritor, tenía en mente cualquier civilización, extraterrestre o humana. Extrapolado a la IA podemos pensar en máquinas con una inteligencia superior a la humana. Habría que pensar en las consecuencias que esto podría ocasionar para el que la poseyera primero, bien sea una de las grandes empresas tecnológicas chinas o norteamericanas o un país.

Si se pudiera retroceder tan solo un siglo y mostrar los dispositivos electrónicos que se manejan hoy en día a aquella sociedad, pensarían que es obra de la magia o de la brujería, por mucha explicación científica que les diéramos. Ello no quiere decir que la IA este hoy en día próxima a superar la inteligencia humana, pero no hay que pensar que sea imposible y, para ello, hay que estar preparados. Ahí están las leyes de Clarke.

Sea lo que fuere, la verdad es que la IA es una realidad en la vida diaria. Está integrada de forma natural en la sociedad: chatbots, buscadores, navegadores, asistentes de voz, recomendadores, motores de búsqueda, etcétera se apoyan en esta tecnología.

En el Foro Económico Mundial en Davos (Suiza) de 2018 Sundar Pachai, CEO de Google, dijo⁴ «la IA es probablemente lo más importante en lo que la humanidad jamás ha trabajado. La IA tendrá un efecto más profundo que la electricidad o el fuego». Estas palabras no son huecas, ni fruto de una extravagancia.

La IA es una tecnología de propósito general porque es transversal en la sociedad. Dispone de capacidad para transformar las relaciones sociales y el empleo. Impacta de forma sustancial en la economía, la productividad, la desigualdad, el crecimiento y la innovación. Es el advenimiento de un nuevo paradigma. Por ello, empresas y gobiernos de todo el mudo están invirtiendo importantes recursos en IA. Vladimir Putin pronosticó «quienquiera que se convierta en un líder en esta esfera, se convertirá en gobernante del mundo», una advertencia en toda regla.

Este documento, previa definición y clasificación de la IA, trata de exponer de forma muy somera como se presenta la IA ante el mundo, cómo los principales actores mantienen una «guerra tecnológica» por conseguir el liderazgo en este ámbito y cómo sus avances deben hacer reflexionar a la sociedad.

Fue en 1956 cuando John McCarthy⁵ bautizó el concepto IA en la conferencia de Dartmouth para referirse a «la ciencia e ingenio de hacer máquinas inteligentes, especialmente programas de cómputo inteligente». Además de acuñarse el término se establecieron las bases de la IA como un campo diferente al de la informática.

Este concepto no surge originariamente de estos autores, sino que se basaron en estudios previos, fundamentalmente de Alan Turing, quien en 1950 había publicado el artículo Computing machinery and Intelligence⁶ donde señalaba la capacidad de las máquinas para imitar la inteligencia humana.

La IA de McCarthy causó una gran expectación y se llegaron a generar prospectivas agresivas sobre su evolución a 10 años vista. Sin embargo, nunca se cumplieron. Los escasos avances en hardware, la falta de los grandes volúmenes de datos necesarios y los lentos progresos en el aprendizaje profundo lo impidieron. Este estancamiento duraría prácticamente quince años. En la década de los 80 se retomó, pero no fue hasta 2010 cuando las aplicaciones de aprendizaje profundo le dan el auge del que dispone hoy en día.

A parte de la definición de McCarthy, podríamos definirla de forma sencilla en la línea de Alan Turing como cualquier técnica que capacita a las máquinas a imitar el comportamiento humano. En este artículo utilizaremos la de Andreas Kaplan y Michael Haenlein, referentes de la innovación y el marketing, «la IA es la capacidad de un sistema para interpretar correctamente datos externos, para aprender de dichos datos y emplear esos conocimientos para lograr tareas y metas concretas a través de la adaptación flexible».

Al igual que con internet y antes con la electricidad, la IA es una tecnología de uso general, de hecho, está en nuestros bolsillos o bolsos a través de nuestros móviles. Esta tecnología progresa de forma rápida con el tiempo y genera una cantidad importante de innovación. Se puede decir que de manera paulatina se es consciente de su enorme potencial. Sin duda, se está en una fase de expansión donde el verdadero alcance de la IA tiene todavía carácter exploratorio.

Sin embargo, el desarrollo de la IA está reservado a aquellos países desarrollados que pueden permitirse grandes inversiones en I+D. Por otra parte, el fuerte ritmo impuesto en los avances de esta tecnología hace que estos mismos países no puedan quedarse atrás y menos con el impacto que la IA tiene en los planos económico, político y militar.

La IA aumenta la eficiencia y la productividad, por lo que presenta una ventaja de crecimiento y competencia para empresas y economías nacionales. Aquellas naciones que sepan aprovechar la IA en sectores clave obtendrán un importante rédito económico que redundará en la dinámica del poder en el mundo.

La actual lucha por liderar la carrera de la IA parece cosa de dos: Estados Unidos (EE. UU.) y China. Resulta paradójico que los padres del aprendizaje profundo⁷, deep learning, Yann LeCun, Geoffrey Hinton y Yoshua Bengio sean de origen europeo, aunque, como viene siendo habitual, hayan desarrollado su carrera en Canadá y EE. UU.
Se puede considerar que hasta esta década el protagonismo chino en IA era escaso⁸. Es cuando surgen los gigantes digitales chinos, Baidu, Alibaba y Tencent, cuando se produce un importante punto de inflexión que supone el interés del gobierno chino por la IA.

Si hoy nos preguntamos quién lidera la IA, la repuesta sería relativamente fácil: EE. UU. Sin embargo, si la pregunta fuese quién la liderará dentro de 10 años, la respuesta resulta  mucho más complicada de predecir. Los corredores tomaron la salida hace tiempo, pero la meta está todavía lejos.

Tortoise Media elabora un índice sobre IA a través de la publicación The Global AI index en la que entran 54 países. Este informe parte de más de un centenar de indicadores que implican a la IA. Los datos que evidencia su estudio van en la línea de lo que señalan otros trabajos menos completos y es que EE. UU. está a la cabeza seguido de China. España, según el informe, ocupa el puesto décimo quinto.

Kai-Fu Lee, en su libro Superpotencias de la inteligencia artificial, compara el empuje que supuso para EE. UU. el Sputnik ruso para la conquista del espacio con el revulsivo que para China fue que el programa informático AlphaGo⁹ derrotase al surcoreano Lee Sedol jugando al Go10 y un año más tarde, en 2017, hiciese lo propio con el chino Ke Jie, considerado como el mejor jugador de la historia de este juego.

Los chinos pensaban que la complejidad del Go, mucho mayor que la del ajedrez, haría que lo que sucedió en 1997 con el sistema Deep Blue de IBM que ganó al campeón del mundo Gari Kasparov, tardaría muchos años en suceder. El potenciador que inicio la carrera por la IA, según Lee, fue precisamente esta victoria de la máquina sobre el hombre.

Sin embargo, fue en 2015 cuando China publica su Plan Made in China 2025 una declaración de intenciones para llevar a este país al liderazgo tecnológico. La estrategia consiste en reducir su dependencia tecnológica de la de potencias extranjeras mediante el desarrollo, entre otras, de la IA, el 5G y las baterías eléctricas. En definitiva, desafiar el monopolio tecnológico de los países occidentales, pero, sobre todo, de EE. UU. De esta manera, busca cerrar la brecha tecnológica y superar a EE. UU. en un futuro lo más cercano posible.

China se iguala a EE. UU. en diversos referentes de IA. Sin embargo, le faltan investigadores y la tecnología que soporta la inteligencia de los dispositivos. Es decir, en las plataformas que desarrollan la IA, los sistemas operativos y, especialmente, en el diseño de los chips que los sustentan. No así en su fabricación.

El despliegue de la red comercial de China en 5G presenta alguna ventaja sobre la de los EE. UU. Esto se ha materializado gracias al impulso que el Gobierno chino ha puesto en el último lustro fundamentalmente con el Plan Internet plus 2015 y el decimotercer Plan Quinquenal de 2016.

Huawei¹¹ es la única empresa capaz de introducir redes 5G de manera rentable y a escala. Es decir, producir todos los elementos necesarios para una red 5G de forma económicamente viable. Sin duda, esta circunstancia le da una ventaja en la carrera tecnológica por el 5G. Otros países, que carecen de estas posibilidades, ven así la necesidad de aceptar la tecnología china o adoptar las recomendaciones de EE. UU. de no emplear proveedores chinos, en cuyo caso, tienen asegurado su correspondiente retraso en su despliegue 5G¹². Esta renuncia a comprar tecnología China puede comprometer el tejido tecnológico e industrial de importantes países como Alemania en áreas como la automoción o la robótica.

Los jefes de Inteligencia de los cinco países de origen anglosajón que conforman el grupo denominado Five eyes Reino Unido, EE. UU., Australia, Canadá y Nueva Zelanda se reunieron en Canadá en 2018 y transmitieron el siguiente mensaje de advertencia a la ventaja China en 5G: «las telecomunicaciones 5G van a ser tan críticas para el modo de vida de los ciudadanos que estas redes deberían estar operadas únicamente por empresas de toda confianza. Huawei queda cada vez más fuera de esta definición¹³».

Por otra parte, China sigue dependiendo de software para sistemas operativos de dispositivos móviles. No porque no los pueda diseñar, sino porque imponerlo en el mercado global no resulta tan sencillo. Ello es el origen de los grandes problemas derivados para Huawei al no poder emplear o actualizar el sistema Android. Lógicamente, ha creado el suyo propio, Harmony OS, desconocido en Europa.

En este mismo sentido China depende de EE. UU. para semiconductores clave en el procesamiento de gráficos. La tecnología de semiconductores es el corazón de la IA porque los algoritmos se ejecutan en un hardware tecnológicamente muy avanzado y adaptado para ello. Carencias de China tanto en hardware como en software que limitan su carrera por la IA por ahora.

La estrategia China es reducir en 2025 la diferencia tecnológica con los países que le hacen competencia con fuertes inversiones en I+D+I utilizando para ello al Estado, al Partido y a sus grandes empresas tecnológicas. Así, en 2035 afianzar su posición y, finalmente, en 2045 sobrepasar a EE. UU. en esta carrera que China asume como una maratón. Es decir, sigue un plan debidamente diseñado a largo plazo.

EE. UU. es consciente que el corredor que le sigue, Pekín, puede hacerle perder la carrera tecnológica por la IA. La deriva de ello, a la vista de sus fuertes inversiones, ha sido imponer sanciones en un intento de debilitar al adversario. Sin embargo, existe una fuerte interdependencia tecnológica en todos los ámbitos de ambos corredores: es casi como si corrieran atados uno delante del otro, eso sí, todavía a cierta distancia.

Fue en 2019, en plena ebullición por las sanciones del expresidente Donald Trump, cuando China creo un fondo de 26 000 millones de euros con el objetivo de alcanzar en 2025 su independencia en la tecnología de semiconductores. De esta forma, China quiere revocar sus debilidades. Aún con todo, Silicon Valley continúa siendo líder en el sector. EE. UU. sabe de la dependencia China en patentes (sobre todo en IA¹⁴), ingenieros con fuerte formación científica y procesadores¹⁵.

A su vez, EE. UU. lidera el diseño de circuitos integrados complejos y, por tanto, el de semiconductores avanzados en la frontera tecnológica¹⁶. Ello incluye también las tecnologías de plataforma necesarias para la IA, como son los procesadores lógicos programables, los chips gráficos y microprocesadores¹⁷.

Sirva de ejemplo que China fabricaba en 2019 el 85 por ciento de los móviles y el 65 por ciento de las tabletas y ordenadores personales. Todos ellos estaban basados en semiconductores diseñados en EE. UU., fabricados en Corea o Taiwán, y dotados de sistemas operativos de compañías norteamericanas. Algunos estudios indican que solo el 2 por ciento del coste total de un dispositivo móvil era aportado por China¹⁸.

Microsoft, Amazon y Google son las mayores empresas tecnológicas del mundo y, por tanto, con fortísimas inversiones en IA, pero intuyen la importante competencia que puede venir desde el lado chino. Además, cada gran empresa tecnológica con marcado carácter en IA norteamericana existe su correspondiente China. Frente a Google está Baidu, frente a Apple, Huawei; frente a Uber, Didi y frente a Amazon, Alibaba¹⁹. No hay que olvidar que existe una importante diferencia y es que las empresas chinas disponen de un mercado interior de 1400 millones de personas.

Por otra parte, a los EE. UU. le preocupa la privacidad y el empleo, además de las cuestiones éticas que se derivan de la IA. Sin embargo, los chinos están más convencidos de que todo vale en beneficio de su economía. Aparte, disponen de un concepto de privacidad diferente al occidental. Esta situación puede favorecer la carrera China por la primera posición en IA²⁰. Al final, la carrera es más económica que tecnológica, pero una cosa está atada a la otra. Digamos, usando el símil, que corren por la misma calle.

Europa sigue a distancia el rápido y exigente ritmo impuesto por China y EE. UU. La brecha en IA empresarial con estos dos países es muy significativa. Sirva como claro ejemplo que Europa no dispone de ninguna gran empresa tecnológica como Google, Alibaba, Amazon, Facebook, Tencent, etcétera.

Desde el punto de vista tecnológico Europa no tiene capacidad para fabricar semiconductores por debajo de 22 nanómetros (nm) cuando la frontera está situada en torno a los 5 nm²¹, a su vez, dispone de medios reducidos para el desarrollo de productos tecnológicos y limitaciones de fabricación en circuitos integrados. Estos son la base por donde circulan los difíciles algoritmos de la IA. Significativa deficiencia que supone una clara debilidad a solucionar. No obstante, a nivel Unión Europea comienzan los movimientos.

La Comisión Europea, en abril de 2018, publicó un comunicado sobre IA. El más importante compromiso fue el de lograr entre inversores privados y públicos 20 000 millones de euros en desarrollo e investigación de IA durante los años 2021 a 2027. El objetivo era y es disminuir la importante brecha de inversión en I+D+I respecto a EE. UU. y China. Es en febrero de 2020 cuando la presidenta de la Comisión Europa, Ursula Von der Leyen, comprometió esa cantidad.

Por otra parte, en diciembre de 2018 los Estados miembros de la UE quisieron aumentar la cooperación europea en IA mediante un plan previamente coordinado. Como dijo el presidente de la Comisión Europea en un discurso pronunciado en 2018 «compartir la soberanía, cuando y donde sea necesario, hace más fuerte a cada uno de nuestros Estados-nación²²». Correr juntos ayuda a sumar esfuerzos para intentar no quedarse atrás. La UE debe unirse para luchar por los puestos de cabeza de esta carrera tecnológica. Quedarse atrás no es una opción, por las importantes consecuencias en los ámbitos político, económico y militar. Además de correr el riesgo de convertirse en el campo de batalla de americanos y chinos por conquistar su importante mercado.

El propio presidente del Gobierno, Pedro Sánchez, es el que en noviembre de 2020 presentó la Estrategia Nacional de Inteligencia Artificial (ENIA). Esta iniciativa, impulsada por la secretaria de Estado para la Digitalización e Inteligencia Artificial, «busca situar a nuestro país en la línea de los países líderes en la investigación y el uso de una inteligencia artificial confiable al servicio del desarrollo económico y social, al servicio de nuestra modernización económica», en palabras del propio presidente.

Esta estrategia dispone de seis ejes con la mayor inversión centrada en «el impulso a la investigación científica, el desarrollo tecnológico y la innovación en IA» dotado con 275 millones de euros. Todo ello forma parte del Plan España Digital 2025 presentado a finales de julio de 2020 y, a su vez, está alineado con la Agenda 2030.

De esta manera, España pretende impulsar no solo la inversión privada, sino también los avances tecnológicos necesarios para no perder la carrera por la IA. Ahora queda que esos impulsos estén incardinados con los de la UE para hacer buena la necesidad de correr juntos en esta materia.

La IA está de actualidad desde hace diez años debido principalmente a los avances en hardware y al considerable aumento de los datos. Ello permite a los algoritmos y al reconocimiento de patrones unos niveles de fiabilidad no alcanzados hasta ahora. Las leyes de Clarke abren un gran abanico de posibilidades y probablemente la revolución será mayor que la que hubo con «la electricidad o el fuego». A continuación, se exponen, de forma breve, unas reflexiones sobre IA y la relevancia para el futuro que justifica la guerra fría tecnológica entre China y EE. UU. desde diferentes puntos de vista:

•    Económico. La consultora PwC²³ aseguraba en 2020 que, en 2030, la IA aportará 14 billones de euros al PIB mundial. Sin embargo, en 2018, tan solo representaba los 1700 millones. Este salto resulta tan significativo que alcanza niveles inéditos en la historia. Estas sumas, que resultan difíciles de asimilar, pueden suponer un importantísimo factor geopolítico. La tecnología va de la mano de la economía, no se entiende la una sin la otra.
•    Guerra fría tecnológica. Se está librando sobre todo en tres ámbitos tecnológicos: la IA, los semiconductores y los sistemas de comunicaciones móviles 5G. Todos ellos fuertemente relacionados entre sí. El punto de inflexión de esta «guerra» se produce cuando el expresidente Trump incluye a Huawei en la lista negra tecnológica.
•    Áreas más importantes de aplicación de la IA. Son varias las áreas en los que la IA se ha mostrado especialmente útil y, por tanto, su uso se ha extendido de forma exponencial: salud, comunicaciones móviles, seguridad, defensa, sector financiero, automoción, agricultura, drones, chatbots, ciudades inteligentes, reconocimiento de patrones, etcétera.
•    Interdependencia. La globalización está presente en la tecnología. No existe ningún país en este momento que por sí solo esté preparado para mantener de forma independiente grados de tecnología tan avanzados. EE. UU. y China interaccionan y uno sigue necesitando del otro para sustentar los avances logrados. Ejemplos son el diseño de semiconductores, los sistemas operativos o el propio gran mercado chino para dar salida a la gran producción tecnológica americana.
•    Proteccionismo. Las políticas proteccionistas de EE. UU. pretenden frenar y obstaculizar de alguna manera el avance inexorable de China por lograr un primer puesto en IA.
•    Colonialismo de datos. La fiabilidad de los algoritmos está basada en gran medida en los datos. Pasados por el algoritmo correspondiente sirven para controlar, predecir o incluso manipular los mercados y ello tiene un alcance económico incuestionable. Las grandes empresas tecnológicas disponen de miles de millones de ellos. Están en su poder. Esto origina que los datos estén en manos de un tercero en muchos países donde no está la sede de estas grandes empresas. Ello da lugar un colonialismo del dato difícil de aceptar.
•    Niebla tecnológica. Los algoritmos que hacen posible el aprendizaje automático y profundo han alcanzado un nivel de complejidad tal que es difícil saber con exactitud cómo realmente obtienen el resultado buscado. Actúan como una caja negra donde una niebla tecnológica envuelve incógnitas para los propios diseñadores.
•    Un ejemplo puede ser el accidente sucedido recientemente con un vehículo TESLA conducido por piloto automático en Harris (Texas-EE. UU.) con los dos ocupantes fallecidos. El coche se estrelló contra un árbol en una curva que tomó a alta velocidad cuando no había nadie en el asiento del conductor²⁴. Probablemente, el accidente ocurrió por una ejecución imprevista del algoritmo²⁵.
•    Confianza. La IA empieza a generar desconfianza. Los EE. UU. recomiendan no comprar alta tecnología Made in China al considerar que mucha de la que llevan sus equipos es sospechosa de generar datos que pueden ser exportados sin conocimiento del usuario por sus autoridades o grandes tecnológicas. Desde el punto de vista de la Seguridad y la Defensa representa un factor de suma importancia. Hechos como el del citado accidente de TESLA no favorece la generación de confianza.
•    Sesgos: Se puede entrenar modelos de aprendizaje automático que no representen convenientemente a las minorías o al revés, que las minorías estén sobrerrepresentadas. Las acciones o las decisiones que se toman están sesgadas, bien por la cultura, bien porque no se dispone de todos los datos, bien porque se está falto de información, etcétera. El resultado puede ser un algoritmo con sesgos.
•    Existen numerosos ejemplos de ello. En EE. UU., se hizo un sistema de IA desarrollado por Nortpointe que realizaba recomendaciones de ayuda a los jueces para determinar qué personas podían beneficiarse del régimen de libertad condicional y cuáles no. Tras su puesta en marcha, otra empresa, RedPublica, descubrió que el algoritmo mostraba un importante sesgo racial. Los que diseñaron el algoritmo no eran racistas, pero introdujeron un sesgo probablemente porque no llegaron a comprender cómo funcionaba el algoritmo.
•    Ética. Hay que reflexionar sobre cómo el ser humano va a utilizar la IA para transformar el mundo y resolver problemas. Aspectos como la justicia social, la diversidad, la explicabilidad y la transparencia deben ser tomados en consideración a la hora de elaborar los patrones de aprendizaje que rigen los algoritmos. En definitiva, hay que dotar de humanismo y valores a la IA para lograr el fin pretendido.
A su vez, surgen nuevos aspectos éticos: el humanismo y los valores corresponden a una sociedad y no al desarrollador de la IA, al que los fabrica o al que los aplica. Esa sociedad también está influenciada por su cultura e historia convirtiendo todo ello en un círculo de difícil solución.
•    Regulación. Surgen varias preguntas respecto a la IA, si disponen de personalidad jurídica, quién es el responsable de un mal funcionamiento de un sistema de IA, cómo se resuelven los daños provocados, cómo se investigan, cómo se intervienen para evitarlos en el futuro o cómo se procesan los datos de las personas. En definitiva, cómo se rinden cuentas, más cuando existe indefensión ante la gran asimetría entre las grandes empresas de IA y las personas. Todo ello necesita de una regulación que en la actualidad es deficiente y a la que se niegan las grandes tecnológicas.
•    Ciberdefensa. El uso malicioso de la IA para romper contraseñas o manejar correos electrónicos gobernados por malware, hackear servidores o manipular algoritmos son solo alguno de los ejemplos de lo que puede hacer en sentido negativo la IA. Estas situaciones que ocurren a diario entrañan un peligro de seguridad que trasciende a la Defensa de las naciones. Contra la IA la mejor arma es otra IA que la supere y luche contra ella para evitar estos ataques tecnológicos26. La importancia de la ciberseguridad tanto en el mundo civil como en el militar adquiere ahora y en el futuro una importancia máxima.
•    Computación cuántica. Otro terreno aún más exploratorio y continuador de la guerra fría tecnológica es el de la computación cuántica. Los ordenadores clásicos trabajan con 1 o 0, sin embargo, los cuánticos lo hacen con 1 y 0 a la vez. Es decir, pueden tener los dos estados al mismo tiempo. Esto se traduce en una potencia de cálculo muy superior a la clásica. La computación cuántica hará cálculos impensables resolviendo problemas hasta ahora inalcanzables.
•    Educativos. El rápido desarrollo tecnológico, y en particular el de la IA, va a moldear los sistemas educativos. Las competencias que adquirir en los procesos de aprendizaje se van a inclinar cada vez más hacia las soft skills27. Superada la fase de conocimiento básico la tendencia será hacia periodos de aprendizaje más cortos, pero con una presencia a lo largo de toda la vida profesional. Reciclaje continuo. Caso contrario, se correrá el riesgo de preparar a las personas para el ayer en lugar de para el mañana.
•    Empleo. Si las máquinas dotadas de IA pueden hacer el trabajo humano, es evidente que no se contratarán humanos. Esta circunstancia, que ya está sucediendo, solo hay que ver los miles de despidos en sectores como el financiero, ocasiona y podría ocasionar aún más en el futuro importantes conflictos sociales. La propias circunstancias crearán nuevos empleos, pero posiblemente no los suficientes, en cuyo caso, habrá que regular cómo se reparte ese beneficio obtenido por máquinas. Si solo lo recibe el propietario de la máquina aumentará la desigualdad social de forma difícilmente asumible.

El futuro de la IA y su impacto no está predeterminado, su alcance es aún exploratorio. Existen un relevante número de oportunidades, pero también de riesgos con todo lo que está entre ambos.

La IA cada vez juega un papel más relevante como factor estratégico en geopolítica y relaciones internacionales con un fuerte impacto en los planos político, económico y militar. A su vez, puede acelerar la concentración de los recursos tecnológicos necesarios en unos pocos actores: países o grandes empresas tecnológicas. Esto originará un desequilibrio en el crecimiento mundial y la distribución de la riqueza. La desigualdad siempre es fuente de conflictos sociales.

Existe una pugna evidente por el dominio de la IA entre EE. UU. y China. Es China la que destaca por una ambiciosa apuesta por la IA. La fecha para superar a EE. UU. la tiene puesta en 2030. Una maratón tecnológica donde va en segundo lugar, pero dispuesta a saltar al primero.

Europa sigue una carrera llena de obstáculos. De no superarlos, puede quedar relegada a ser una colonia digital por cuyo mercado lucharan enconadamente las empresas chinas o americanas. La única opción para Europa es fortalecer la integración de su mercado único y posicionarse como un solo bloque para conseguir competir en el escenario global tecnológico actual.

La computación cuántica revolucionará todavía más la IA y será un nuevo factor que irrumpirá con fuerza a corto plazo en la carrera tecnológica. El uso de algoritmos cuánticos abre nuevos horizontes tecnológicos y será posibilitador de la Inteligencia Artificial General28. Usando el símil de la tercera Ley de Clarke, cuando esté avanzada puede aproximarse a la magia.

El comportamiento de las personas está regulado por la cultura, la moral, la ética y los valores. Está impregnado de humanismo. Sin embargo, las máquinas de IA, en las que corren los algoritmos, se rigen por los datos y las propias leyes que los ingenieros introducen. La IA no es capaz de sentir o de crear, además no es responsable. Está falta de humanidad. Existe el peligro de los sesgos, de falta de ética o que interfieran en la vida de las personas sin su conocimiento. Por ello, su desarrollo debería ser un compromiso en beneficio y al servicio de la humanidad que siga una línea lógica y ética.

Los algoritmos imperfectos o maliciosos se pueden alojar en cualquier lugar: comisarías de policía, Fuerzas Armadas, despachos de abogados, servidores, etcétera. Los riesgos de piratería, sabotaje o robo son con la IA mucho más grandes que en la dimensión anterior de internet. Por todo ello, la ciberseguridad y la ciberdefensa adquieren un papel mucho más relevante que antes.

La IA tiene un largo camino que recorrer para ganarse la confianza de los humanos. Los sesgos, los conflictos éticos y las graves consecuencias que el uso de los algoritmos puede tener hace que se genere cierto miedo al cambio. Llegar a comprender cómo funciona la IA y, por tanto, los algoritmos que la sustentan es un factor clave para la confianza.

La IA tiene como materia prima la ingente cantidad de datos que alimentan a los algoritmos. La forma de obtención de estos, así como su uso, deben estar sujetos a regulación. Existe la oposición de las grandes empresas tecnológicas que debe ser superada con la correspondiente legislación que proteja la privacidad de los individuos.

La IA es una carrera hacia un futuro tecnológico en donde se abren magníficas perspectivas que harán una vez más buenas las leyes de Clarke. Sin duda, puede mejorar la calidad de vida de las personas y resolver muchos problemas que acucian a la sociedad. Hay grandes avances en salud debidas a la IA, pero también puede servir para evitar  el cambio  climático, introducir  mejoras considerables en  la agricultura, disminuir el número de accidentes de coche, regular el tráfico de las ciudades o de puertos, incluso erradicar la pobreza y así con un largo número de ejemplos. Sin embargo, puede hacerse un mal uso de ella. Es un trabajo de la humanidad alcanzar un grado de sabiduría conjunto para hacer de la IA una mejora considerable en la vida de las personas.

Joaquín Fournier Guimbao*
Capitán de Navío, DEM Profesor asociado Departamento Liderazgo ESFAS

1. 1 Arthur C. Clarke (1917-2008) entre otras muchas obras de ciencia ficción publicó The Sentinel (1951) cuyo éxito cinematográfico de Stanley Kubrick “2001: una odisea en el espacio” le obligó a cambiar de título por el de la película.
2. 2 El bosón de Higgs es un tipo de partícula elemental, que una vez que se produce se desintegra casi instantáneamente, y que se cree tiene un importante papel en el mecanismo por el que se origina la masa en el universo.
3. 3 William Thomson, Lord Kevin (1824-1907) es uno de los científicos que más contribuyó a modernizar la física. Es especialmente conocido por desarrollar la escala de temperatura Kelvin.
4. 4   NAIM,   Moisés.   “La   angustiada   euforia   de   Davos”,   El   País,   enero   2018. 
5. 5 John Patrik McCarthy junto con Allen Newell, Herbert Simon, Marvin Minsky y Arthur Samuel, que también asistieron a la conferencia de Dartmouth, son considerados los fundadores de la IA.
6. 6 Es en este artículo donde apareció la primera referencia al denominado Test de Turing. Este permite conocer la capacidad de una máquina para mostrar un comportamiento difícil de distinguir a la de un ser
7. 7 Aprendizaje profundo es un campo dentro del aprendizaje automático. Se inspira en el funcionamiento de las redes neuronales del ser humano y permite que una máquina aprenda a través de su propio procesamiento de los datos. Se usa, entre otros muchos ejemplos, para identificar patrones de datos no estructurados: reconocimiento de voz, sonido, texto e imágenes, en traducción automática y en el procesamiento del lenguaje.
8. 8 Documento de Trabajo 06/2018, Instituto Español de Estudios Estratégicos, “La Inteligencia Artificial aplicada a la Defensa”. Disponible en: http://www.ieee.es/publicaciones-new/documentos-de-
9. 9 AlphaGo es un programa informático desarrollado por Google Deepmind preparado para jugar al juego asiático Go. Deepmind es de origen británico pero adquirida por Google en 2014 por 500 millones de euros.
10. 10 Go es un juego milenario chino sobre tablero para dos personas cuyas estrategias son mucho más
11. 11 Huawei, empresa china líder en comunicaciones móviles 5G, posee el 30 % del mercado mundial de equipos de redes 5G.
12. 12 LEON, Gonzalo y DA PONTE, Aureliano, “Desafíos para la Unión Europea en las redes de innovación y producción de comunicaciones móviles, semiconductores e inteligencia artificial”, documento de investigación 08/2020, noviembre 2020, IEEE. Disponible en: http://www.ieee.es/publicaciones- new/documentos-de-investigacion/2020/DIEEEINV08_2020GONLEO_desafiosUE.html
13. 13 SENDAGORTA, Fidel, “Estrategias de poder: China, Estados Unidos y Europa en la era de la gran
14. 14 El 51 % de las patentes mundiales en 2018 fueron americanas.
15. 15 NOCCETTI, Julien, “Europa, colonia digital de China y EEUU”, La Vanguardia, 2020. Disponible en: https://www.lavanguardia.com/vanguardia-dossier/20201022/484099655130/europa-colonia-digital-5g- caso-huawei-militarizacion-interdependencia-china-eeuu.html Fecha consulta 25.04.2021
16. 16 La tecnología que permite fabricar estos dispositivos, especialmente los tecnológicamente más avanzados, los escalones de 10, 7, 5, 3 y 2 nanómetros, es casi en exclusiva de una empresa europea:
17. 17 Ibidem, nota 12.
18. 18 AZNAR FERNÁNDEZ-MONTESINOS, Federico. La inteligencia artificial como factor geopolítico. Documento de Análisis IEEE 18/2019. Disponible en: http://www.ieee.es/publicaciones-new/documentos- de-analisis/2019/DIEEEA18_2019FEDAZN_IAgeopolitica.html Fecha consulta 20.03.2021.
19. 19 RUIZ DE GAUNA, Clara “Estados Unidos y China: la batalla está en la tecnología”, Diario Expansión. Disponible    en:    http://www.expansion.com/economia- digital/companias/2019/05/25/5ce81135e5fdea8f308b4618.html Fecha consulta 03.05.2021.
20. 20 Ibidem, nota 8.
21. 21 Un pelo de cabello humano dispone de un ancho de 100 000 nm.
22. 22 European Commission (2018). State of the Union 2018: The Hour of European Sovereignty (12/09), Strasbourg, France. Disponible en: https://ec.europa.eu/commission/news/state-union-2018-hour- european-sovereignty-2018-sep-12_en Consultado 30.04.2021.
23. 23 PwC, PriceWaterhouseCoopers, es una de las cuatro firmas de consultoría más grandes del mundo.
24. 24 “Dos fallecidos en un accidente de un Tesla sin conductor en Texas”, Agencia EFE, 18.04.2021. Disponible en: https://elpais.com/economia/2021-04-18/dos-fallecidos-en-un-accidente-de-un-tesla-sin- conductor-en-texas.html
25. 25 TESLA sigue recomendando conductor con las manos al volante en todo momento.
26. 26 La inteligencia humana no es capaz de reaccionar, ni tomar decisiones al enfrentarse al uso malicioso de la IA, por lo que la única solución es otra IA mejor para defenderse. El tiempo de reacción toma un papel muy significativo.
27. 27 Competencias blandas. Aquellas enfocadas a la habilidad más que al conocimiento como son: aprender a aprender, pensamiento crítico y creativo, comunicación, liderazgo, etcétera.
28. 28 La inteligencia artificial general o fuerte es aquella que se acerca a la inteligencia humana o incluso la supera. No es limitativa, es decir, puede resolver problemas generales como hace el pensamiento humano. La realidad es que la tecnología actual está lejos de alcanzarla.