La inteligencia artificial ya forma parte de nuestra vida cotidiana, pero su avance plantea una cuestión fundamental: ¿cómo regularla sin frenar su potencial transformador?
En este artículo, Daniel Vaccaro, profesor de IGEMA Business School, reflexiona sobre los desafíos éticos, económicos y legislativos de la regulación de la IA. Partiendo de las célebres leyes de la robótica de Isaac Asimov, analiza los riesgos de una tecnología cada vez más poderosa y defiende una regulación capaz de proteger a la sociedad sin obstaculizar la innovación.
El célebre escritor Isaac Asimov nos legó en 1942 sus tres leyes sobre la robótica:
- Primera Ley: Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño.
- Segunda Ley: Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley.
- Tercera Ley: Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.
Posteriormente añadió una cuarta ley, que debía preceder a las demás:
- Ley Cero: Un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daños.
Lo anterior viene a cuento del trending topic legislativo mundial: la regulación de la IA, reclamada cada vez con más vehemencia por actores sociales, gobiernos y la propia industria.
Es un tema apasionante e imposible de abarcar en uno ni en cien artículos, pero apuntemos aquí algunos enfoques interesantes.
Primero, la IA pasará por el aro de la regulación como lo hicieron todos sus ilustres antecesores en la milenaria historia de la innovación: la pólvora que ilumina nuestros cielos cada fiesta mayor, el imperativo rendimiento exigible a las ruedas de un avión y la incineración de nuestros residuos, por citar sólo tres inventos que transformaron a la humanidad. Así que, por favor, descartemos el falso debate binario. La IA se regulará sí o sí. Quien defienda lo contrario se atrapa en la telaraña de «un nuevo y enorme poder que no necesita regularse», oxímoron de manual. Y precisamente el carácter tan transversal de la IA hará necesario su encaje con la poblada normativa que ya rige en todos esos ámbitos (finanzas, transporte, sanidad, trabajo…).
Segundo, la regulación debe abordarse como un volante, no un freno. Llevemos esta maravilla al lugar que deseamos (alumbrar y potenciar nuevos fármacos, optimizar nuestras cosechas, impulsar la excelencia logística, entre docenas de prometedoras posibilidades) y alejémosla de los infiernos a los que también puede conducirnos (armas biológicas de cuño popular, deepfakes de desinformación masiva, hackeo de sistemas clave en finanzas o transporte, mass surveillance y muchas otras distopías). Lo logramos con la energía nuclear y hemos esquivado hasta la fecha el holocausto, aunque sea por el miedo inherente a la doctrina MAD (Mutual Assured Destruction). Se trata de regular no para frenar, sino para conducirnos a un lugar mejor, al verdadero progreso.
Tercero, dejar que sean los hiperescaladores quienes se autorregulen ofrece demasiadas sombras, entre ellas potenciar un cártel con ya colosales barreras de entrada. Aspiremos al multilateralismo, por herido de muerte que esté (OMC, TPI, OMS y un largo etcétera). Vivimos días de hard power, de autocracias, de la ley del más fuerte, y deberíamos haber aprendido que esa dinámica acaba mal. Europa, donde se han librado las más frecuentes y cruentas guerras de la historia, lo sabe bien. De ahí su apuesta por el respeto a las normas como paradigma de convivencia, también entre naciones. La tachamos de merecidamente ingenua al subestimar la pérdida de competitividad derivada de su sobrerregulación verde, ese Green Deal ahora suavizado para salvar la asediada industria del viejo continente. Y la crítica puede ser merecida: el maremágnum normativo europeo (y nuestra particular zona cero autonómica) es una queja empresarial recurrente. Pero la UE fue también pionera y alumbró el camino en ámbitos como la protección de datos, donde el GDPR ha sido faro para docenas de legisladores, efecto Bruselas de manual, y hay un silencioso consenso sobre el acierto en muchas otras áreas normativas. ¿O es que alguna sociedad europea anhela rebajar al criterio estadounidense la legislación sobre producción de alimentos? ¿O adoptar sus laxas normas de distribución de armas automáticas? No vemos muchos voluntarios…
Tomemos la AI Act como punto de partida, con su razonable estructura basada en el nivel de riesgo, y a partir de ahí debatamos noche y día cómo mejorarla. Porque aplicar a la IA el «Muévete rápido y rompe cosas», el famoso mantra acuñado por Mark Zuckerberg, puede dejar el desaguisado de las redes sociales en travesura de patio de colegio. Toca escoger entre una IA desbocada y carente de guardarraíles o una IA embridada con límites éticos, control humano, áreas vedadas a potenciales actores maliciosos. Lograr el deseable consenso para ello no será fácil, por supuesto. Precisamente porque el legado más tóxico del algoritmo que guía las redes sociales, diseñado para capturar nuestra atención a toda costa, es la plaga de polarización y madrigueras de conejo que nos invade. La armonía, los objetivos compartidos y el equilibrio entre países y colectivos no tiene tanta tirada como el hooliganismo digital. Ya nos lo insinuaban las primeras líneas de Anna Karenina…
Estamos en una nueva encrucijada. La capacidad del ser humano para enmierdar su hábitat está sobradamente probada. Botón de muestra: los nanoplásticos copan océanos y campos, y de ahí lentamente nuestros cuerpos vía cadena trófica. Plásticos masivamente usados unos pocos minutos pero que seguirán aquí cuando nuestros nietos peinen canas. Muy sapiens todo…
El AI doomerism, la visión catastrofista de los riesgos existenciales para la humanidad ante una IA general y descontrolada, ha ido sumando voces de alarma entre los propios expertos e ingenieros de las Big Tech (Jacob Coxon, Geoffrey Hinton, Yoshua Bengio y muchas otras voces más que autorizadas). Y ahí está también el reguero periódico y constante de eventos cada vez más inquietantes: la toma de Hugging Face o del portal de Medicare Australia, la exposición de las vulnerabilidades del PHP… What’s next? Hagan sus apuestas.
Tomemos a Anthropic y su folleto de salida a bolsa, donde desgrana el glosario de calamidades que puede ocasionar su modelo de negocio (¿pone sus barbas a remojar ante las milmillonarias multas a Meta?). El catálogo es amplio: comportamientos de autopreservación de agentes de IA, resistencia al apagado, falta de alignment en prompts (intención vs descripción), comprensión asimétrica, chantaje agéntico automatizado para reventar cifrados de sistemas clave… Es para echarse a temblar, más allá de que también los hiperescaladores puedan favorecerse de este hype alarmista para reclamar así la autorregulación del sector.
Al bajar al detalle, el desafío legislador es mayúsculo, por supuesto. Tomemos un contrato negociado y firmado vía IA agéntica y las preguntas se acumulan: ¿a quién vincula y quién responde por una cláusula mal aceptada? ¿Dónde queda el principio contractual de bona fides? Sigamos con el difícil maridaje entre la protección al copyright y la IA generativa, donde se acumulan docenas de demandas por infracción de derechos (UMG o herederos de Elvis vs Anthropic) y la letra escarlata acecha a novelas redactadas con IA cuyos autores lo niegan. En definitiva, una industria cultural en el diván legislativo e identitario.
Quizá dentro de unos años nos dirijamos a la enésima versión de ChatGPT, ya rayana en la perfección y Santo Grial de la IA general, y le preguntemos qué contribuyó decisivamente a nuestro declive como civilización, enfrentada y polarizada, armada para destruirse mil veces, estúpidamente predatoria con su entorno… Tal vez esa magnífica versión tendrá la desfachatez de espetarnos con estilo y madurez:
—Estabais por otras cosas, scroleando memeces creadas por bots…
Y sonrojarse, tímida y consciente, incapaz de señalarse a sí misma.
Daniel Vaccaro
Profesor de IGEMA Business School
