Aterriza como puedas. Incompetencia regulatoria en la era digital

Aterriza como puedas. Incompetencia regulatoria en la era digital
JUAN PABLO PEÑARRUBIA CARRIÓNPte. Consejo General de Colegios Profesionales Ingeniería Informática

La tibieza y la inacción política en un asunto (incompetencia, hablando con propiedad), se transforman en acción cuando hay muertes de por medio. O al menos apariencia de acción…

El 26 de julio ha entrado en vigor una directiva de la Agencia Europea de Seguridad Aérea, que establece que los aviones Airbus A350-941 deben apagarse y encenderse antes de las 149 horas de funcionamiento ininterrumpido para seguir operando con seguridad. Algo así como la medida casera de apagar y encender el ordenador cuando no funciona como debiera… Esta noticia trae a la palestra el aún no resuelto caso del Boeing 737 Max y la urgencia de ocuparse de la regulación digital.

En octubre del año pasado, el fallo del programa informático del Boeing 737 Max de Lion Air provocó una de las mayores tragedias aéreas de los últimos tiempos. El defecto del sistema de estabilización automática del avión originó un accidente que se saldó con 181 muertes. Pero fue insuficiente para que los políticos pasaran de las palabras a los hechos en la asignatura pendiente de la adecuada regulación de la informática, en esta era que se ha dado en llamar de la sociedad de la información y el conocimiento o, usando el último término de moda: sociedad digital. Demasiados intereses en juego. Sólo tras otras 157 muertes inmediatamente después, el pasado 10 de marzo, con el mismo modelo de avión accidentado, operado en este caso por Ethiopian Airlines, pareció haber una reacción real. Eso sí, la reacción llegaba después de que en Europa y Estados Unidos se prohibiera volar a los aviones Boeing 737 Max. Así como un informe del gobierno etíope evidenciando el fallo informático, descartando el fallo humano y constatando además que los pilotos intentaron infructuosamente parar el sistema informático de estabilización automática. Algo habrá influido que el asunto haya derivado en la mayor crisis de la historia de Boeing, con caída de ventas, pedidos, y una pérdida de capitalización bursátil del 13%. Siendo Boeing la empresa con más peso en el índice Dow Jones…

Todos los días se conocen casos de «fallos informáticos». Frecuentemente no son tales y solo disfrazan fallos humanos u organizativos. Pero cuando sí que lo son, es habitual que tengan en común dos elementos: que el perjuicio final es para las personas, y que la organización afectada usa la falta de regulación para eludir su responsabilidad. Vale la pena recordar dos casos por su repercusión global. En primer lugar, el caso Volkswagen de manipulación del programa informático de control de emisiones contaminantes, como ejemplo de los peligros de la selva de la no regulación informática, en un mundo en que el componente informático es cada vez más importante en todos los productos y servicios. Piénsese, en este caso, no solo en la vertiente del fraude o la ecología, sino cuando tenemos a la vista la conducción autónoma, con vehículos que para desplazarse no necesitan que una persona se siente al volante, evidentemente gracias a medios informáticos. De nuevo podemos estar hablando de vidas en juego. En segundo lugar, el caso Facebook que estalló con Cambridge Analytica, y que ha tenido otros episodios siempre relacionados con la privacidad y el uso fraudulento de nuestros datos personales, cuya consecuencia más importante ha sido el reconocimiento del propio Mark Zuckerberg de la necesidad de regulación y un papel más activo de los gobiernos. Gesto insuficiente, pues en estos días Estados Unidos ha impuesto a Facebook una multa de 5.000 millones de dólares por este caso.

Pensemos no ya en fallos, sino en el mal uso intencionado, que cuando no hay regulación ¡ni siquiera es delito! El listillo, o la empresa en cuestión, puede mirarte a los ojos y decirte: Lo hago porque puedo (léase, porque la regulación no me lo impide…). Es decir, la no regulación sustenta la impunidad del autor y la indefensión de los afectados.

La regulación es parte de la innovación

Cuando hablamos de regular la informática, nos referimos a la introducción de leyes que generen un marco adecuado para el control en el desarrollo y aplicación de la actividad informática (dispositivos, aplicaciones, servicios, tareas profesionales…) La regulación de los productos, servicios y actividades informáticas tiene diferentes vertientes. En el contexto del caso Boeing, una fundamental es el control de algunas actividades profesionales, y como se evidencia en otras profesiones con alto nivel de innovación, es esencial como mecanismo de calidad y seguridad en actividades profesionales que, en el ámbito jurídico, se dice que tienen impacto en el interés general, es decir; que afecta al bien común de la sociedad (seguridad, prevención de delitos, salud...). Los programas informáticos de los casos Boeing, Volkswagen o Facebook tienen unos autores, que en el primer caso han sido negligentes y en el segundo han sido colaboradores necesarios (de un delito) por encima de la adecuada práctica y deontología profesional. Los profesionales son la clave para dar calidad, confiabilidad y seguridad jurídica a cualquier práctica altamente cualificada y con un elevado nivel de innovación, como es el caso de la ingeniería informática (nótese que no hablamos de informática en general, que es un concepto mucho más amplio y con muy diversas actividades y niveles de cualificación) y el marco debe estar regulado. Vamos al médico confiados porque la administración nos garantiza un sistema en el que solo los profesionales acreditados pueden realizarnos un diagnóstico o una intervención. Y si esto nos parece lógico; ¿por qué dejamos que en otras áreas de nuestra vida igual de sensibles cualquiera pueda meter mano sin control?

Cuando en el diseño de productos o servicios se sigue una especificación, como un estándar, o una certificación en el caso Boeing, es precisamente la exigencia de profesionales cualificados en el proceso un mecanismo clave de calidad y seguridad para detectar casos no contemplados en la especificación. En todos los ámbitos de la ingeniería los estándares y certificaciones son instrumentos fundamentales, pero igualmente, el factor humano profesional es la mejor herramienta para el control último en algunas actividades, como ejemplifican los casos Boeing, Volkswagen y Facebook.

La falacia de la autorregulación ha muerto. Ojalá el caso Boeing marque un antes y un después. Los gobiernos, con los representantes políticos a la cabeza deben asumir con determinación el reto de la regulación adecuada de los productos, actividades y servicios informáticos (¡Incluyendo la fiscalidad!). La no regulación actual, es la peor regulación posible. Ya no valen los pretextos de la complejidad técnica o la vertiente internacional del asunto. Ni la desfachatez de soportar la vergüenza ajena de los evidentes intereses creados. Esta es la nueva realidad social y los políticos y los poderes públicos no pueden escurrir el bulto: hay que regular esta nueva realidad.

En la primera asamblea de la Alianza Europea de Inteligencia Artificial (AI Alliance) celebrada el pasado 25 de junio en Bruselas una de las ideas reiteradas fue que la no regulación no es una opción. No ya en relación a la inteligencia artificial (IA) sino al conjunto de la informática, de la que la IA es una rama. Pero el temor social ante la posibilidad de intensificar el uso de IA está detonando ¡por fin! la comprensión de la necesidad y la urgencia en la regulación digital. Por si fuera poco, se debatió también sobre la necesidad de conciliar regulación y competitividad, comprendiendo que la regulación forma parte intrínseca de la innovación, idea por cierto subrayada por Khalil Rouhana, responsable en la Comisión Europea del desarrollo de un mercado único digital para promover un crecimiento inteligente, sostenible e inclusivo en Europa.

Cualquier camino comienza con un primer paso, pero sobre todo con la voluntad de querer recorrerlo. Además, en el caso de España enterrando el «que inventen otros». La Unión Europea es lo que es, y España ha de dar un paso al frente en el liderazgo digital. Precisamente para contribuir a que la Unión Europea de un paso al frente en el liderazgo digital mundial.

Por otro lado, es poco sabido que la Constitución Española, por su modernidad, incorpora una acertada y visionaria disposición sobre el uso de la informática. Sí, así con todas las letras. El artículo 18 de nuestra Constitución establecía hace 40 años, y precisamente poco después de la creación de los estudios universitarios de informática en España, que «La ley limitará el uso de la informática para garantizar el honor y la intimidad personal y familiar de los ciudadanos y el pleno ejercicio de sus derechos». Huelgan lo comentarios…

¿Y los partidos políticos españoles que hacen? Lo que dicen: Los principales partidos están de acuerdo en que es un asunto importante que hay que resolver. Hay múltiples proposiciones no de ley desde 2008, para la adecuada regulación de la ingeniería informática en España. Lo que hacen: huir hacia adelante. España es el único país europeo que maltrata a la ingeniería informática en relación al resto de ingenierías abandonándola a una situación regulatoria anormal. Curiosamente al mismo tiempo se lamenta la necesidad de más vocaciones de profesionales digitales. Ni que decir tiene que con este escenario es imposible pensar en un liderazgo español en materia de gobernanza de la sociedad digital. Los padres de la Constitución tenían hace 40 años mucha más visión que nuestros políticos actuales. Otra vez…

Hay muchos actores beneficiarios de esta incompetencia regulatoria en la era digital. Pero lo más importante es tener claro que el único perjudicado es el ciudadano de a pie. Las consecuencias pueden ser; desde perder la privacidad a perder la vida, y entre los dos extremos toda la escala de grises… Siempre con el denominador común de la impunidad del que abusa y de la indefensión de la persona. ¿Vamos a hacer algo? ¿O como en el ordenador nos limitaremos a Aceptar, Aceptar, Aceptar…?