Capítulo 17 La cláusula invisible

El borrador normativo había alcanzado una extensión que ya no era meramente técnica, sino simbólica.

Ciento treinta y dos páginas de definiciones, procedimientos, excepciones y anexos metodológicos que pretendían domesticar algo esencialmente dinámico, como la capacidad de un sistema algorítmico global para influir en la conversación pública en tiempo real. Y todo eso, estructurado en pocos días, representaba un gran esfuerzo. Por otra parte, como en toda arquitectura jurídica compleja, su solidez no dependía del volumen, sino de los detalles.

Fue Marina quien detectó primero la anomalía, al día siguiente, el veinticuatro de enero.

Mientras revisaba la versión consolidada enviada por la secretaría técnica del grupo de trabajo, el sistema que aplicaba para analizar documentos – programado por ella misma para este caso - encontró una modificación aparentemente menor en el artículo referido a “intervenciones estructurales”.

La redacción original exigía revisión independiente obligatoria cuando un ajuste afectara variables con impacto transversal en más de un cinco por ciento de la distribución global de contenidos priorizados. La nueva versión elevaba ese umbral al quince por ciento y añadía una frase ambigua: “salvo en contextos de riesgo sistémico debidamente evaluados por el operador”.

Marina leyó la cláusula varias veces, consciente de que su peligrosidad no residía en lo que decía explícitamente, sino en el margen interpretativo que abría. ¿Quién definía el “riesgo sistémico”? ¿Bajo qué criterios? ¿Con qué controles? Ella no encontraba un contenido técnico preciso desde la tecnología digital y algorítmica que explicara esas expresiones.

Envió un mensaje cifrado a Carmen esa misma noche.

- Revisá el artículo 24, inciso b - escribió - . La excepción es más amplia de lo que parece.

Ya de vuelta en Santiago de Compostela, luego de su ida relámpago a Bruselas, donde se cruzó con Tomás a quien pudo saludar, Carmen acababa de terminar una jornada extensa de reuniones cuando recibió el mensaje. Se sirvió un café y abrió el documento. Bastaron unos minutos para comprender que no se trataba de un simple ajuste técnico, sino de una concesión cuidadosamente insertada.

La cláusula invisible, pensó. Eso pasaba en el proceo de negociación de algunos documentos: se insertaba una cláusula de efectos abiertos. En este caso no anulaba el sistema de auditoría, pero lo modulaba. Lo hacía más flexible en situaciones que, precisamente por su gravedad potencial, exigían mayor escrutinio.

Carmen solicitó acceso al historial de cambios del documento. La modificación había sido incorporada tras una reunión restringida entre representantes de varios Estados miembros y el equipo jurídico de Infranet Systems. No era ilegal pero tampoco era transparente. No lo habían comentado antes con ella.

A la mañana siguiente, el veinticinco de enero, planteó la cuestión en la sesión plenaria virtual del grupo de trabajo.

- Necesito claridad sobre el alcance del concepto “riesgo sistémico” - dijo con tono mesurado - . Tal como está redactado, permite al operador autoevaluar circunstancias excepcionales y eludir la revisión inmediata.

Un delegado estatal respondió con aparente tranquilidad.

- En situaciones de desinformación masiva o ciberataques coordinados, la agilidad es esencial. No podemos paralizar la capacidad de respuesta.

- Nadie propone paralizarla - replicó Carmen - . Pero si la excepción se convierte en regla interpretativa, la obligación de auditoría pierde eficacia.

Adrián Figueroa intervino entonces, consciente de que el debate podía escalar, dado que había quedado en evidencia la cláusula incorporada.

- La intención no es diluir el control como tal, sino garantizar operatividad en contextos críticos. Un ataque coordinado puede propagarse en horas. La revisión ex post sigue prevista.

Marina, conectada desde Montevideo, pidió la palabra.

- La revisión ex post solo es efectiva si la decisión excepcional queda sujeta a criterios objetivos predefinidos. De lo contrario, la categoría de riesgo sistémico se vuelve expansiva.

La tensión en la sala no era estridente, pero sí palpable. Se trataba de una disputa por la semántica que, en realidad, definía la arquitectura del poder. Como tantas veces, unas pocas palabras incorporadas en una negociación lateral, matizaban hasta desmantelar una solución crítica que perjudicaba algunos intereses.

En paralelo, la fiscalía competente en Galicia avanzaba hacia una conclusión preliminar.

Los indicios no alcanzaban para sostener una imputación por manipulación deliberada con fines partidistas para la empresa creadora de la tecnología, pero sí configuraban posibles infracciones a deberes de diligencia reforzada en sistemas de alto impacto social.

Varela recibió el informe preliminar con una mezcla de alivio y desasosiego. La ausencia de dolo explícito evitaba un desenlace penal devastador, pero confirmaba algo inquietante: el problema no había sido una conspiración, sino una cultura organizacional acostumbrada a operar en la frontera de lo regulado sin preguntarse si esa frontera era suficiente.

Esa tarde, se reunió con Adrián Figueroa en su despacho.

- Probablemente no habrá cargos por manipulación intencional - le explicó - . Pero sí podrían imponerse sanciones administrativas cuantiosas por falta de documentación exhaustiva y evaluación de impacto.

Adrián asintió lentamente.

- Podemos asumir sanciones económicas - dijo - . Lo que me preocupa es el precedente.

- El precedente ya existe - respondió Varela - . La cuestión es si lo moldeamos o lo dejamos en manos de otros.

La discusión sobre la cláusula invisible se extendió dos días más.

Algunos Estados defendían la necesidad de un margen operativo amplio. Las organizaciones civiles asistentes como observadoras a las reuniones del Grupo de Trabajo, insistían en que cualquier excepción debía estar sujeta a notificación inmediata a un órgano independiente.

Al final, el veintisiete de enero, Carmen Anido propuso una fórmula intermedia. Se trataba de mantener la posibilidad de intervención urgente ante riesgo sistémico, pero obligar a que la declaración de esa circunstancia fuera comunicada en tiempo real a un comité de supervisión con acceso técnico directo, capaz de activar revisión acelerada en un plazo máximo de setenta y dos horas.

La propuesta no satisfacía plenamente a ningún sector, lo cual, paradójicamente, la volvía viable y significaba que era buena.

Así como Adrián Figueroa comprendió que aceptar ese mecanismo implicaba exponer a la empresa a escrutinio casi inmediato en situaciones críticas, también entendió que resistirse podría erosionar la credibilidad que habían comenzado a reconstruir en el mercado.

En una conversación privada con su equipo jurídico, tomó una decisión.

- Aceptaremos la notificación obligatoria y la revisión acelerada - dijo - . Pero exigiremos criterios técnicos claros para definir riesgo sistémico. No podemos dejarlo en categorías vagas.

Era, una vez más, una negociación sobre el lenguaje. Al final, estaba en la línea del planteo de Carmen Anido.

El comité de supervisión en una sociedad anónima o corporación suele ser una pieza fundamental en momentos críticos. Es un conjunto de personas, usualmente algunos consejeros o directores independientes – los no elegidos por un grupo de accionistas en particular -, junto con profesionales de alto nivel de la propia sociedad, como ser un director de tecnología o de seguridad de la información. Son acompañados en la integración por expertos independientes en auditoría de sistemas o derecho tecnológico internacional. Es decir: independencia y gran nivel en capacidades en todos los casos. El comité de supervisión no pertenece a la orgánica legal, digamos, no es un requerimiento orgánico. Sin embargo, su rol es de suma importancia, pues se encuentra encargado de monitorear, evaluar y asegurar que los proyectos, tecnologías y operaciones se alineen con los objetivos estratégicos, las normativas legales y los estándares de calidad de la empresa en aspectos de su actividad sustancial. Es distinto al control orgánico para la administración de una sociedad comercial, como tiene una comisión fiscal o el llamado síndico. Este comité apunta a lo tecnológico - comercial.

Evidentemente, admitir la existencia, con una gestión necesaria y organizada de un comité de supervisión evidencia el gran compromiso con la excelencia en la gestión, a la vez que un cierto sometimiento de quienes toman las decisiones a las reglas establecidas en la interna societaria. Es un cambio importante en cualquier empresa. En Infranet Systems era un cambio muy importante.

En Montevideo, Marina recibió inmediatamente la versión revisada del artículo 24. La excepción permanecía, pero ahora estaba delimitada por parámetros objetivos: volumen anómalo de actividad automatizada, evidencias verificables de coordinación externa o amenazas identificadas por autoridades competentes. Además, la activación de la cláusula generaría un registro público resumido, accesible al comité de supervisión.

No era una victoria absoluta, pero sí una contención del riesgo.

Marina pensó en Julián. Su muerte – con sus efectos subsiguientes - había generado que tanto ella como su prima lo tuvieran más presente que cuando estaba trabajando desde Montevideo. Él habría celebrado el avance y, al mismo tiempo, advertido que ningún texto normativo puede sustituir la vigilancia constante. La transparencia, comprendía ahora Marina, no es un estado permanente ni la consecuencia de la aplicación de un algoritmo definido: es un proceso que requiere mantenimiento continuo.

El anuncio oficial del marco preliminar coincidió con la resolución administrativa de la fiscalía gallega del veintiocho de enero. Infranet Systems fue sancionada por deficiencias en la documentación de impacto y obligada a implementar protocolos internos más estrictos. No hubo acusaciones penales individuales, pero el mensaje institucional fue claro: la escala conlleva responsabilidad reforzada. La investigación sobre las plataformas y sus responsabilidades seguiría por otra vía, que no era la nacional española. Correspondía al ambito unionista.

Los mercados reaccionaron con moderación. La incertidumbre jurídica se reducía, la supervisión se institucionalizaba. La empresa no emergía indemne, pero tampoco devastada. Considerando lo que hubiera podido resultar para la empresa, estaba muy cerca de ser una victoria.

Esa noche, Carmen otra vez caminó sola por las calles de Santiago. Pensaba en la fragilidad de los equilibrios alcanzados y en la facilidad con que una frase mal redactada puede alterar el sentido de un sistema entero. La cláusula invisible había sido contenida, pero otras podrían surgir en el futuro.

En su despacho, Adrián revisaba el comunicado interno que enviaría a todos los empleados. No quería presentarlo como una imposición externa, sino como una evolución necesaria.

“Operar a escala global implica aceptar supervisión estructural”, escribió Adrán Figueroa en su comunicado. “La confianza no se presume. Se construye.”

La intriga no residía en descubrir un secreto, sino en vigilar cómo se escriben las reglas que rigen lo invisible. Las zonas grises no desaparecieron, pero fueron delimitadas con mayor precisión. La cláusula invisible dejó de ser un atajo potencial y se transformó en un procedimiento condicionado.Ya no fue realmente invisible...

Sin embargo, todos sabían que el verdadero desafío no estaba en el texto aprobado, sino en su aplicación futura. Al final, los sistemas aprenden, los contextos cambian y las excepciones siempre encuentran nuevas formas de justificarse.

La arquitectura del poder se había vuelto más visible, pero la vigilancia debía ser permanente. En esa vigilancia - técnica, jurídica, ética - se jugaba el equilibrio entre agilidad y responsabilidad, entre innovación y control.

La historia no concluía con una sentencia ni con una norma de auto-regulación publicada. Continuaba, silenciosa y compleja, en cada línea de código que se desplegara bajo el nuevo estándar. Continuaba en cada decisión humana que, inevitablemente, volvería a situarse en la frontera difusa entre necesidad y exceso.