28. In wiens handen zijn wij? ¿En manos de quién estamos?

LA TRADUCCIÓN AL ESPAÑOL SE ENCUENTRA AL FINAL DE LA CARTA EN NEERLANDÉS.

"Geef mijn beademingsapparaat maar aan die jongen".

Giusseppe Berardelli, 72 jarige italiaanse priester, overleden aan Covid-19.



Beste Kikás,


In wiens handen zijn wij? Dit is een zin die veel wordt herhaald tijdens de pandemie en die we vele malen hebben herhaald in alle crises die we tot nu toe hebben meegemaakt. In wiens handen waren we toen de crisis aan het ontstaan ​​ was, die het gevaar niet kon voorzien? In wiens handen waren we toen het probleem zich voordeed, die de schade niet kon verminderen? In wiens handen zijn we nu, dat de schade moet worden hersteld, die niet weet welke richting hij moet inslaan?

Het gemakkelijke antwoord is dat we zijn, waren en in de handen zullen zijn van de incompetente mensen, slechte mensen of incompetente en slechte mensen. Hoogstwaarschijnlijk zijn, waren en zullen we in handen zijn van algoritmen waarvan we het mechanisme niet kennen.

Cathy O'Neil zegt in haar boek "Weapons of Math Destruction" dat ze drie eigenschappen heeft geïdentificeerd die een voorspellend algoritme bijzonder gevaarlijk maken: 1. het is belangrijk, 2 het is geheim, en 3. het is destructief. Deze modellen ontstaan ​​niet bij toeval, maar komen tot stand wanneer mensen een moeilijk gesprek proberen te vermijden.

Een moeilijk gesprek bijvoorbeeld, zoals die dat een investeerder zou moeten hebben als hij weigert een project te financieren dat de illusie (en het gezinsbrood op tafel) van een ondernemer is. Of zoals het gesprek dat een bankdirecteur zou moeten hebben die een lening aan een klant weigert. Of wanneer een bedrijf moet beslissen wie er moet worden ontslagen. Algoritmen worden gebruikt om te beslissen wie preventieve detentie verdient of wie Covid-19 waarschijnlijk zal overleven en wordt daarom toegelaten tot de ICU. Het gemakkelijke is om te zeggen dat het systeem de beslissing heeft genomen. Het moeilijke, het verknipte, is een complex, oprecht en pijnlijk gesprek met de persoon die door die beslissing wordt getroffen te hebben.

Algoritmen hebben geen ziel. Ze zijn duister en onbekend, en veel mensen durven ze niet te betwisten, uit angst voor wiskunde of uit gebrek aan informatie. In feite hebben de meeste mensen die beslissingen nemen op basis van de resultaten van een algoritme geen benul van hoe het werkt. Het is een zwarte doos waarin data binnenkomt en data uit gaat. En dat algoritme kan om vier verschillende redenen jammerlijk falen: één, omdat de gegevens onvoldoende of onjuist zijn; twee, omdat het algoritme niet goed werkt; drie, omdat degene die het resultaat van het algoritme moet interpreteren het verkeerd doet; en, vier, de belangrijkste, omdat de kwestie waarover het algoritme moet beslissen niet aan een algoritme kan worden overgelaten.

Covid-19 stelt veel van die situaties voor waarin we beslissingen niet aan algoritmen kunnen overlaten. Was het wellicht een algoritme dat Dr. Simon de gemoedsrust gaf dat hij bereid zou zijn om zijn zoon naar de demonstratie van 8 maart te sturen? Of degene die  ertoe bracht te zeggen dat er in Spanje hoogstens een paar doden zouden vallen door het coronavirus? Of waarom was de minister van Volksgezondheid van mening dat het Spaanse gezondheidssysteem robuust genoeg was om de pandemie te weerstaan, zodat het niet nodig was om op tijd beschermende uitrusting voor gezondheidspersoneel en beademingsapparatuur voor ICU's aan te schaffen? Al deze overtuigingen zijn, ik wil dat onderstrepen, gebaseerd op veronderstellingen.

Maar als er een probleem is dat een openbaar gesprek vereist, is het de toekomstige reactie op het coronavirus, dat wil zeggen: wat gaan we vanaf nu doen? Hoeveel mensen zijn we bereid het risico op overlijden te laten lopen om de economie draaiende te houden? Maar ook, hoeveel banen en welk percentage van het BBP zijn we bereid te verliezen, hoeveel gezinnen zijn we bereid om in armoede te storten, en hoeveel openbare en particuliere schulden zijn we bereid over te dragen aan onze kinderen en kleinkinderen, om vermoedelijk enkele levensjaren aan enkele tienduizenden ouderen en chronische zieken toe te voegen? En hoeveel vrijheid, hoeveel sociale rechten en hoeveel democratie willen we verliezen bij die poging?

Deze vragen kunnen niet worden beantwoord met een algoritme waarvan men de werking niet meer snapt of wie dat wel wist. Ze kunnen ook niet worden overgelaten aan een "expertpanel" wiens identiteit verborgen is om hen te beschermen. (Wie beschermt ons tegen hen?). Deze beslissingen vereisen een verdomd moeilijk, openbaar gesprek. Omdat er sommigen zullen zijn zoals de priester Berardelli die klaar zullen zijn voor het grootste offer en anderen die dat niet zullen doen. En we moeten er allemaal rekening mee houden voordat we een beslissing nemen die ons allemaal raakt.

Zoals jij zei in je vorige brief: dat is een grappig dagboek van de pandemie... maar niet heus.

Warme groeten,

Angel.

TRADUCCIÓN AL ESPAÑOL.

"Ponedle mi respirador a ese muchacho".


Giusseppe Berardelli, sacerdote italiano de 72 años, muerto con Covid-19.


Querido Kikás,

¿En manos de quién estamos? Esta es una frase que se repite mucho durante la pandemia y que hemos repetido muchas veces en todas las crisis que hemos sufrido hasta ahora. ¿En manos de quién estábamos cuando la crisis se estaba gestando, que no supo prever el peligro? ¿En manos de quien estábamos cuando se presentó el problema, que no supo reducir el daño? ¿En manos de quién estamos ahora, que hay que dar remedio al daño, que no sabe qué dirección tomar?




La respuesta fácil es que estamos, estábamos y estaremos en manos de incompetentes o de malvados o de incompetentes malvados. Lo más probable, sin embargo es que estamos, estuvimos y estaremos en manos de algoritmos cuyo mecanismo desconocemos.




Dice Cathy O´Neil, en su libro "Weapons of Math Destruction" (Armas de destrucción matemática) que ha identificado tres propiedades que hacen que un algoritmo predictor sea especialmente peligroso: 1. que sea importante, 2, que sea secreto y 3. que sea destructivo. Estos modelos no surgen por casualidad sino que se establecen cuando las personas intentan evitar una conversación difícil.






Una conversación difícil, por ejemplo, como la que tendría que tener un inversor cuando rechaza financiar un proyecto que es la ilusión (y el pan de los hijos) de un empresario. O como la que debería tener el director de una oficina bancaria que le niega un préstamo a un cliente. O cuando una empresa tiene que decidir a quién despedir. Se ha llegado utilizar algoritmos para decidir quién merece prisión preventiva o quién tiene probabilidades de sobrevivir al Covid-19 y, por lo tanto, es admitido en la UCI. Lo fácil es decir que el sistema ha tomado la decisión. Lo difícil, lo jodido, es tener una conversación compleja, sincera y dolorosa, con aquel al que afecta esa decisión.






Los algoritmos no tienen alma. Son oscuros y desconocidos y muchas personas no se atreven a ponerlos en solfa, bien por miedo a la matemática o por falta de información. De hecho, la mayoría de las personas que toman decisiones en función de los resultados de un algoritmo no tienen ni idea de como funciona. Es una caja negra en la que entran datos y salen datos. Y ese algoritmo puede fallar estrepitosamente por cuatro razones distintas: una, porque los datos sean insuficientes o incorrectos; dos, porque el algoritmo no funcione bien; tres, porque el que ha de interpretar el resultado del algoritmo lo haga mal; y, cuatro, el más importante, porque el asunto sobre el que ha de decidir el algoritmo no se pueda dejar en manos de un algoritmo.




El Covid-19 nos propone muchas de esas situaciones en las que no podemos dejar las decisiones en manos de algoritmos. ¿Fue acaso un algoritmo el que dió la paz de espíritu al Dr. Simón por la que estaría dispuesto a enviar a su hijo a la manifestación del 8 de marzo? ¿O el que le llevó a decir que en España, como mucho, habría unos pocos fallecimientos por coronavirus? ¿O por el que el ministro de Sanidad consideró que el sistema sanitario español era suficientemente robusto para aguantar la pandemia, por lo que no era necesario adquirir, a tiempo, equipo protector para el personal sanitario y respiradores para las UCI? Todo esto, quiero que lo tengas claro, son suposiciones.




Pero si hay un asunto que requiere una conversación pública es la respuesta futura al coronavirus, es decir: ¿Qué vamos a hacer a partir de ahora? ¿Cuánta gente estamos dispuestos a poner en riesgo de muerte para que la economía siga funcionando? Pero también, ¿cuántos puestos de trabajo y qué porcentaje del PIB estamos dispuestos a perder, cuántas familias estamos dispuestos a meter en la pobreza, y cuánta deuda pública y privada estamos dispuestos trasladar a nuestros hijos y nietos para, potencialmente, añadir algunos años de vida a algunas decenas de miles de ancianos y enfermos crónicos? ¿Y cuánta libertad, cuantos derechos sociales y cuánta democracia estamos dispuestos a perder en el intento?




A estas preguntas no se puede dar respuesta con un algoritmo cuyo funcionamiento ya no conocen ni quienes lo hicieron. Ni tampoco pueden dejarse a un "panel de expertos" cuya identidad se oculta para protegerlos. (¿Quién nos protege a nosotros de ellos?). Estas decisiones requieren una conversación pública, muy jodida. Porque habrá algunos como el sacerdote Berardelli que estarán dispuestos al mayor sacrificio y otros que no. Y a todos hay que tener en cuenta, antes de tomar una decisión que nos afecta a todos.






Como dijiste en tu última carta, vaya diario de coña de la pandemia que nos está saliendo.




Un abrazo, querido amigo.






Angel