AlgorithmWatch avverte che una pletora di sistemi decisionali automatizzati è stata implementata in fretta con il pretesto della salute pubblica.
La pandemia di COVID-19 è stata sfruttata come scusa per normalizzare ulteriormente la sorveglianza e monitorare un numero crescente di attività quotidiane delle persone in tutto il mondo con il pretesto della salute pubblica, ha avvertito giovedì un cane da guardia della tecnologia.
Dall’inizio della crisi del coronavirus, una sfilza di sistemi decisionali automatizzati (ADM) è stata adottata in fretta e con quasi nessuna trasparenza, nessuna protezione adeguata e un dibattito democratico insufficiente, secondo AlgorithmWatch, un’organizzazione no-profit che tiene traccia dei sistemi ADM e il loro impatto sulla società.
Il suo progetto “Tracing the Tracers” in un nuovo rapporto include i risultati di un monitoraggio lungo un anno dell’implementazione dei sistemi ADM, compresi i sistemi basati sull’intelligenza artificiale (AI), in Europa e oltre.
Il gruppo con sede a Berlino, in Germania, avverte che la situazione relativa ai sistemi ADM è persino peggiore di prima dell’inizio della pandemia di COVID-19 perché ora includono strumenti potenzialmente salvavita.
Alcuni esempi di sistemi ADM includono app di tracciamento dei contatti digitali (DCT) e certificati digitali COVID (DCC). AlgorithmWatch avverte che l’adozione di questi strumenti è avvenuta rapidamente e senza alcuna considerazione di potenziali rischi e cadute.
“È davvero scioccante assistere alle stesse tendenze pericolose che abbiamo documentato prima della pandemia – opacità diffusa, controllo e dibattito democratici insufficienti, ipotesi soluzioniste – anche quando sono in gioco milioni di vite”, Fabio Chiusi, responsabile del progetto Tracing the Tracers , ha detto ad Al Jazeera.
Ha avvertito che il COVID-19 e la sorveglianza di massa adottata in Europa e altrove negli ultimi due anni, come le app di tracciamento dei contatti e le certificazioni sullo stato del COVID-19, fanno parte di un “esperimento sociale senza precedenti nella sorveglianza sanitaria”.
Ciò che è ancora più preoccupante è quanto poco se ne sia discusso nei paesi democratici.
Ad esempio, i termoscanner e le telecamere di sorveglianza con l’assistenza di droni e robot hanno contribuito a garantire che le persone mantenessero il distanziamento sociale e rispettassero le norme e i regolamenti sulla quarantena.
L’idea che la tecnologia possa essere utilizzata per risolvere problemi sociali complessi, inclusa la salute pubblica, non è nuova. Ma la pandemia ha fortemente influenzato il modo in cui viene applicata la tecnologia, con gran parte della spinta proveniente dalle politiche di salute pubblica e dalle percezioni pubbliche, afferma il rapporto.
Il rapporto ha anche evidenziato il crescente divario tra le persone che difendono con fervore gli schemi e coloro che vi si oppongono fermamente e come la paura e la disinformazione abbiano influenzato entrambe le parti.
I risultati prodotti dall’intelligenza artificiale “sono stati selvaggiamente esagerati, soggetti a clamore e persino sfruttati in una pericolosa propaganda in stile Guerra Fredda tra superpotenze in conflitto”, ha affermato Chiusi.
“La tendenza precede di molto la pandemia e un’emergenza di salute pubblica può essere inquadrata – ed è stata – come la scusa perfetta per giustificare – e peggio ancora, normalizzare – una sorveglianza diffusa, soprattutto in contesti non democratici. Ciò che è ancora più preoccupante è quanto poco sia stato discusso anche nei paesi democratici”, ha detto ad Al Jazeera.
I viaggiatori sono stati soggetti a nuove rigorose regole e monitoraggio dall’inizio della pandemia di coronavirus [File: Chalinee Thirasupa/Reuters]Le risposte basate su ADM hanno aiutato ad affrontare il COVID-19, ma rimangono ancora dubbi sul fatto che le app DCT, gli schemi DCC, l’IA e altri algoritmi abbiano aiutato le nazioni a rispondere in modo efficace, osserva il rapporto.
“Le future implementazioni di ADM devono essere basate sull’evidenza, trasparenti, chiaramente limitate nell’ambito e nella durata e discusse in modo più democratico”, sottolinea Chiusi.
Il rapporto offre raccomandazioni, inclusa l’eliminazione di imposizioni opache, e afferma che la pandemia non può essere utilizzata come scusa per attuare eccezioni “vaghe e indefinite” ai principi del diritto dell’Unione europea e del diritto internazionale sui diritti umani.
La pandemia è un problema complesso di salute pubblica e non può essere trattato come qualcosa che può essere risolto dai progressi tecnologici, ha aggiunto il rapporto, sottolineando che i governi e i leader devono fare tutto il possibile per garantire che la sorveglianza sanitaria di massa non diventi la nuova normalità.
AlgorithmWatch tiene traccia dei problemi relativi ai sistemi ADM COVID-19 nel suo database. Ha rilevato che l’Unione europea non è riuscita a governare adeguatamente gli sviluppi importanti durante la pandemia.
Ha inoltre messo in guardia contro una corsa agli armamenti di intelligenza artificiale tra Stati Uniti e Cina, sottolineando che un approccio basato sull’evidenza ai sistemi ADM può aiutare a evitare tensioni e conflitti internazionali.
