Coop, non passa un prodotto: per l'algoritmo diventa un ladro
La disavventura raccontata dal professor Alessandro Somma: errore con l’uso del Salvatempo poi i controlli su ogni spesa
Ferrara Che sensazione si prova ad entrare in un ipermercato dove una sorta di Grande Fratello ti punta gli occhi addosso e continua a sospettare di te per anni dopo averti classificato come “ladro” tra le pieghe del suo algoritmo? Stando alla testimonianza rilasciata da Alessandro Somma, professore ordinario di diritto comparato alla Sapienza di Roma, dopo aver insegnato per anni a Genova e a Ferrara, è un’esperienza da evitare assolutamente ma che continua a ripresentarsi in barba a qualsiasi tentativo di riportare la fiducia tra i codici diffidenti del Grande Fratello.
Somma è rimasto “scottato” dopo aver fatto la spesa in un centro commerciale di Coop Alleanza 3.0, a Ravenna. «Avevo fatto acquisti col servizio “Salvatempo” e ho dimenticato di puntare il lettore per codici a barre su un prodotto, per cui era risultato un ammanco. Mi è stato richiesto il controllo della spesa, ho pagato la differenza e sono uscito. Pensavo fosse finita lì, invece e sono passati 3-4 anni ma continuo ad essere passato al setaccio e criminalizzato sulla pubblica piazza».
La procedura di sicurezza, che ordina il ricalcolo della somma da pagare, si svolge davanti agli altri clienti. Una volta, certo, può accadere. «Purtroppo mi succede spesso di essere inviato alle casse per questo controllo. Lo trovo immotivato ma anche umiliante. Tant’è che hodeciso di non andare più a fare la spesa alla Coop», commenta Somma.
«Per evitare furti – argomenta il docente – si ricorre all’uso di casse automatiche associato al ricorso ad algoritmi che individuano a campione i clienti da controllare. Sempre gli algoritmi decidono le conseguenze nel caso in cui dal controllo emergano ammanchi, ovviamente senza poter valutare se si tratta di un mero errore o della reale volontà di commettere un furto».
Mentre si parla sempre più spesso degli orizzonti e dei rischi legati all’intelligenza artificiale, questi casi sembrano rivelare anche la “fragilità” di processi di controllo sul comportamento degli esseri umani affidati a procedure automatizzate, sottolinea Somma. «Fra l’altro i lavoratori stanno sparendo, sostituiti dal self scanning, la scansione da parte dei clienti degli articoli prelevati dagli scaffali, e dal self check out, ovvero il pagamento attraverso casse automatiche. E a sparire saranno prima o poi anche queste ultime – osserva il professore descrivendo l’evoluzione più aggiornata di questi sistemi – Sono ormai una realtà i cosiddetti autonomous store, negozi nei quali l’intelligenza artificiale rileva direttamente i prodotti prelevati dallo scaffale e detrae il relativo importo dalla carta di credito, senza passare dalla cassa». Il docente allarga a questo punto il discorso sugli effetti sociali dell’impiego sempre più diffuso della tecnologia spiegando che «le prime vittime di questo sedicente progresso sono i livelli occupazionali, peraltro già messi in crisi dalla moria dei piccoli negozi provocata proprio dalla diffusione dei supermercati». Effetti che si trasmettono anche ai consumatori, «perché facilitare il pagamento produce inevitabilmente un aumento degli acquisti di prodotti inutili. Il tutto in un ambiente attrezzato nei minimi particolari per farci spendere» .
Una visione piuttosto critica della struttura “ipermercato”, rinforzata dalla constatazione che per il cliente la procedura di sicurezza risulta «particolarmente imbarazzante perché il suo carrello viene analizzato e il suo scontrino controllato in pubblico. Sempre in pubblico il cliente viene riconosciuto e additato come un potenziale ladro, esposto agli sguardi sdegnati del pubblico». Somma ritiene che si potrebbe «ovviare a tutto questo rendendo trasparente l’algoritmo, dichiarando con quali criteri si fanno controlli su chi risulta essere in errore. Ultimamente ho chiesto spiegazioni alla Coop (Alleanza 3.0) . Mi pareva una richiesta non particolarmente eversiva. Pensavo che una cooperativa, che orgogliosamente si dice fatta dai consumatori e rispettosa dei lavoratori, avrebbe risposto alle mie domande. Invece, dopo una prima risposta decisamente elusiva, è calato il silenzio».
© RIPRODUZIONE RISERVATA