Elena Falletti

Credit scoring software is now entrenched in the banking market to prevent defaults and non-performing loans. However, these software present critical issues concerning black box and algorithm functioning, as well as biases in the data that feed the machine learning. Even though the Artificial Intelligence Act Proposal has not yet entered into force, case law has already been formed on them, starting with the Court of Justice of the European Union, which has recognized that debtors requesting bank loans have access to the right to an explanation under Article 22 GDPR regarding the decision-making process of such programs.

La Corte costituzionale federale tedesca ha dichiarato incostituzionale la normativa di Assia e Amburgo che consentiva l’uso di software predittivi a scopo investigativo perché conteneva disposizioni così vaghe da omettere le definizioni della tipologia di dati, del volume o dei metodi di elaborazione dei medesimi, comprensivi di sistemi di machine learning, in modo da consentire alle autorità investigative di sottoporre a sorveglianza, e quindi profilare, singoli individui e gruppi sociali, coinvolgendo altresì soggetti estranei alle indagini.

La vicenda oggetto della ordinanza emanata il 16 novembre 2018, n. 207 dalla Corte costituzionale concerne l'aiuto materiale al suicidio svolto attraverso un passaggio automobilistico da parte dell'imputato nei confronti di un paziente capace di intendere e di volere, ma sofferente della sindrome di locked-in, verso una clinica svizzera specializzata in pratiche eutanasiche. La Corte costituzionale, rilevata la necessità di tutelare "valori di primario rilievo" presenti nella fattispecie, adotta una soluzione procedimentale innovativa: sospende il giudizio di costituzionalità fino a una data precisa, onde permettere al Parlamento di adottare la soluzione legislativa più appropriata nel rispettare il bilanciamento di valori costituzionali sottesi a simili fattispecie.

A seguito di un ampio dibattito dottrinale e giurisprudenziale, nel quale era intervenuta anche la Corte europea dei diritti umani, la Corte costituzionale aveva cancellato il divieto di diagnosi preimpianto previsto dalla L. n. 40/2004 con la sentenza 14 maggio 2015, n. 96. Ciò nonostante, l’accesso a detta procedura diagnostica non è tuttora garantito in concreto, dati gli elevati costi sanitari della diagnosi preimpianto, non ricompresa nei LEA, nonché per le spese legali necessarie a far riconoscere siffatto diritto in via giudiziale.